自此，李渊就算正式踏入了政坛。杨坚再聪明绝顶也不会想到，自己的善意无意间埋下了扬李抑杨的祸根，并最终培养出了隋王朝的掘墓人。在他死后的第十四年，他一手带大的外甥真的百步穿“杨”，将杨氏王朝射落马下。对杨氏来说，这是不幸的，可对历史来说，这是正常的。纵观中国所有王朝更迭，除宋、明以外，几乎都是统治阶级自己培养推翻自己的人。想来还是比较有趣的，这跟一个家庭差不多，总是老子辛辛苦苦把儿子养大，然后儿子高高兴兴给老子送终。
子曾经在川上曰过：“逝者如斯夫！”对于李渊来说，警卫员的生活时光也如水流淌。值班的时候，时间从警戒中匆匆而过；跟班的时候，时间从脚步中匆匆而过；倒班的时候，时间从鼾声中匆匆而过。弹指间，六年一晃而过，李渊已是一个22岁的强壮青年。隋文帝一看，一个大小伙子，天天跨着把刀值班也不是个事啊，再加上皇后多次要求给李渊重新安排工作，于是杨坚便不再让他做警卫了，将其外放提拔为谯州刺史。谯州就是现在的安徽亳州，跟河南紧挨着，属于真正的中原腹地，离都城大兴不是很远。当时隋朝实行州、县两级行政管理体制，州属于中央直管，地位介于现在的直辖市或地级市之间。其时，谯州下辖六个县，七万多户。那会可没计划生育，家家儿女都跟冰糖葫芦似的，一串一串的，一家五六口人属于生得少的，按此推算，谯州至少有四、五十万人，占隋总人口的百分之一强，州刺史的级别是从三品。从这一任命上可以看出，杨坚还是很看重李渊的能力、相信李渊的智力的。这时候的李渊春风得意，按照常理，他是大隋最年轻的后备干部之一，下放到基层锻炼一段时间，镀完金后充完电后再重新起飞，上升空间将堪比飞船火箭，进入六部乃至三省将水到渠成。李渊也是这么想的，但是世事难料，任何人，包括李渊自己，无论如何也不会想到，起点如此之高的唐国公在随后的人生岁月里，尽其三十余年的大半生，都在原地打转画圈，官衔级别凝固似的停滞在刚迈步时的起跑线上。简直是永远有多远，李渊的从三品官路就有多远。一直到公元617年，杨广任命他为右骁卫将军、太原留守，虽然职位重要，但官衔仍然是从三品，只不过这个从三品的含金量非同小可，纯度超过四个九。
那时候的谯州刺史还是比较好当的，没有招商引资考核，没有戌边守疆风险，无非是修几条便民路，打几眼皇恩井，逢年过节给贫困低保户送点米面大豆小磨麻油，然后抱抱拳握握手，嘱咐他们有困难找政府，别当土匪别造反。总之，稳定压倒一切，和谐胜过一切。这些工作李渊同志驾轻就熟，团结一切能团结的力量是李渊同志的强项，《旧唐书》说他“倜傥豁达、任性真率、宽仁容众、无贵贱咸得其欢心”，可见该同志十分擅长和群众打成一片。概括归纳一下，谯州群众对其操行评语就是一句话：李刺史，俺们都说好！
