从中央到地方，又从地方到中央，历经政治、刑法、民事、军事等各种要害部门，李渊大幅度熟悉了国情民风。在这过程中，他深刻地认识到，隋朝这条大船已经千疮百孔，无可挽救，行将覆灭。由此他广结志士豪杰逐步建立了以他为首的势力集团，为天下大变做好了准备。他不想当忠臣，为失尽民心的隋朝去陪葬。然而，尽管他行事周密，还是受到了隋炀帝的怀疑。隋炀帝召他去行在，他托病未去，隋炀帝暗中吐出了希望他早死的意思。
为打消隋炀帝的怀疑，他开始自秽，受贿、酗酒、玩女人，以掩盖他真实的行迹。这一招是有效的，隋炀帝改变了对他的看法。因隋炀帝确信，如此一个贪官、淫官、混账官，虽然行为很是不端，却是不可能胸有大志的，这要比那些廉官、好官、正直之官让人放心得多。
李渊的自秽，不仅取得了预期的保身效果，且迎来了官运亨通。在出任几个显眼的军事职务后，大业十三年（617年），他被任命为至关重要的太原留守。太原是北方的军事重镇，为防御突厥，此地建造了森严的深池坚城，集聚了大批的精兵强将，囤积了充足的粮食军需。
此外，太原还建有晋阳宫，是隋炀帝在北方的行宫，由此具有相当的政治感召力。李渊受命的任务是，和马邑（今山西朔县）太守王仁恭成犄角之势，共同防御突厥。
