隋炀帝杨广统治后期，各方矛盾激化，全国各地农民起义风起云涌，隋朝命运处于风雨飘摇之中。著名的相师史世良曾告诉过李渊："公骨法非常，必为人主，愿自爱，勿忘鄙言。"这里所谓的"人主"，就是指皇帝。
李渊从此有了异心，广交天下豪杰。恰好有一次隋炀帝下诏命李渊去其巡行所到之地见驾，李渊因病没去，引起隋炀帝进一步疑忌。他知道后日益恐惧，只好无节制地饮酒、收受贿赂自污以求自保。
公元615年，李渊被任命为山西河东抚慰大使，在今天的山西北部平定了母端儿、柴保昌等领导的起义军。第二年，他以右骁卫将军身份与王仁恭一起抗击北方的突厥。617年，李渊以累功正式被任命为太原留守、晋阳宫监，成为这一地区最高军政长官。
但表弟隋炀帝对其仍不放心，派王威、高君雅为副监来监视防备李渊。一次突厥入侵，李渊打了败仗。隋炀帝听闻，派使臣把李渊抓起来准备送江都受审。
