《旧唐书》载:李靖天赋了得，悟性超人其舅韩擒虎是隋朝开国名将，他自小就随舅舅学习兵法与武艺，为了训练李靖，在自己的两个耳朵上各挂了一个小铁环，头上再顶一个铜钱，让李靖纵马舞枪迎面冲过来，枪挑双环，回马刺钱，这两个动作十分高难，危险系数极大，万一有一个小闪失，韩擒虎的老命休矣。
李靖弱冠便出任长安县功曹，转殿内直长，虽然仅是一个不入流小官吏，但以才干闻名于隋朝公卿之中，吏部尚书牛弘赞曰:"王佐之才"，当时还在世的权臣杨素扶着坐床对他说:"你小子将来也要坐到这个位置！"
隋炀帝大业末年，李靖出任马邑丞，是太原留守李渊手下，此时的隋朝，天下大乱，反隋势力风起云涌，烽火连天，河北的窦建德、河南的翟让与李密、江淮的杜伏威队伍均声势浩大，身为皇亲国戚的太原留守李渊也准备起兵造反，李靖敏锐地发现了李渊的不良企图，就打算赶往扬州向隋炀帝杨广汇报李渊的异动，许知他刚到长安，关中关东都已经大乱，道路不通，让他只好暂时留在长安，更令他想不到的是，李渊起兵后很快就攻占了长安，李靖因是隋朝官员而被捕，与一些隋朝官员一起被押往刑场处死。
临刑前李靖大声喊道:"明公（指李渊）兴起义兵，本是为天下除去暴乱，怎么能没有完成大事，而以私人恩怨斩杀壮士呢？"
