于是，李密就辞职了，专心读书。他经常骑着一头黄牛，一只手捏着牛绳，一只手翻书阅读。有一次，他正在读书，忽然遇到了越国公杨素。杨素是隋朝权势最重的大臣，一生战功赫赫，灭南陈，破突厥，威震天下。他看到李密勤奋读书，非常惊异，就上次攀谈。结果，杨素很是惊讶于李密的才华，他回去对自己的儿子杨玄感等人说：你们的气度学识，都比不上李密，要好好跟他交往。
后来，隋炀帝讨伐高句丽，一时天怒人怨，杨玄感决意起兵，派人去请李密主持谋划。李密见到杨玄感后，献上上中下三策，但杨玄感斟酌之后选择了下策，结果最后兵败被杀，李密也被抓住。本来参与谋反，还是杨玄感的谋主，李密应该是必死无疑的。结果，李密和同伙半路挖开墙壁逃跑，于是逃得了性命。
又过了两年，翟让在瓦岗起义，李密投奔翟让。李密文武双全，才智过人，很快就让瓦岗军壮大起来，成为了反隋势力中最强大的一支。一时之间，李密屡破隋军，手下拥有了几十万大军。当时，在江南的隋炀帝被宇文化及所杀，李密接受了洛阳留守越王杨侗的册封，回师进攻宇文化及。可等到李密和宇文化及两败俱伤，去被王世充偷袭，李密大败，走投无路之下入关中投奔李渊。
当时，李渊已经在关中整合了关陇集团旧部，实力强劲，听说李密来归，喜出望外。李渊拜李密为光禄卿，封邢国公，还将表妹独孤氏嫁给了李密，称呼李密为弟。但李密不甘居于人下，对自己的处境非常不满。于是，李密以去招降关东旧部为名密谋叛唐，结果中了埋伏被杀，尸身被部将徐茂公安葬，年仅三十七岁。
