李密幼年丧父，母亲改嫁，靠祖母刘氏抚养长大。李密早年博览群书，以文章和辩才闻名，被魏国召任为皇帝侍从官，多次奉命出使吴国。魏国灭亡后，李密隐居，孝养祖母。
西晋泰始三年，晋武帝司马炎召任李密为太子侍从官。李密以"祖母年高，无人奉养"，婉言谢绝。他在给晋武帝的奏书中写道："臣亡国贱俘，至微至陋，猥蒙拔擢，宠命殊私，岂敢盘桓有所希冀！但以刘日薄西山，气息奄奄，人命危浅，朝不虑夕。臣无祖母，无以至今日；祖母无臣，无以终余年。母孙二人更相为命，是以私情区区不敢弃远。臣密今年四十有四，祖母刘今年九十有六，是臣尽节于陛下之日长，而报养刘之日短也。乌鸟私情，愿乞终养。"晋武帝看了李密这封奏书后，感叹说："李密不愧为文章高手，名不虚传！"他为李密孝心所感动，下令停止对他征召。
李密在祖母去世服丧期满后，应朝廷之召赴任太子侍从官。一次，张华向李密问道："你对安乐公作何评价？"李密回答说："安乐公略逊于齐桓公。"张华问他为什么这样看，李密回答说："齐桓公任用管仲为相称霸诸侯，最后误用宦官竖刁而被囚禁后宫，以致饿死后无人过问，尸虫乱爬。安乐公依靠丞相诸葛亮抗击强大的魏国，最后因误用宦官黄皓而亡国。他们的成功和失败大抵差不多。"张华接着又问："诸葛亮对部下言教为何那么琐碎呢？"李密回答说："和诸葛丞相交往的人，实在没有人能同他相比，因为他对别人的教育能注意到细枝末节。"李密没有迎合晋朝大臣而去贬低故国君臣，反而使张华对他更为看重。
