杨谅率领部队出了太原城之后，长孙无乃和豆卢毓一起关闭了太原城门。杨谅看到自己无比信任的大舅子和好朋友背叛自己，急得是怒不可遏。杨谅命令部队调转枪头，向太原城发动了猛攻。长孙无乃和豆卢毓兵微将弱，根本就不是杨谅的对手，太原城很快就被攻破了。杨谅抓住了长孙无乃，把他杀了。（此事典出《隋书》语："后遇谅于并州起逆，率众南拒官军，乃留行布城守，遂与豆卢毓等闭门拒谅，城陷，遇害。"）
长孙无乃以卵击石，明知道打不过杨谅，也要跟杨谅一战。他虽然没有战胜杨谅，却让杨谅耽搁了好长时间在并州，使得杨谅失去了宝贵的战机，为朝廷争取了宝贵的备战时间。隋炀帝利用宝贵的时间，调集大军攻打杨谅。参与攻打杨谅的将军，主要有两个，一个是杨素，一个是长孙晟。《资治通鉴》记载，长孙晟在出兵之前，还曾经以儿子在敌营为由，辞去统兵将军的职务，隋炀帝却坚持让长孙晟领兵出征。（此事典出《资治通鉴》语："晟辞以男行布在谅所部，帝曰：公体国之深，终不以儿害义，朕今相委，公其勿辞。"）
李世民剧照，感谢原作者
到了长孙晟起兵剿贼的时侯，传来了长孙无乃被杨谅杀害的消息。长孙晟把国仇家恨连在一起，向杨谅的叛军发起了猛攻，他和杨素一举平定了杨谅的叛乱，并且活捉了杨谅。长孙无乃死后，杨广褒奖他的忠义之心，给了他极高的哀荣。长孙无乃无子，隋炀帝把他的哀荣给了他的弟弟长孙恒安继承，让长孙恒安出任鹰扬郎将的官职。
