李密比较器重单雄信，军中都称他为"飞将"。但李密的亲信房彦藻认为，单雄信这个人不可信，容易背叛主人，建议李密除掉他。但李密爱惜他的武艺，不忍下手。
后来李密败给王世充，单雄信转而投降王世充，成为大将军。李世民率军攻打洛阳时，单雄信率兵迎战，战斗中他的大枪险些伤到李世民，徐世勣在一旁急忙大喝："此秦王也！"单雄信这才收枪退回，让李世民躲过一劫。
李世民曾经带领五百骑兵出行，被王世充的一万多人包围，单雄信手持长槊直扑李世民，尉迟敬德跃马大呼，横刺单雄信，使其落马。尉迟敬德保护李世民杀出重围。
李世民打败王世充之后，把他的十多位亲信部将斩于洛水之上，其中也包括单雄信。
