唐武德元年，在与王世充的交战中，单雄信兵败后投降王世充，徐世绩则投奔了李世民。王世充仍然重用单雄信为大将军。两年后，李世民率军攻打洛阳，单雄信率军出战。单雄信异常骁勇，给唐军造成了重大伤亡，曾在战阵中持枪纵马李世民的弟弟李元吉，幸亏徐世绩出现制止了单雄信。后来王世充被李世民击败，举军投降。
李世民下令将单雄信等一干将领全部处死，徐世绩向李世民苦苦求情，并说可用自己的功勋换单雄信的性命，只求免单雄信一死，但遭到拒绝。单雄信安慰徐世绩说，没关系，我知道自己必定会死。徐世绩说，忠义难两全，并表示会在单雄信死后照顾单雄信的家人。徐世绩割下自己一块肉给单雄信吃下，说自己没有忘记当初同生共死的誓言，单雄信吃下后赴死。
虽然李世民杀单雄信这件事在后人研究历史中在为一个颇具争议的事情，但在当时却少有异议，瓦岗山旧将中也只有徐世绩为单雄信求情，而瓦岗山的另两位老战友程咬金、秦琼却一声不响，这一点正是李世民要杀单雄信的原因。细数单雄信的历史，除了勇猛之外，人品并不好，而且有两件说明此人没有什么原则，也不讲道义。
