不久，司马德戡率领骁果军入城，裴虔通在城内接应。隋末大将独孤盛大惊失色，连忙组织兵力护驾。只可惜，事发突然，裴虔通已经杀到。独孤盛因为没有来得及穿盔甲，短兵相接时吃了大亏，纵然拼死抵抗，最终竟死于裴虔通的刀下。
裴虔通进入内室，寻找杨广的下落。终于在窗户后面找到了躲起来的杨广。杨广战战兢兢说：“你作为朕的亲信旧部，朕待你不薄，你为什么要杀朕？”
当大局已定，宇文化及和司马德戡等人到来，裴虔通则手持利刃，站在杨广身旁，杨广知道命将绝矣，仰天叹息：“我何罪至此？”
裴虔通当着杨广的面，亲手杀了杨广年仅12岁的爱子杨杲，鲜血溅了杨广一身。杨广泣不成声，他希望自己有尊严地死去，要求用毒酒来了结此生。可惜，这个要求被拒绝，最终，杨广被黄绫活活勒死。
隋炀帝杨广，不管他是否伟大了，不管他是否昏庸，大运河也罢，洛阳城也罢，他最终死在了江都。而杀他之人，就包括他曾信任的裴虔通。
一年后，宇文化及被窦建德所俘虏，裴虔通则投奔了唐朝。李渊为了招揽人才，便封裴虔通为徐州总管，转辰州刺史，又封长蛇男。但裴虔通担任辰州刺史后，却十分不低调，总认为自己杀了隋炀帝，对开启大唐江山有拥立之功。因此，引来杀身之祸。
唐朝建立七年后，李世民发动玄武门之变，登基为帝。贞观元年，天下已定，李世民为了安抚前朝百姓之心，便想杀了“隋朝逆臣”裴虔通。有人认为：“裴虔通虽然有罪，但他诛杀杨广，对开启大唐江山有功，罪不至死。”李世民遂免了裴虔通的官职和爵位，流放欢州（越南地名）。
