不久之后，诸葛亮去世，为了保证大军顺利返回，杨仪等人秘不发丧，依照诸葛亮遗计，令费祎向魏延传达撤军，并令其断后的命令。魏延闻言，不满的说道，"丞相虽然死了，但我还在。亲属官员就可以将其安葬，我来率领军队北伐，怎么能因为他的死荒废了天下大事？况且我魏延何许人也，怎么能听从杨仪的安排，甘作断后之将。"（《三国志·魏延传》）
得知魏延的态度后，杨仪便按照此前的安排，不再理会魏延的去留，直接率领大军徐徐撤退。魏延得知后自然大怒，认为杨仪这是有意怠慢自己，于是日夜兼程的赶到了杨仪大军之前，并将所过之处的道路全部破坏，想要赶在杨仪之前率先返回成都。
杨仪和魏延的矛盾全面爆发之后，两人均上书刘禅指责对方谋反，刘禅无法决断之下，只得向朝中大臣进行询问，结果董允、蒋琬等人都表示信任杨仪、怀疑魏延。可以说，由于魏延平日里的性格原因，此时朝中的形势对于他已经极为不利。
在朝中局势不利的情况下，魏延率军先行抵达占据了南谷口，并随即对杨仪大军发动了进攻，杨仪则命王平抵御魏延。王平来到两军阵前，大骂魏延的先头部队"公亡，身尚未寒，汝辈何敢乃尔！"魏延的部署知道此事错在魏延，因此"军皆散"，只有魏延和其子数人逃亡，杨仪则派遣马岱追上魏延并将其斩杀。杀死魏延之后，杨仪将马岱献上的魏延头颅踩在脚下，骂道，"庸奴！你还能再作恶么？"并随之诛灭魏延三族，可见杨仪对魏延的恨意。
《三国志》明确指出，"原延意不北降魏而南还者，但欲除杀仪等"，而元代的郝经也认为魏延被杀乃是杨仪"以私忿杀大将，罪浮于延"，可见魏延之死乃是因与杨仪争权，再加上两人长久以来的矛盾导致的。
