马超报仇心切只顾追杀曹操，没注意夏侯渊带着一军，已在河西下了营寨。马超心里是大惊，赶紧收军回了寨子。韩遂说："曹兵乘虚而入如今我们腹背受敌，各位有什么好法子吗？"有一个部将李堪却说："不如先割地求和暂且罢兵，等挨过这个冬季再说。"曹操知道后大喜，在谋士的建议下决定给他们使一个反间计。于是曹操让人回书说："待我徐徐退兵，还汝河西之地。"不料马超得到了此信，第二天两军对垒，曹操要求韩遂上前对话。马超一看两人相交甚欢，果然心生怀疑只好退兵。之后曹操趁热打铁，又故意给韩遂写了一封很模糊的信，被马超发现后他以为是韩遂故意涂改的，是要伙同曹操暗害自己，于是对韩遂更加的不信任了！
后来马超和韩遂去攻城，曹操再次要求与韩遂对话。这次马超终于坐不住了，他认定韩遂已经降操了。于是对韩遂大打出手。曹操一看立即在城楼上大喊："韩将军莫慌，我来救你。"然后就下令放箭射向马超，马超坐骑被杀死，他自己也跌落地上。韩遂于心不忍立刻下马将马超扶起，不料此时的马超已经认定了韩遂叛变，他不由分说拔出宝剑就砍掉了韩遂一只手臂！导致韩遂不得不降曹了。于是马超打败而逃！被曹操打的只剩得三十余骑，到此为止他的兄弟长辈都被他坑了个遍。
兵败后的马超逃到了羌地，攻占了陇西州郡。与当地的羌兵关系很好，在这里休养生息二载有余，所到之处，尽皆归降；冀城攻打不下。于是刺史韦康就向夏侯渊求援，但由于得不到曹操的允许，也就没有出兵帮助韦康。韦康一看这没招了，然后就主动投降了马超。但是马超却认为你现在才想起来投降，你不觉得太晚了吗？因为冀城打的时间太久了，此时马超就找了一个借口说韦康不是真心投我，于是就下令把韦康一家四十多口全部都杀了。反而是当时不让投降的杨阜，在马超眼里却成了忠义之人。甚至马超还任命杨阜为参军。连杨阜推荐的梁宽、赵衢二人，都被马超尽用为军官。
