至此，马腾与韩遂成了死对头。
到了曹操崛起的时候，马腾与韩遂在钟繇、韦端的劝解下，关系得到了改善。这个时候，马腾为前将军，与韩遂没有太多的交集。后来，在曹操准备南下征战前想招募马腾，便派议郎张既去劝说。但是，由于马腾与韩遂的关系很僵，他便不太想去。
于是，张既用了计谋，不仅到处宣扬此事，还让沿途的官员们准备迎接马腾，声势非常浩大。无奈之下，马腾只好接受，被封为卫尉。大儿子马超被封为都亭侯，管理以前马腾的旧部。之后，曹操虽然一直想招募马超，但他却不为所动。
到了211年，夏侯渊打算经过马超的领地去进攻汉中之时，马超认为这是曹操要为攻打凉州做准备，便想拉拢韩遂一起攻打曹操。于是，马超表态，说："我可以背叛父亲马腾，认韩遂为父。"
