马腾入朝以后，马超并没有跟着一起，而是接管马腾的军队。曹操要攻打汉中张鲁，要经过关中地区。这个举动有"假道灭虢"的嫌疑，也引起了马超的警觉。何况根据《魏书》的记载，曹操本意就是要威胁关中各个军阀交出人质，好受到自己的管控。于是马超联合韩遂、侯选、程银、杨秋、李堪、张横、梁兴、成宜、马玩，一共是十个大大小小的军阀，举兵反叛。
曹操亲征关中，击败马超等人。马超曾经一度卷土重来，但是又被击败，逃到汉中依附张鲁。从此之后，马超从一个军阀首领成为其他军阀的部将。
刘备与刘璋翻脸，从葭萌关进攻成都。马超在张鲁那里过得也很不如意，于是和刘备勾搭到一起。当时刘备已经连战连捷，攻打成都。马超的到来成为压倒刘璋最后一根稻草。刘备秘密给马超一支军队，让他在成都城外面露个脸，两个相。刘璋一看还有一支生力军，没过多久就投降了。
刘备给马超很高的荣耀，先是左将军，后是骠骑将军，但是也没有什么特别亮眼的表现了，而且在蜀汉生活得也提心吊胆，马氏一族的血仇未报，最后在章武二年（即公元222年）病逝，只有四十七岁。
