在董卓祸乱洛阳的时候，马腾响应号召讨伐董卓，成为了讨伐董卓的一员。只是没过多久，董卓就被吕布给杀了，朝廷被董卓的部下李傕和郭汜掌控。
而马腾对朝廷始终是忠心耿耿，所以就曾和马玉马宇合力来制服李傕和郭汜，只是这事没有实施就败露了，而马腾也带领兵马退回了西凉。
当时西凉的主要势力就是马腾和韩遂，他们两人也是结义兄弟，但是两人之间一直矛盾不断，两人的关系也是忽好忽坏，曹操就利用了马腾对朝廷忠心这个弱点，在曹操和袁绍交战的时候，用天子的名义把马腾从西凉调了过来，帮助他来攻打袁绍，为此还给马腾拜将封侯，授予前将军之职。
只是在曹操迎立汉献帝于许都，挟天子以令诸侯，控制朝廷之后，马腾就联合了一些人举兵讨伐曹操，结果失败了。自此之后，马腾就一直退守在西凉厉兵秣马，等待时机的到来，为朝廷继续效力。
