时间到了建安初，许都汉廷派裴茂督关中诸将讨平李傕，马腾则趁这个机会退出凉州，再次返回了关中。
当时汉廷的执政者是司空曹操，曹操对马腾这帮关中军阀也是采取拉拢的手段，在建安四年（199），在官渡之战前夕，汉廷任命钟繇为司隶校尉，对马腾等人进行安抚。
当时官渡局势严峻，马腾等人也对"曹操和袁绍谁能胜出"也保持观望态度。众所周知，最后是曹操赢了，在建安七年（202），袁尚任命的河东太守郭援联络南匈奴军，进军河东。在危急之时，钟繇说服了马腾站队到曹操这一边。
建安十一年（206），并州刺史高幹也试图扰乱河东，最终也是马腾协助作战，平定了叛乱。
在这段时间里，马腾算是终于洗白成了"大汉忠臣"，为汉廷，为曹操出了力。马超作为马腾最信赖的儿子，他也在多次战斗中流过血，负了伤。为此，曹操表彰马超的功劳，还任命马超为徐州刺史，但是马超没有去上任。
