曹操在官渡之战前后,招揽了马腾与韩遂, 两人把各自儿子派到曹操处为人质,臣服于曹操,并且在参与了曹操部下钟繇军对战袁绍部下郭援的战争,马超与庞德率军迎战郭援,其中庞德还亲手斩杀了郭援,这是马超第一次在大战中露面,当时只有27岁。
马腾后来在曹操手下张既的劝说下来到邺城为官,说是为官,其实是当人质的,马腾迫于曹操的压力,只能带着宗族来到邺城,同时把手下的嫡系军队交给马超掌管,这就是马超军队的来由,来自于继承其父马腾的军队。
马超的军队在当时只是凉州众多军阀中实力较强的一支,但在曹操军队的数次打击之下,马超的军队几乎是全军覆没,遭受了灭顶之灾,第一次是公元211年曹操借攻打张鲁之际,准备进入关中,结果引发了关中所有军阀的集体反对,马超、韩遂等十部军阀联合起来对抗曹操的军队,这便是潼关之战和渭南之战,但被曹操以离间计击败,马超逃回凉州。