杨阜这个人很有些背景。他在建安初，韦诞在任凉州时，便出任从事，建安五年（200年），他前往许都觐见天子，顺便打听了曹操一些事，他返回关中时，马腾这些人都找他询问"曹操和袁绍谁能赢？"
当时杨阜就断言曹操能赢（也有可能是听荀彧说的，或者是当时流传度非常广的十胜十败）。也由此可推测，杨阜和马腾、马超这些人是有过交往的。
后来，曹操还征辟杨阜为幕僚，这应该是汉阳人，甚至是凉州人的头一份。在马超之乱时，杨阜又出现在曹操身边作为参谋；但是曹操在渭南之战取胜之后，并没有心力决定进入凉州，彻底解决韩遂、马超的割据。杨阜对曹操劝说无效，只能无奈再次回到韦康身边。
马超占据汉阳后，也对杨阜等天水人礼待有加，引为己用，但是杨阜心中对马超不服，他誓要为故主韦康复仇。当然，也有可能是杨岳入狱的事让杨阜不服。
