同年五月，曹操抓捕在邺城的马超族人（包括父亲马腾，二弟马休，马铁等），计三族人，全部斩杀，这让马超悲愤交加。另一方面，又派夏侯渊为首的征西部队前去冀城救援，但是八月，夏侯渊援军依旧未到，马超的进攻没有停过，而且越来越猛烈，刺史、太守大惊失色，开始考虑向马超投降。杨阜流泪劝谏说："我率父兄子弟以节义相鼓励，死守不降，田单死守，还没有如此坚固呢！而今放弃马上就要建立的功名，给自己蒙上不义的罪名，我愿以死相守。"于是号啕大哭。刺史、太守最终还是派人求降，打开城门让马超进来。
马超占据冀城，气恼自己的亲人被杀，冀城居然坚守了这么久才投降，就把杨阜的从弟（堂弟）杨岳抓了起来，默许张鲁部将杨昂处死刺史韦康，故州人莫不凄然愤概。面对国仇家恨，杨阜便在暗中开始策划针对马超的复仇计划！
不久杨阜告假，请求埋葬亡妻。杨阜的外兄姜叙屯兵历城。杨阜从小在姜叙家长大。他见到姜叙和叙母之后，叙说了冀城陷落的经过，悲泣不已。姜叙说："何以如此悲恸？"杨阜说："守城却又守不住，君长已死而不能同命，我还有什么脸活着呢？马超背叛父辈，背叛国家，烧杀将士。这何止是我个人怕受人指责，全州士大夫都要蒙受耻辱。您带兵专管一方却没有讨杀贼逆之心，这正是史书上所说的'赵盾弑其君'的情形。马超虽强，却无视信义，部下矛盾重重，所以打败他并非很困难。"姜叙的母亲很感慨，敦促姜叙听从杨阜的劝说。
