东吴孙权要想北上伐曹，就必然要拔掉合肥这个肉中刺，而曹魏要想南下伐吴，也需尽心经营合肥。于是，合肥便成为了魏吴两方长期对峙的前沿阵地。
三国时期关于合肥争夺战非常精彩，在这个坚城之下，魏吴两方曾死伤数十万军马。第一次合肥之战发生于公元208年，当时，孙权正处于上升阶段，为了夺取合肥，孙权便出动了数万军队进攻合肥，不过，合肥久攻不下，而且天气接连大雨，东吴大军最终也是悻悻而归。
第二次合肥之战爆发于公元215年。这一年，孙权趁曹操讨伐凉州之际攻打合肥，而这一次，孙权也几乎出动了国内所有的精锐军队。这一次与孙权对峙的曹将是张辽，这位名将在关键时刻并没有慌张，相反，他还以仅有的七千曹军突袭吴军。逍遥津一战，张辽名声大震。张辽、乐进所统率的七千曹军不仅挫败了东吴数十万大军的进攻，而且还在吴军准备撤军之际，乘胜追击，把东吴打得七零八落。孙权在这场战役中险些身死，若不是老将凌统拼死护卫，吴军可能就要面临全军覆没的危险。
