最后，他做出决定，先集中精兵，将陈朝与吐谷浑扫除，振奋士气，最后再与突厥一争高下。
公元583年，经过数月准备，隋朝发动伐陈之战，在大将贺若弼、韩擒虎等人率领下，隋军浩浩荡荡直奔陈朝。同年九月，隋朝发动进攻，水路并进攻破陈军防线，贺若弼在寿阳大破陈军主力，并在甑山镇成功阻击前来增援的陈朝水师。隋军越战越勇，而陈军节节败退，很快，江北失地再次回到隋朝手中。
隋军反击如此凌厉，是陈朝皇帝陈宣帝没有想到的，本来他想趁着隋朝初建，将原本属于陈朝的淮南地区夺回，没想到赔了夫人又折兵，眼看隋军要打到都城，陈宣帝急火攻心，竟然犯病归西了。而后，其子陈叔宝登基，也就是后世常说的陈后主，陈后主可没有他老子那般雄心壮志。
为了能够保住眼前的安逸生活，他刚登基就选择向隋朝求和，主动献上投降书，并表示愿意割地以示诚意。眼看陈朝覆灭在即，隋军将领不愿接受投降，纷纷上书请示南下，但是，隋文帝有着自己的考虑，他认为：陈朝败局已定，短期内没有威胁，眼下突厥大军压境北线，隋军主力不应恋战陈朝，于是，他便否决了众将的请示，将隋军撤回。
在南线隋军反击陈军的同时，隋朝西线反击战也正在展开，以元谐为统帅，郭俊、元浩为大将，率领数万铁骑长途奔袭反击吐谷浑。吐谷浑国虽然得到消息，但有了之前隋军的败退，自然不会把隋军放在眼里，不仅不选择守城迎战，反而派出两万骑兵出城抗击。终于，两万吐谷浑铁骑在丰利山与隋军相遇，双方遂展开激战。
