张须陀首先断了王薄在黄河上搭建的渡桥，然后张须陀再率军向王薄挑战，王薄联军不敌隋军开始撤退，当他们败逃至津梁渡口时却受阻，这里早就埋伏了张须陀安排的水军，王薄联军被打得溃不成军。隋炀帝听闻后大喜，大赏张须陀。
隋炀帝二伐辽东期间，杨玄感举兵反隋，自此关陇集团与隋炀帝之间的矛盾彻底激化，很多地方官员不尽职尽责镇压起义军，做做样子反抗一下，或者不加抵抗就投降，甚至有的还弃城而逃。
张须陀却是个例外，他把保卫隋朝的重任放在首位。
一次裴长才、石子河等人率领两万义军攻打历城，张须陀来不及组织军队，他亲自率领五个骑兵挑战。张须陀陷入重围，受了一身伤，还差点丢了性命，在他奋勇抗战下裴长才败走。
因张须陀屡立战功，被隋炀帝任命为河南道十二郡黜陟讨捕大使，掌管河南道十二郡（即今天山东，河南大部，江苏、安徽、山西、河北部分地区）的人事任命权和兵权。
