张绣投降曹操不久后，就赶上了与袁绍的官渡之战。在这场大战中，张绣多有立功，又被晋升为破羌将军。官渡之战后，曹操开始北伐，期间张绣也随军出征，205年，张绣助曹操在南皮打败袁谭，为此，曹操增加张绣食邑达到2000户。2000户的待遇在当时绝对是殊荣，因为"是时天下户口减耗，十裁一在，诸将封未有满千户者，而绣特多"。可见，张绣当时的待遇是当时曹操手下诸将中第一多的，属于殊遇。
关于张绣最后是怎么死的，有两种不同说法：第一种是《三国志》的记载，207年，张绣在随曹操到柳城征讨乌桓的路上死亡，被谥为定侯，并由其子张泉继嗣。第二种是《魏略》的记载，说五官中郎将曹丕曾很气愤地对张绣说："君杀吾兄，何忍持面视人邪！"张绣听了这话内心很不安，于是便自杀身亡了。但曹丕担任五官中郎将的时间是211年，这与张绣207年死亡的时间不符，所以，第二种说法被质疑。
不过，按记载看，207年张绣是怎么死的并没有说，而当时曹丕也是随曹操一同出征的，所以，有没有可能是那时曹丕出言伤了张绣，令其自杀身亡。所以，没准儿是后来《魏略》成书时弄错了当时曹丕的官职。如此分析，张绣极有可能是因为曹丕的挤兑而自杀的，这也许又是曹丕心胸狭隘的一个例证。张绣的儿子张泉后来也被曹丕以卷入魏讽谋反案为由诛杀。
