后来曹操与吕布在濮阳交战，数次失败，又遇到蝗虫灾害，损失惨重。袁绍这时派人说和，曹操见兖州已失，军粮将尽，正想答应袁绍要求的时候程昱进言，袁绍虽然有野心却没有那个实力，一定会失败的。将军有龙虎之威，不可以做像韩信、彭越那样臣服于他人的人。虽然兖州残破，但是还有三城可守，有我和荀彧的协助以及将军的神武再加上上万能战斗的士兵，我们能成就霸业的。曹操这才打消了投靠袁绍的念头。
但是曹操对程昱还是有防备之心，在攻取荆州后，曹军实力逐渐扩充，一日曹操抚着程昱的背说:当初兖州之败，如果不是听从了你的计谋我又怎么可以来到这里呢？程昱立马主动交出了兵权，表示从此不问世事。而他也活到了八十多岁才逝世，也算是一个善终的结局。至于他为什么得不到曹操重用的原因，有以下两个猜测：一是程昱功劳太大曹操怕功高盖主，二程昱性格比较凶狠，据说当年曹操军队缺少粮食，程昱就掠夺自己县城里的粮食为曹军供应三日的粮食，其中还夹杂着不少的"肉干"，这种行为使程昱的名声受到了很大的破坏。"太可怕"是曹操对他的评价。
