此时，文帝尚且挂念贺若弼多年来的忠心耿耿，他罢掉贺若弼的官职，用意也是重在提醒。没过多久，他就恢复了贺若弼的官位和爵位。为了不让贺若弼有思想包袱，文帝还特意宴请他，想要他继续为大隋效力。按理说，经过官位升降后的贺若弼，应该有所明白了。
但是，他的谨慎只保留了一段时间。隋炀帝即位后，他便摆出了一副前朝老臣的模样，到处倚老卖老，指点江山。有一次，他甚至在公众场合批评隋炀帝太过奢侈。隋炀帝本身就对贺若弼不满，此时见他出言挑衅，于是，直接将他诛杀。
贺若弼是隋文帝的功臣，不假。但是，他在隋炀帝的眼中，只是一名普普通通的老臣。文帝念及他的过往，可以对他网开一面，可炀帝只是欲除之而后快。贺若弼被处死后，他的妻子被朝廷降为奴婢，他儿子也被降为奴仆。
