朱元璋对此建议置之不理，于洪武二年（1369年）命令开工在临濠营建城池宫阙，前后六年，耗费极大。加上朱元璋在同王保保的战争中又吃了败仗，死伤无数。在这种形势下，洪武八年四月，恰好在刘伯温去世之时，朱元璋最终不得不亲自撰写罪己文告，到中都祭告天地，罢建中都。
文章称，刘伯温的逆耳忠言终被验证，也彰显了这位开国功臣"以道事君"的高尚人格。刘伯温是魏征一样的谏臣，可惜朱元璋不是唐太宗。朱元璋并不需要这种拥有高尚人格的臣子，他更信任同为淮西人的嫡系，如李善长与胡惟庸。
在与李善长有过几次公开的争论后，刘伯温以丧妻之名请求告辞还乡。这本来是可以求得善终之事，然而刘伯温虽然被朱元璋比作自己的张良，比起明哲保身的张良，还是相差甚远。张良随着刘邦皇位的渐次稳固，从"帝者师"退居"帝者宾"的地位，遵循着可有可无、时进时止的处事原则。
据《资治通鉴》记载：自从刘邦定都长安后，张良开始不吃五谷，足不出户，并执意求去："追随赤松子并探求长生不老药。" 嘉靖时的知识分子廖道南批评刘伯温不能及时功成身退，大抵是与张良比较。在辞官3个月后，朱元璋召刘伯温回京，刘伯温欣然从之。然而洪武三年，朱元璋大封功臣，刘基仅被封为诚意伯。
