极高的声望让他在民间的形象被神化，成了奉天帝之命带领龙九子帮助朱元璋建国的下凡天神。
可惜朱元璋并没有珍惜这位"天神"，开国后封刘伯温为侯，俸禄却只有240石；而同样是开国功臣的李善长俸禄却有4000石。刘伯温第二年就愤而辞官，临走前劝朱元璋不要任用胡惟庸为相。
没想到朱元璋不但没听他的话，还毫不顾忌地让刘伯温的进言传到胡惟庸耳边。胡惟庸记恨在心，趁刘伯温感染风寒，带着御医名为探病、实为迫害。刘伯温拖着病体想到朱元璋跟前告状，却被朱元璋不以为意地嘱咐安心养病给打发了。
后来历史证明刘伯温果然非常有远见。朱元璋任用胡惟庸为相，导致他权势膨胀，随后爆发了明初最大的叛乱案件"胡惟庸案"，被牵连、诛杀者多达3万人，明朝廷几乎为之一空。
虽然后世有史学家考证说胡惟庸案是冤案，但不管朱元璋是借胡惟庸谋反之事清理朝廷，还是真的有这么大的阵势，朱元璋后悔都为时已晚。
