献"劾无所避"计，麾下骄兵悍将再不敢目无法纪。
期间，首献"诱敌深入"之计，以弱胜强，于钟山大败陈友谅汉军，灭其锋锐，朱元璋打算赏赐刘伯温，被其所拒；再献"奇袭"之计，攻占陈友谅巢穴江州，同样并未接受赏赐；三献"权宜"之计，一举平定江西……大明立国后，丞相李善长即将年老致仕，朱元璋欲让刘伯温接任，却被力辞。
无奈之下，朱元璋打算任命杨宪、胡惟庸继任丞相，而刘伯温则认为二人并不适合，应该慎重选择。后来，李善长离任时，又极力举荐胡惟庸，因此胡惟庸接任丞相之职。
正如刘伯温所言，胡惟庸没有"宰相肚里能撑船"的心胸，因当初反对其接任丞相之故，对刘伯温怀恨在。所以，当致仕回乡的刘伯温上书朱元璋说"谈洋这里有盗匪巢穴，应当巢灭"时，而胡惟庸却令心腹官员弹劾刘伯温想在谈洋这块"拥有帝王之气的风水宝地上"建自己的墓地。此言一出，惊了刘伯温一身冷汗，急忙赶回京中谢罪，不敢再回乡里。
最终，在刘伯温生病期间，吃了胡惟庸指派医生煎的汤药后，腹中疼痛加剧，病情不断恶化。朱元璋闻报后，立即安排宫中人员护送刘伯温返回家乡，不到一个月便死于病痛。后来，胡惟庸案发，中丞涂节就曾指出刘伯温吃了胡惟庸指派医生送的汤药后，中毒而亡。
