陈友谅大军攻陷太平后，兵锋直指朱元璋，来势汹汹。就仿佛当年曹操大军南下，孙权的阵营战和不定。此时朱元璋也在犹豫是战是降，刘伯温告诉他："天道后举者胜，吾以逸待劳，何患不克，莫若倾府库，开至诚，以固士心，伏兵伺隙击之，取威制胜，以成王业，在此举也"。正是由于刘伯温的这句话，朱元璋才有勇气以劣势对抗比自己强大的陈友谅，并成功将其击败。
可以说没有刘伯温，朱元璋要想笑到最后没有那么容易，因此明朝建立后朱元璋也没有亏待他，封他为诚意伯，拜御史中丞兼太史令。大明开国之后，刘伯温又帮新生的明朝建立了法制，让国家能够正常运转起来。但出身社会底层的朱元璋，爬上皇位之后，心里的自卑感越来越重，最终对功臣们也不信任了。刘伯温虽然殚精竭虑，却也逃不过朱元璋的猜忌。再加上政敌们煽风点火，朱元璋渐渐对刘伯温动了杀心。
洪武三年（1370年），朱元璋亲自给刘伯温写了"辞退信"，让他回家养老去。但胡惟庸不希望刘伯温这么舒舒服服地退休，参了他一本，把他的"退休金"和"养老金"都整没了。刘伯温多么聪明的一个人，他知道如果自己离开了老朱的视线，说不定哪天就不明不白的死了。于是没了官职在身的他，就赖在京城里不走了，就让老朱知道自己的一举一动，好让他放宽心。
洪武八年（1375年），64岁的刘伯温病倒了。让他没想到的是，马皇后居然派人来给自己送慰问品。更加让他意外的是，堂堂一国之母居然这么"小气"，只给了自己两颗枣子和一个梨子。但意外归意外，刘伯温秒懂了马皇后的意思：早早离去！正当刘伯温准备告老回乡时，胡惟庸带着医生前来探望并给他开了药，刘伯温吃下后没过多久便死在了老家。
