直到1360年，刘伯温被朱元璋请为帐中谋士，帮助朱元璋开创了明朝，1367年，参与并制定了朱元璋灭元的战略，最后得以实现，在这八年中，刘伯温策划全局，1368年，朱元璋称帝，定都应天，国号大明，将朱元璋任命为太史令，并让刘伯温制定军法，整肃纲纪。
1370年，朱元璋授命刘伯温为弘文馆学士，同年十一月，又将刘伯温封为开过大臣，上将军，守正文臣等，但在第二年，刘伯温便辞官回乡了，在1375年，刘伯温又不慎染了风寒，朱元璋知道后派胡惟庸带着御医前去看望刘伯温，他依据御医抓的药吃后，觉得身体更加不适，1375年二月，刘伯温拖病去面见朱元璋，向朱元璋表明了服用御医后身体不适的情形，结果朱元璋听后，只是说让他好好养病，几日后，刘伯温也自知时日无多，找来了两个儿子，交代完临终遗言后，不久便去世了，享年六十五岁。
