不过，这个时候的刘伯温便无心掌管朝政，于是辞官和刘显仁一行人一起钻研学说，直到1360年，朱元璋推荐了金华四杰和他一起商议国家大事，分别是刘伯温、宋濂、章溢和叶琛，这才帮助朱元璋反元建明，在这个期间，刘伯温可谓是开国元老加特等功臣了，如果没有刘伯温，相当于钢枪没有子弹，烈马没有草原。
也是由此，很快就受到了朱元璋的赏识，被招到了朝廷，当时朱元璋反腐力度特别强，无数人都只是因为捕风捉影，还没有被明确判下罪行就被朱元璋残害，刘伯温看到无数冤魂都丧命在朱元璋刀下，为此专门推出了《戊申大统历》，防止朱元璋滥杀无辜。
为了能够稳定朱元璋的政权，刘伯温特地和张友谅等人一起商议明朝周边地域的相关举措，在一行人的帮助下，明朝发展得越来越繁荣，其中刘伯温在背后做了主力军，帮助朱元璋收复了不少的关隘要地，不过也是由于这点原因，朱元璋一直忌惮这些能人才干的野心。
