当然，朱元璋所做的一切，都是为了夺取天下，仅靠“驱除异族”的口号是不够的，他还需要众多能臣良将的辅佐。因此，刘伯温等人，是他最好的选择。刘伯温对于大明基业的创立，究竟有着多大的功劳，这点民间说法不一。
首先，在跟随朱元璋打天下期间，刘伯温并没有民间所传的那样无所不能，但他对于大明的贡献，是毋庸置疑的。他凭借着自身能力，辅助朱元璋恢复乱世秩序，进行国家建设，这些都是刘伯温的功劳。国家建立后，朱元璋赏赐功臣，刘伯温作为功臣之首，自然少不了封官加爵。
从某种意义上讲，他已经实现了自己的政治抱负，位居权重，此生足矣。不过，自幼受儒家思想影响的刘伯温，似乎在这一阶段有了新的使命，他担负起“导君于正”的职责，辅佐皇帝治理国家，防止大明统治偏离传统儒家文化。
朱元璋是一位强势霸道的君主，刘伯温想要在他手上占到便宜，显然机会渺茫。陪侍朱元璋的岁月里，刘伯温数次受封，又数次被贬回乡，可知辅佐君主，并不是轻松的工作。第一次被斥退，是求雨之事，当时，南京地区已经数月没有下雨，民间进行求雨，也没有看到明显效果。
刘伯温趁此上谏，直指朝廷三条过错：
一，许多为国捐躯的士兵妻子，被囚禁在专门设立的“寡妇营”内，禁止外出；
二、由于朝廷兴建工程，导致大量工人死亡，暴尸荒野，尸体长期无人进行处置；
三、既然敌军首领已经投诚归降，就不应当充军放逐。
刘伯温说这些，主要是认为天道灾变是由人事导致的，如果，把这三条朝政弊端解决，老天自然会下雨。朱元璋采纳了他的谏言，结果过了十多天，依旧未迎来降雨。愤怒之下，朱元璋当即对刘伯温作出处罚：“命刘基辞官归乡”。
