此时正值天下大旱，朱元璋请刘基祈雨。刘基掐指一算，告诉朱元璋说:"阵亡士兵的妻室太多了，而且聚集在一起，阴气郁结；工匠死后，尸骨没能及时安葬；张士诚的降卒们都编入了军户，这三点足以冲犯国家初定的和气，所以发生旱灾。"于是朱元璋按照刘基的建议一一处理了这些问题，可是十天过去了，还是点滴雨水未见，天下依旧大旱。经此种种，朱元璋对刘基越发不信任了，又赶上刘基妻子去世，所以刘基就请假回家奔丧。
临走前，刘基告诫朱元璋，凤阳县虽然是皇上的故乡，但并不适合做建都的地方，还提出不要轻视王保保。可朱元璋不听，依旧兴建中都，并积极准备消灭王保保（扩廓帖木儿，元末将领）残部。不久后，朱元璋所制订的定西计划失利，王保保远逃沙漠地带，成为边患。这个时候朱元璋后悔了，他亲自下诏书，叙述刘基的功劳，召他回京城，并追封刘基的父亲、祖父为永嘉郡公，还多次要给刘基升官，刘基都坚持不受。
刘基虽然疾恶如仇，但是非分明。有次李善长犯了错误，朱元璋要惩罚他，刘基就劝阻说:"李善长虽然有些过失，但是功劳很大，并且他资历威望都很高，善于调和诸将。"朱元璋好奇地问刘基:"李善长曾几次说你的坏话，想要加害你，你怎么还为他说好话呢？我改任你做宰相怎么样？"刘基诚惶诚恐地跪下，说:"这样不行！换宰相就像换房梁，必须用粗壮结实的木料才行，如果用细的，是会断掉的！"
