刘伯温已经看出元王朝末日迫近，天下势将大乱，便在老家青田读书，著作，韬光养晦等待时机。不久，群雄四起。朱元璋打下浙江金华后，得知刘伯温、宋濂是江南名士，即以重金礼聘，刘伯温卖关子，没有答应。朱元璋手下总制孙炎又亲自写信邀请刘伯温，刘伯温才同意出山。刘伯温和朱元璋见面后，即向朱元璋陈述了时务十八策。十八策的主要内容是灭陈(友谅)去张(士诚)、灭方国珍、屯兵自养、勿过度扰民、严肃军纪、招纳贤士等等。朱元璋读后非常高兴，即将刘伯温视作心腹。朱元璋初起兵时，奉红巾军头领韩林儿为首。
至正十五年(1355)，韩林儿在毫州(今属安徽)称帝，国号大宋，朱元璋得到消息，即表祝贺，到了新年，还令中书省为韩林儿专设御座并叩头礼拜。群臣皆拜，独刘伯温不拜。问他为什么不拜，他说：韩林儿不过是个放牧的小孩子而已。我拜他干什么！显然，刘伯温是以这种方式表明他只忠于朱元璋。朱元璋心知肚明，便召见刘伯温，请教平定天下大计，于是有了一次著名谈话，后人称之为朱刘之间的。"隆中对"。刘伯温向朱元璋分析了群雄形势，陈述了征讨天下大计。刘伯温说：张士诚目前不过自保而已，不足为虑。陈友谅篡夺了红巾军领导权，名号不正，但他占据了上流之地，又时刻想消灭我们，是我们的大敌，因此应当首先消灭他。一旦消灭了陈友谅，张士诚自然势单力薄，就可以一举将其灭掉了，然后挥师北上，占据天下！朱元璋听后大喜，对刘伯温说：先生有了什么好的计策，都一定要告诉我啊！
在元末群雄中，陈友谅确实是朱元璋最大的威胁。陈军攻陷太平后，准备挥师东下，一时形势非常紧张。朱元璋手下将士惊恐万状，有主张投降的，有主张逃到钟山去的，只有刘伯温不说话。朱元璋见状，即将刘伯温召入内室请教。刘伯温愤愤地说：凡主张投降的主张逃跑的，都应杀。朱元璋问：先生有什么好计呢？刘伯温答道：陈军小胜就已经产生了骄傲情绪，骄兵必败，我们设下伏兵待其深入，就能很容易打败他们。要成就帝王之业就在此一举了。
朱元璋采用了他的计策，果然大破陈友谅军。论功行赏时，朱元璋要重奖刘伯温，但刘伯温坚决谢绝了。后来，陈友谅军攻破安庆，朱元璋率军亲征，在刘伯温的帮助下，又将陈友谅打得大败而逃。此时，镇守龙兴的陈友谅部将胡美见陈友谅大势已去，便派了自己的儿子到朱元璋军前请降，但条件是不要遣散他的队伍。正当朱元璋面现难色，不知是否该同意这一条件时，刘伯温在后面踢了一下朱元璋的座位，朱元璋一下子醒悟过来，答应了胡美的条件。胡美一降，江西各地都跟着投降。刘伯温在关键时刻为朱元璋平定江西立下大功。
