相对于李善长，刘伯温更内向也更不讲人情，他说一不二，始终坚守和贯彻明朝的法律。李善长则主张以宽厚仁义治国，他做事首先考虑的是人情而不是法律。如此两个行事风格大相径庭的人在一起共事，势必会产生矛盾。朱元璋离开南京后不久，中书省高官李彬贪污腐败被刘伯温逮个正着，刘李之争就此拉开了序幕。
李彬是李善长的爪牙，李善长借助李彬号令中书省。如果李彬裁了，那么李善长在中书省的影响力就清零了，所以李善长听到消息后立刻前去找刘伯温求情。可是刘伯温是个不留情面的人，他当着李善长的面写信给朱元璋请求处死李彬，李善长第一次营救计划碰壁而归。
朱元璋同意判李彬死刑，等到临刑那天李善长再次出面阻挠。他借天神之名恐吓刘伯温，宣称杀了李彬，老天就不会下雨。刘伯温针锋相对地回应:"杀了李彬老天才会下雨。"万万没想到，这两个智谋冠绝当世的谋士，竟然会把胜负的判定权交给老天爷。老天爷下雨则刘伯温胜，老天不下雨则李善长胜，最终老天爷站在了李善长一边，刘伯温输得很彻底。
