刘伯温长一脸络腮胡，看起来特别猛，慷慨激昂志向远大，跟朱元璋说起天下大势义形于色，朱元璋觉着此人可信，于是常把他叫到深宫屏退左右说些机密之事，刘伯温也觉得自己能够人尽其才，欣逢明主，所以知无不言言无不尽，朱元璋征伐陈友谅，差点被一大炮轰死，全靠他掐指一算救了一命。他和朱元璋说的事没有第二个人知道，因为他每次给朱元璋上完表就把草稿烧了，一字没有外泄。朱元璋对他很尊敬，不叫他的名字，叫老先生，跟人说，老先生常用孔子的话教导我，是我的张子房。
朱元璋晚年猜忌刻深，对刘伯温当然也不放心。刘伯温也学汉张良功成身退随赤松子游，回老家隐居去了。隐居其间每天种地喝酒下棋，不与外人交接，也不呼朋唤友，特低调。青田县令求见好几次见不了，就微服私访扮成一农民，刘伯温也不点破，请他吃粗茶淡饭喝村酿劣酒，县令坐了一会儿说，我是咱们县县令，专程来看您老人家。刘伯温吓得立马站了起来，跪地自称小民，不敢和县令同坐，县令闹个很没意思，告辞而去，再没来过。但即使如此小心，朱元璋还是没有放过他。
