刘伯温画像（图片：〔清〕顾见龙绘）
刘基行为十分谨慎，不与地方官来往，但仍遭丞相胡惟庸暗算。以前刘基曾说有一块空地是是盐盗的巢穴，之前就有人从那里叛乱，请求设巡检司守卫；这时恰逢有逃兵反叛，官吏都隐匿不报，刘基便令长子刘琏将此事上奏；但未先通报当时胡惟庸正以左丞相身份主管的中书省。胡惟庸因此对刘基怀恨在心，派手下官员攻击刘基：说这个地方有帝王之气，刘基想把它作为自己的墓地；因为当地百姓不答应，刘基便请求设巡检司将百姓赶走。明太祖虽然没有加罪于刘基，但颇为这些言论所打动，因而剥夺了刘基的俸禄。刘基心中害怕，入朝谢罪，然后呆在京城，不敢返乡。不久，胡惟庸当了丞相，刘基悲叹："要是我的话不应验，那就是苍生之福了。"刘基因此忧愤交加而发病。
洪武八年（1375年）正月，胡惟庸派医生来给他看病。吃了两服药，刘基腹中便出现了像拳头大小的石头一般的异物。刘基抱病觐见明太祖告知情况，太祖也没有考察，以后病情更严重了。到三月的时候，太祖很长时间没见到刘基，就派人去探问，知道他爬不起来了，就亲自撰文赐给刘基，派遣特使把他一路护送回家。
刘基到家后病情继续加重，便将《天文书》授给长子刘琏，说："赶快把这本书呈给陛下，不要让后人学这门学问。"
又对次子刘璟说："处理国政，宽大和严厉就如循环一样。当今要做的在于修养道德，减轻刑罚，祈求上天延长明朝的命数。各个地势险要之地，应与京师在声势上相互连络。我想为皇上留下遗言章奏，但只要胡惟庸在朝，也没有用处。等到胡惟庸身败之后，皇上必定想念我，有所询问，就把这遗表秘密奏上去。"
