刘基的生平与张良一样，颇具传奇色彩。
刘基出身书香门第，他的天赋非常高，从小便在家庭的影响下饱读诗书，不论诸子百家之书还是杂学典籍均有涉猎。相比于古籍中的大道理，刘基更喜欢术数、天文、地理、兵法，对这些知识颇有心得。虽然刘基将大部分精力都放在杂学上，但他的文采亦非常好，十四岁时来到处州郡求学，十七岁时转投大儒郑复初门下学习理学。
是金子总会发光的，天赋异禀的刘基很快便名动江浙，成了家喻户晓的名士。郑复初曾对刘基的祖父说："这个孩子长大后必会光耀刘氏门楣。"西蜀名士赵天泽在点评江浙才子时，认为无人能出刘基之右者，并将其与诸葛亮相提并论，说刘基有朝一日必成大器。刘基果然不负众望，元统元年刘基高中进士，跻身仕途。
起初，刘基深受程朱理学影响，希望为朝廷效犬马之劳，通过实绩发挥自己的才干。然而，在刘基走马上任后，并不受上司赏识。因为刘基是汉官，所以他的意见往往得不到蒙元统治者的采纳。因为刘基的名声太响亮，刘基的同僚嫉妒他的才干，对他进行了排挤和打压。刘基对腐朽的官场失去了信心，一气之下挂印辞官，回到老家消极避世。
