歷史上真實的劉基當然不是神仙，不過按今天的頭銜，可算是哲學家、謀略家、文學家、軍事理論家、易學家、天文學家等，其著述也廣泛涉及到了這些方面，「所為文章，氣昌而奇，與宋濂並為一代之宗。」（《明史 列傳16》），其《郁離子》想像詭異，寓意深遠，有如《莊子》，《百戰奇略》更是兵書寶典（後人對是否伯溫所作尚有爭議），天文曆數方面有《天文秘略》，卜筮方面有《觀象玩佔》傳世，此外還著有曆書《玉洞金書》一卷，《注靈棋經》二卷，《解皇極經世稽覽圖》十八卷。頗為奇特的是，和羽扇綸巾、談笑自若的傳統學士名臣儒雅瀟灑的形象不同，劉伯溫身著布衣，威猛剛烈，「虯髯，貌修偉，慷慨有大節，論天下安危，義形於色。」全然一副梁山好漢的模樣。
劉基是浙江青田人，23歲進士，曾任元朝的江西高安縣丞、江浙儒學副提舉等官職，曾受命參與鎮壓方國珍部，任處州路總管府判。因不與兵事，憤而棄官還鄉，在48歲那年棄官歸隱。元至正二十年，「及太祖下金華，定括蒼，聞基及宋濂等名，以幣聘。基未應，總制孫炎再致書固邀之，基始出。」（《明史 列傳16》）
被朱元璋聘至應天(南京)，充任謀臣後，劉伯溫針對當時形勢陳時務18策，提供了好幾著關鍵性的軍事策略，如先滅陳友諒，與張士誠、方國珍暫時妥協，避免兩線作戰、各個擊破的建策。為朱元璋採納。朱元璋先後攻滅陳友諒、張士誠、方國珍等勢力多按劉基的計策行事。二十四年,朱元璋自立為吳王,劉基為太史令。二十七年，升御史中丞兼太史令，又為朱元璋謀劃制定北伐滅元方略並得以實現。其間共參與軍機八年，籌劃全局，有定策之功。洪武三年封誠意伯。
按運籌帷帷的功績，劉伯溫理當入公，但最初封公的六人為李善長、徐達、常茂、李文忠、馮勝和鄧愈。這些人除常遇春之子常茂是追封外，其他都是最早追隨朱元璋出生入死，征戰疆場的「哥們」，儘管朱元璋對劉伯溫「每恭己以聽，常呼為老先生而不名，曰：『吾子房也。』」（《明史 列傳16》），但那是有所請教，是一種姿態而已。可能是出於一種自卑和自大混和的心理，身為文盲老粗的朱元璋對文化人有一種內心的反感，儘管劉基以及陶安、秦從龍、朱升、範常等文人對朱元璋平定天下起的重要作用絲毫不亞於廝殺戰場的武將。
當然，補償還是有的，為安撫劉伯溫，朱元璋下令青田不加賦稅，「令伯溫鄉里世世為美談也。」後來又「累欲進基爵，基固辭不受。」（《明史 列傳16》）
不過，劉伯溫雖才華蓋世，胸有韜略，卻不是政治家。如果他專注於學問，成就必定會不遜於任何一代宗師。但他是性情中人，決不會為逃避亂世紛爭，躲起來一門心思做個人研究。而且他心地至誠，性格正直剛烈，嫉惡如仇，天下太平之後，也根本不適合混跡於官場，這一點他自己也明白。洪武三年，朱元璋欲任命他為丞相，劉伯溫的回答是：「臣疾惡太甚，又不耐繁劇，為之且孤上恩。天下何患無才，惟明主悉心求之。」可惜，一入侯門深如海，已沒有了退出的餘地了。
即帝位後的朱元璋，心態開始發生變化，「非我族類。其心必異」這是所有帝王的一貫思維，只不過在朱元璋那兒更變本加厲，更刻薄寡情。本來第一個要收拾的是獨攬大權的丞相李善長，因為李嫉恨劉伯溫，朱元璋就選擇劉伯溫充當殺手。「太祖以事責丞相李善長，基言：『善長勛舊，能調和諸將。』太祖曰：『是數欲害君，君乃為之地耶？吾行相君矣。』基頓首曰：『是如易柱，須得大木。若束小木為之，且立覆。』」（《明史 列傳16》）
儘管劉伯溫說得都是大道理，不過他心裏應該明白，讓他出來收拾李善長，既是利用，也是試探他的忠誠度。他一旦受命或可減輕朱元璋的猜疑，然而，唇亡則齒寒，此例一開，以後朱元璋對待開國功臣元老就會換另外一副面孔，此等不義之舉，按劉伯溫的個性是絕不可為的。正因為如此，第二年他就請退，告老還鄉了。
劉伯溫雖歸老於鄉，但朱元璋疑忌之心很強，人不在身邊反覺難以掌控，更欲除之而後快。劉伯溫也知道朱元璋對他不會就此放心的，所以他的兒子留京為官，算是人質。而且朱元璋每年歲暮都將退休的劉基之子璉、宋濂之子允載、葉琛之子永道、胡深之子伯機等召去京師，接見於便殿，噓寒問暖，「親加訓誨，燕語如家人。」故此，退隱後的劉伯溫異常低調，「惟飲酒弈棋，口不言功」。《明史》記載有這樣一件事，青田縣令因久仰劉伯溫大名，想瞻仰一下尊容，「邑令求見不得，微服為野人謁基。基方濯足，令從子引入茆舍，炊黍飯令。令告曰：「某青田知縣也。」基驚起稱民，謝去，終不復見。」即便如此，最終還是未逃脫朱元璋的算計。
朝廷方面，李善長為朱元璋所忌，已經自動退休，胡惟庸與李善長同鄉，因李的舉薦而成為丞相。其實，早在洪武二年，朱元璋曾就李善長外另一丞相人選問題徵詢過劉伯溫的意見，劉就不看好胡惟庸，評價是：「譬之駕，懼其僨轅也。」（《明史 列傳卷16》）。胡惟庸因此對劉伯溫懷恨在心。後來終於在朱元璋暗助下得到了一次報復的機會。
當時甌、閩間有一條狹長的地域叫淡洋，該地區是鹽販、盜賊聚集的地方，方國珍便是從這起兵反叛的。劉基委託兒子劉璉上奏，建議應在該地區設立巡檢司以控制管轄該地，使那裡的刁民無機可乘，不能互相勾結或脅迫戍邊士兵一道出逃反叛。胡惟庸使刑部尚書吳雲彈刻劉基，反指淡洋踞山臨海，有君王之氣．劉基想要謀取作為自己的墓地，當地百姓不答應，便想要在那裡設置巡檢司為難當地民眾，才導致該地區形勢迅速惡化。
朱元璋不置可否，只是命令下傳此文讓劉伯溫知曉。這是一個明確的信號，也是一種脅迫，如果沒有合適的反應，謀反的罪名就會臨頭。劉伯溫於是只好赴京親自上朝拜見朱元璋，但朱元璋又全然不過問此事，劉伯溫既不能辨白，又不敢離京。不久便發病了。此時胡惟庸攜帶補藥前來探望病情。劉基吃了胡惟庸拿來的藥後，頓時感到有如拳頭大小的石頭般的硬物堵塞在胸口。劉基又利用空閑時間奏明瞭朱元璋．朱元璋依舊不過問。又過了三個月，病情更加惡化。朱元璋派人前去問候劉基，得知他已不能起床了，便讓他乘坐傳送公文的船返回青田家鄉。
不久後，一代絕世奇才便這樣去世了。
毒殺劉基，這是後來胡惟庸的一大罪狀，但下毒是否為朱元璋的授意，已成懸疑。不過這出自朱元璋的授意可能性極大。首先，劉基死於洪武八年四月，胡惟庸進中書省是洪武六年七月，那時胡入相時間不長，地位並不穩固，還處在「考察期」，又有汪廣洋牽制，未必能夠膽大妄為到這個程度。胡惟庸雖然嫉恨劉伯溫，但並無深仇大恨，彈刻劉基的奏章也強詞奪理，沒有能令人信服依據，如果沒有來自皇帝方面的一些默許，本身就有誣告嫌疑，很可能反過來惹火上身。更何況劉伯溫已歸隱，不可能對其地位權勢構成威脅，做下毒這種風險很大而毫無回報的事，對身居丞相高位，且以精明幹練著稱的胡惟庸而言，應該還不至於笨到這個程度。
再者，不露痕跡地毒殺功臣是朱元璋的拿手絕技，李文忠、徐達也是這樣因病受到探望和贈藥之後便不明不白的死掉的。關於李文忠之死，《明史》載：「十六年冬遂得疾。帝親臨視，使淮安侯華中護醫藥。明年三月卒，年四十六。」當然，淮安侯也逃不過抄家滅門的命運。至於徐達，「達在北平病背疽，稍愈，帝遣達長子輝祖赍敕往勞，尋召還。明年二月，病篤，遂卒，年五十四。」野史說，這是拜朱元璋的一隻蒸鵝所賜。此外，與胡惟庸同為丞相汪廣洋因否認胡惟庸毒殺了劉伯溫，在貶責途中被賜毒而死。
劉伯溫之死僅僅是一個開始。
五年之後，大清算終於來了。始於追查他的死因的胡惟庸案發生於的洪武十三年，最終的罪名則是不可饒恕的謀反。「詞所連及，坐誅者三萬餘人」，實際數目遠高於此，因為被殺的都是以家族為單位，殺一人也就是殺一家。坐胡案死的有李善長、朱亮祖二公二十列侯，曾為太子老師的宋濂雖免於死罪，但死於流放途中。十三年後，又有藍玉案發生於洪武二十六年，坐藍案死的有傅有德等一公十三侯二伯及誅連被殺者又一萬五千人。朱元璋銖殺屠戮，用恐怖手段造成了至高無上，森嚴可怖的皇權。為朱姓江山的永固，所摧殘的不僅僅是功臣的性命，更有國家民族的元氣和活力。
