劉基，字伯温，浙江青田人。元朝至順年間(1333年)進士，擔任過一些地方官，由於為人清廉正直，仕途頗為坎坷。這是一個奇人，長相就很奇特，遠遠望去，簡直一副“虯髯客”模樣，一臉絡鰓鬍子，身材修長而魁梧。他的風格也很奇特，《明史》説他“慷慨有大節，論天下安危，義形於色”。更奇特的是他的學問。可以説是博覽羣書，上知天文下知地理，又有未卜先知的本領。民間傳説，劉伯温的“推背圖”，神乎其神，並非全是小説家言。《明史》説：“世所傳為神奇多陰陽風角之説，非其至也。”所謂“非其至”，意思説這並非他的強項，他的強項在於治國平天下的韜略。無怪乎當時的四川名人趙天澤品評“江左人物”時，首推劉基，讚譽為諸葛孔明再世。
朱元璋打下浙東，仰慕劉基的才學，與宋濂、章溢、葉琛一起被召往身邊，並稱“浙東四先生”。劉基一到，就條陳“時務十八策”，非同凡響;以後又向朱元璋提出平定羣雄的謀略—先圖陳友諒，後取張士誠，再北伐中原，以成帝業。朱元璋對他幾乎言聽計從，甚至國號大明，也是他的主意，以明朝取代元朝，寓意以明克暗。
由於他是浙東人，受到李善長為首的淮西集團的排擠。明朝初年大封功臣，李善長封為韓國公，歲祿4000石;劉基只封為誠意伯，歲祿240石;李善長官居左丞相(中書省第一把手，即首相)，劉基不過是御史中丞(御史台副長官)，沒有多大實權。
朱元璋倒是一如既往地信任他，視為心腹，每次召見劉基，便屏退左右，長時間密談。劉基也為知遇之恩而感動，知無不言，言無不盡。以前在戰爭時期，每每遇到急難，他勇氣奮發，當機立斷，人莫能測。現在太平了，劉基所談大多是帝王之道。朱元璋洗耳恭聽，從不直呼其名，而叫他老先生，我的子房(張良)。
朱元璋對於淮西集團勢力膨脹有所不滿，厭惡李善長，想另擇左丞相人選。這種重大人事變動，是絕對機密，只能和他一向信賴的劉基商量。劉基一聽皇上要撤換李善長，立即表示反對。於是君臣之間有一場推心置腹的對話。
劉基説：李善長是開國元勛，能調和各路將領。
朱元璋説：他多次要害你，你還為他講好話，如此高風亮節，我要任命你為左丞相了。
劉基深知在淮西集團當權的情勢下，他孤掌難鳴，很難在朝廷站穩腳跟，堅決辭謝。並且説了一段意味深長的話：房屋如果要調換頂樑柱，必須尋訪大樹，假如用一束小樹來當頂樑柱，房屋肯定倒塌。
朱元璋又徵詢他，楊憲如何？
劉基並不因為和楊憲有私交而放棄原則，如實回答：楊憲有丞相的才幹，沒有丞相的氣度，丞相必須保持水一般平衡的心態，用義理來權衡一切，而不感情用事。這一點，楊憲做不到。
朱元璋又問：汪廣洋如何？
劉基説：此人過於偏淺，還不如楊憲。
朱元璋又問：胡惟庸如何？
劉基不屑一顧，用比喻的口氣給予否定：這就好比要一匹劣馬去駕車，我擔心他會翻車壞事。
朱元璋提出的候選人都被劉基一一否定，再次重提先前的話題：我的丞相人選，誠然沒有一個超過先生的。言下之意是敦請劉先生出任此職。
劉基已經推辭過一次，見皇上再次提起，立即用堅決而又委婉的語氣推辭：並且説明自身的弱點，不適合擔任丞相之職。他對皇上説：臣疾惡太甚，口無遮攔，一向閒散慣了，無法應對繁雜的行政事務，在這個位子上，恐怕辜負皇上的重託。天下之大，那裏會找不到人才呢？請明主悉心搜求。不過剛才提到的幾個人，確實並不合適。
這場君臣之間的對話，值得細細玩味。對於朱元璋而言，已經感受到以李善長為首的淮西集團勢力對皇權的潛在威脅，希望“浙東四先生”之一的劉基取代李善長，起到平衡和制約的作用。對於劉基而言，逐漸領略共同打天下易，共同坐天下難，開始萌生去意，仿效漢初的張良，功成名就，急流勇退。因此一再婉言拒絕朱元璋的敦請，不想捲進權力爭奪，以免招來殺身之禍。
