公孫勝是梁山好漢裏最有仙風道骨的人物。與智多星吳用皆是梁山的高級謀士，但吳用沒有他那麼神祕。吳用是個讀書人，與公孫勝的出神入道不同，他有傳統士大夫建功立業的夢想。這就決定了，他們在宋江上山後的不同反應。梁山泊最聰明的兩個人在宋江上山後，就看出“一山不容二虎”的態勢，而他們也選了不同的路。
在《水滸傳》第四十二回，宋公明被晁蓋等眾位好漢營救上了梁山，當日便殺牛宰馬，盡醉方散。第二日又大擺筵席，慶賀宋公明上山。第三日，又做宴席，在眾英雄喝酒吵鬧之際，入雲龍公孫勝忽然動了一個念頭，想念在薊州的老母親，離開家這麼久，也不知老母身體怎麼樣，便萌生歸意。
公孫勝起身對眾頭領説：“感蒙眾位豪傑相帶貧道這麼多天，恩同骨肉。只是小道自從跟了晁天王到梁山，日日宴飲，不曾還鄉。薊州還有老母健在，也擔心我的師傅想念。所以想回老家探望一凡。暫別眾頭領三五個月，再回來相見，免得老母掛念懸望。”
晁蓋説：“以前就聽先生説過，令堂讓在北方無人供養。今天既然提出來了，於情於理都不便阻擋，只是內心不忍分別。雖説要走，也得等明日兄弟們給你踐行。”
次日早，就在關下襬上宴席，給公孫勝送行。只見公孫勝一身雲遊道士的打扮。
晁蓋：“一清先生，此去難留，但你不可失信。百日之外，還望你能駕鶴歸來，不要爽約啊。”
公孫勝：“承蒙各位頭領看得起，小道豈敢失信。回家參拜過授業師傅，安頓好老母，便回山寨。”
宋江：“先生何不帶上幾個人過去，一起請令堂上山寨來，這樣也能早晚侍奉。”
公孫勝：“老母平生只愛清幽，受不了驚嚇，因此不敢接她上山。何況家中也有田產山莊，老母能自行料理。小道只是去看看她老人家，回來咱們兄弟再聚。”
宋江：“既然如此，悉聽尊便。只盼望兄弟能早早歸隊。”
説完，公孫勝接受了晁蓋贈的一些路費。別了眾人，便向薊州去了。
在宋江上山的第三天，公孫勝便着急着要下山，因為以公孫勝的聰明才智，他已經看出來“一山不容二虎”的形勢，晁蓋只是一江湖上的義士，有匹夫之勇，而宋江才是能成事的領袖，他們就像項羽和劉邦一樣，在梁山一把手的問題上，註定是要有一番不和諧的因素出現。
晁蓋有英雄氣質，但在宋江上山後，力量上明顯處於劣勢。他的嫡系部隊也不過是阮氏三雄、赤發鬼劉唐，還有一個不入流的白勝。吳用為了自己的理想，選擇脱離晁蓋，倒向宋江，而公孫勝則選擇脱離組織，以奉養老母為名，遠離爭鬥。宋江則是眾英雄歸心的領袖，自從殺了閻婆惜被髮配後，一路上認識了柴進、武松、孔明、孔亮、花榮、王英、燕順等英雄，後在白龍廟聚義時，又有戴宗、李逵、張橫、張順、李俊、童威、童猛等一大批猛將。這些都是宋江的嫡系部隊。在宋江上山後，梁山第一把交椅的人選，實在微妙。
所以公孫勝才選擇暫時離開，兩面不得罪。
公孫勝在塵埃落定後，又被宋江請出山林。儘管沒有像公孫勝預料的那樣發生衝突，也只是由於晁蓋的中箭早亡才最終避免了這場權力火拼。
