南京臨時政府成立，清翰林出身的蔡元培被委任為教育總長。後來唐紹儀內閣辭職，蔡元培亦請辭。袁世凱挽留他説：“我代表四萬萬人留君。”蔡元培去意已決，對曰：“元培亦對四萬萬人之代表而辭職。”袁死後，“德有餘而才不足”的黎元洪接任大總統，卻也幹了幾件好事，比如大力恢復了議會與被取締的政黨，大力壓縮總統府預算，倡導併力行“好人政府”，其中還包括任命蔡元培為北京大學校長。
1916年底，蔡元培就任北大校長，開始對北大進行改革。1917年，陳獨秀剛滿38歲，胡適26歲，錢玄同30歲，劉半農28歲，魯迅36歲，李大釗29歲，蔡元培49歲。同年，林紓已經65歲，嚴復63歲，辜鴻銘60歲，段祺瑞53歲。北大的新舊之爭也就不奇怪了。蔡先生曾自述道：“我對於各家學説，依各國大學通例，循思想自由原則，兼容幷包。無論何種學派，苟其言之成理，持之有故，尚不達自然淘汰之命運，即使彼此相反，也聽他們自由發展。”在此辦學理念之下，他的第一個舉措，就是宣佈聘任陳獨秀為文科學長。守舊派對蔡元培的此項任命頗為不滿，認為陳只會作幾篇策論式的時文，連在北大任教尚且不夠格，何以能主持文科？蔡只説：“當代學者人格之美，莫如陳獨秀。”後來陳獨秀進了國民黨的監獄，在押期間，《獨秀文存》第九版出版，蔡元培甚至還為這個在押的共產黨要犯寫了序。
蔡元培掌北大不久，想請梁漱溟來北大講印度哲學。樑當時24歲，中學畢業，於是自謙學淺，不敢應承。蔡元培反問：“你説你教不了印度哲學，那麼，你知道誰能教嗎？”樑説不知道。蔡説：“還是你來吧！你不是愛好哲學的嗎？我此番到北大來，定要把許多愛好哲學的朋友都聚攏來，共同研究，互相切磋，你怎可不來呢？你不要當是來做老師、教別人，你當是來合作研究、來學習好了！”樑於是不再推辭。
蔡先生“思想自由，兼容幷包”的辦學方針，連一些守舊派人物都不得不佩服。腦後拖着辮子的辜鴻銘曾在課堂上對學生講：“中國只有兩個好人，一個是蔡元培先生，一個是我。因為蔡先生點了翰林之後不肯做官就去革命，到現在還是革命;我呢，自從跟張文襄做了前清的官員以後，到現在還是保皇。”笑談中自有真意。蔡先生“思想自由”到何種程度？且看一例：周策縱在《五四運動史》一書中引蔡元培的話説：“教員中間有喜作側豔之詩詞，以納妾狹妓為韻事(以納妾為韻事的有辜鴻銘，劉半農等，詠妓的有陳xx，黃侃等，後來又有吳虞。陳尤喜涉花柳)。以賭為消遣者，苟其功課不荒，並不誘學生而與之墮落，則姑聽之。”連這事都可“則姑聽之”，難怪辜鴻銘稱蔡先生“好人”。
蔡先生一生最大功績，是為五四新文化運動護法。蔡元培是一個“文化救國論”者，時常講“讀書不忘救國”，同時又強調“救國不忘讀書”。1919年5月2日，巴黎和會傳來最新消息，戰敗國德國要將在山東的權益轉讓給日本。蔡元培得知後，立即返校告訴了北京大學的學生領袖許德珩、傅斯年、羅家倫、段錫朋等人。北京的大學生們激憤了，馬上集會遊行併火燒了趙家樓衚衕曹宅。五四運動爆發後，大批學生被軍警捕去，蔡元培全力營救，隨後遞交了辭呈，悄然離京。他寫道：“吾倦矣！‘殺君馬者，道旁兒。’‘民亦勞止，汔可小休。’我欲少休矣！北京大學校長之職，已正式辭去;其他向有關係之各學校、各集會，自五月九日起，一切脱離關係。特此聲明，惟知我者諒之，蔡元培啟。”這一紙聲明頗可玩味。他一方面對政府賣國無能、拘捕學生表示不滿，認為學生們“出乎愛國熱情，實在無可厚非”;另一方面，作為一校之長，他又擔心學生們“很可能為勝利而陶醉”，“今後將不易維持”學校紀律。(蔣夢麟《北京大學與學生運動》)6月15日，蔡元培發佈《不願再任北京大學校長的宣言》，文中説：“我絕對不能再作不自由的大學校長：思想自由，是世界大學的通例。”後來，在北京各大專學校校長的聲援下，加之北大師生代表的苦勸，蔡先生始回校，答應只做北大師生的校長。
蔡曾講：“道德之精神在於思想自由。”他一生踐行此言。1949年後，錢端升還發表文章説：“北京大學的自由散漫，蔡元培先生是要負一部分責任。”蔡先生門生滿天下，每逢五月四日，在京諸生必盛宴而奉先生為上座，年年如此，先生頗憊苦之，一次戲語鄰席曰：“吾輩此日真成吃‘五四’飯矣！”
1940年3月3日，蔡元培在香港寓所失足跌倒，次日入養和醫院治療，因胃部出血過多，於3月5日病逝，享年七十三歲。十日舉殯，香港各學校及商號下半旗誌哀，學校及社團萬餘人蔘加公祭，極盡哀榮。蔡先生靈柩初厝東華義莊，待運回浙江紹興故里安葬，但因戰事熛起，未能成行，於是這位“五四”元老、新文化的保姆長眠於香江。他的遺言僅為兩句話：“科學救國，美育救國。”
