1931年底，朱家驊就任教育部長。當時外患日盛，內戰不斷，國弱民窮，辦教育談何容易！朱一上任，就成立“國立編譯館”，組織翻譯各國名著，接下來又辦“國立圖書館”、“國立中央博物館”。朱家驊非常注重教育改革，努力促進中國教育制度現代化。可以説，在那個時代，在促進當時中國文化教育方面所做出的貢獻，無人能出其右！
1932年元旦，朱家驊任考試院副院長，10月底又任交通部長，同時兼教育部長，12月又兼中國航空公司董事長。朱不僅成功地整頓了鉅額虧空的債務，而且大大地改善了中國的交通和通訊設施，包括民用航空、航運、電訊等，他還推進了郵政和郵政儲蓄制度的現代化。
在抗戰全面爆發前，朱家驊所做的兩件事對後來抗日軍事上有重大的作用：其一是粵漢鐵路的完成，而且是提前完成。我國那時輸入軍用及民用物資的重要海港在東北和東南，一旦開戰，這些港口就在日軍的控制之下，唯一在南方有掩護的海港，不是未曾建設的珠江出口，而是九龍，因為有英國及香港的掩護。這就需要粵漢鐵路發揮作用。但在九一八事變發生時，粵漢鐵路的中段，尤其是最難打通的樂昌一帶的山區，尚未打通，不能接軌。這樣，從國外購的軍火與物資，毫無辦法運到武漢及西南大後方。所以要儘快完成這條輸血管。當時朱家驊以中英庚款董事會董事長的身份，隨時優先撥款，鐵道部長顧孟餘充分予以人事調度及主辦人職權上的便利，工程人員也以艱苦卓絕的苦幹加巧幹的精神，把原以為須四年方可完成的工程，硬是兩年半就打通了。其後抗日戰爭全面爆發，南京失守後，武漢尚未支持一年，而西南、西北大後方也趨於穩定，真可謂適逢其時。其二，九省電話網的建立，對後來抗戰時期軍隊指揮上的作用太大了，在軍事上更可稱得上是神經系統！這兩項建設都是在抗戰全面爆發前完成的，對於中國後來堅持長期抗戰起了極其重要的作用。
1933年5月4日，“中德學會”在北平成立，朱家驊為董事。當時美國奉行孤立主義的政策，對中國抗日援助有限，英法都自身難保，倒是德國給了中國相當軍事援助。這其中朱家驊起了極其重要的作用。他利用當年留學德國及其後來建立起的關係，大力進行外交宣傳。其一，聘請一大批德國的軍事顧問。在朱的努力之下，德國軍事顧問在中國工作達十年之久，為蔣介石剿共、抗日立下了汗馬功勞。其二，爭取德國的合作與援助。1926—1944年，幾乎所有的中德條約都經朱家驊之手。其三，幫助從德國購買武器彈藥。八一三淞滬會戰時，蔣介石中央軍所配備的武器裝備就是朱家驊所購。日本對此非常惱火，不斷向德國施壓。
1937年9月，朱家驊又介紹蔣緯國到德國學習軍事。
1936年底，蔣介石調朱家驊為浙江省政府主席。此時43歲的朱家驊一到任，就大刀闊斧地整頓政務、裁減宂吏，懲罰貪污、清理財政、強化治安。可是當他勉強把衙門架子擺好，還沒有來得及大有可為時，1937年七七盧溝橋事變發生，8月13日日軍進攻上海，日寇鐵蹄迅速逼近浙境，吳山越境頓成烽火前線。朱家驊在省政府的日常事務，再也不是“籌措建設”、“拓展實業”，而是應付一連串戰時突發事件。
11月26日，朱接到讓他調至武漢的電令，12月9日，朱交卸省主席職務，行前特地將杭州市長周象賢、省警察局長趙文龍、保安處長宣鐵吾等召至住處，告知：“外面焦土抗戰風氣很盛，一旦杭州撤退時，你們一定要防止。”在眾多軍政人員的努力下，最終保住了杭州這座千年古城。
朱家驊卸任浙江省主席後去武漢，任中訓團委員會委員，不久遷入重慶，1938年3月，被蔣介石任命為國民政府軍事委員會參事室主任，為最高統帥部抗戰出謀劃策。4月，改任國民黨中央執行委員會祕書長，同時兼黨務委員會主任委員，並按中常委決定兼任中央調查統計局局長。而且蔣介石依戴季陶的策略，將祕書處提高一級，居中央各部長之上，地位僅次於總裁、副總裁，成為第三把手。朱家驊在工作上又大包大攬，讓汪精衞無法插足。
1938年7月，三民主義青年團在武漢成立，朱家驊為幹事會常務幹事，不僅兼任中央團部書記長，並主持中央訓練團黨政訓練班第一、二、三期工作。1939年12月，朱又出任國民黨中央組織部長，主管國民黨黨務。
在嚴酷的戰爭環境之中，朱家驊雖身居要害，但時刻不忘文化教育事業的發展。
抗戰初期，朱家驊得知南京朝天宮內存放着一萬多箱從北京故宮搶運出來的文物，而南京就要失守，但這些文物卻沒有經費轉移，於是他請求蔣介石嚴令南京衞戍司令要保住這批國寶，由他通過中英庚款董事會出錢作運費，讓交通部撥輪船搶運，結果，這批國寶被運到貴州；後來國共內戰後期，朱又將它們轉運到台灣。1943年，朱家驊得知在敦煌千佛洞臨摹壁畫的畫家中，有人在偷畫，有人為了自己方便而毀畫，於是親自過問，保全了這些稀世奇珍，使得我們今天還能看到它們。
1945年5月，國民黨召開六大，朱家驊任中央執行委員，並任常委，7月重任教育部長。朱家驊作為一個學者而步入國民黨統治的高層，在戰亂不斷的動盪歲月時刻關注文化教育事業的發展，而他又深受蔡元培的影響，雖居高層而又儘量維護知識界的“學術自由”，對知識界各類人才極盡謙恭，在其危難之時施以援手，朱也因而在知識界享有極高的聲望，而蔣介石也想通過他取得知識界對國民黨統治的好感，這也就決定了朱與蔣之間在對待知識界的問題上不可避免的矛盾。
