公元265年，在洛陽的一處宮殿裏，新皇帝正以當年魏王曹丕接受漢獻帝禪位幾乎一樣的儀式接受着魏帝曹奐的禪位，這個皇帝就是晉王朝的開創者、西晉武帝司馬炎。司馬炎即位之初，勵精圖治，西晉的國威是蒸蒸日上。而身處江東的吳國卻如日薄西山，處處表現出頹廢之勢：吳王孫皓乖戾、殘忍、荒淫的天性在絕望的環境中又向死亡邁進了一步。孫皓的昏庸，襯托出司馬炎的開朗，處在痛苦與黑暗中的東吳人開始向西晉尋求寄託，一些將領率眾倒戈投降西晉。這樣就更激發了晉人滅吳的慾望。於是，滅吳成了朝野人士議論的話題。但晉武帝司馬炎也深知，東吳雖弱，卻已立國幾十年，是個不容忽視的對手，如果策略上稍有失誤，就會功敗垂成。因此，雖然朝野的滅吳呼聲日益高漲，但司馬炎始終未輕易許諾，一直到泰始六年(270年)。
當時，西晉和東吳各有一個荊州，形成南北當時，西晉和東吳各有一個荊州，形成南北對峙局面。西晉的荊州包括今天的陝西、河南的一小部分和湖北北部地區。吳國的荊州則有今天的湖北和湖南的大部分地區。晉吳間的邊界線以荊州為最長，所以這裏是滅吳戰爭的關鍵地區。那麼該派誰去這裏做準備工作呢？此時的司馬炎可謂慧眼獨具，一下子就抓住了一個合適人選，他就是羊祜，一個在人格上和才略上都是無可挑剔的人物，更是一個卓有謀略的軍事家。
羊祜(221-278年)，字叔子，泰山平陽(今山東新泰)羊流人，出身於漢魏名門士族之家，他的祖父羊續漢末曾任南陽太守，父親羊衜為曹魏時期的上黨太守，母親蔡氏是漢代名儒、左中郎將蔡邕的女兒，姐姐嫁與司馬懿之子司馬師為妻。他博學能文，清廉正直，而且儀度瀟灑，身長七尺三寸，鬚眉秀美，後娶夏侯霸之女為妻。因與雙方都是姻親關係而曾拒絕曹爽和司馬昭的多次徵辟，因親司馬氏的政治態度而未受岳父夏侯霸降蜀而受罰。後被朝廷公車徵拜為中書侍郎，不久升為給事中、黃門郎。司馬昭建五等爵制時以功封為鉅平子，與司馬炎的另一心腹荀勖共掌機密。晉代魏前夕，司馬炎調羊祜為中領軍，在皇宮當值，統領御林軍，兼管內外政事。晉代魏後，因羊祜有扶立之功，被進號為中軍將軍，加散騎常侍，進爵為郡公，食邑三千户。
晉武帝稱帝后一直在積極籌劃消滅孫吳政權的戰爭，以實現統一全國的大業。泰始六年(270年)，司馬炎除任命大將軍衞瓘、司馬伷分鎮臨淄、下邳，加強對孫吳的軍事佈置以外，又特地調任羊祜坐鎮襄陽，為荊州諸軍都督，假節，並保留他散騎常侍、衞將軍等原官不變。鎮邊後，羊祜更加謹慎從事，力盡職守，不負國望。
他一方面立即佔領要害之處和膏腴之地，使吳軍在軍事上和物資上都處於尷尬境地;另一方面實行屯田，為日後的軍事行動打下了雄厚的物質基礎。羊祜上任伊始，幾乎軍無現糧，可到最後一年，倉內已有十年的積蓄。在此基礎上，他又採取攻心戰，取得吳人的信任，使他們在心理上產生一種對晉的親切感和對吳的疏離感。他每次與吳人交戰，總要等到日出，從不做掩襲之舉。羊祜大量開辦學校，興辦教育，安撫百姓，懷來遠人。有一次，晉軍俘虜了吳國的兩個孩子，羊祜不但不加以拷問，還送他們回家與家人團聚，孩子父母因此很感激，不久舉家遷往晉國。東吳有位將領叫鄧香，在攻略夏口時被俘虜，羊祜親解其縛，為了報答羊祜的不殺之恩，他也率部降晉。還有一次，羊祜帶兵巡視邊境，因軍糧不足，便沿途以吳境內成熟的莊稼充飢，但事後立即讓士兵送絹給農田的主人，以此作為補償。羊祜的良苦用心沒有白費，吳人開始改變了敵視的態度，甚至有人敬稱他為羊公。羊祜對待敵軍將士也是如此，於是邊境日漸平安。
後來，羊祜又被加封為車騎將軍，並受到開府如三司之儀的特殊待遇。但羊祜沒有滿足於此，暗地裏悄悄加緊滅吳準備。羊祜在邊境，德名素著，可在朝中，卻每遭詆譭。由於朝中權臣賈充等人從中作梗，使司馬炎始終下不了滅吳的決心。時光飛逝，數度春秋後，羊祜已進入暮年，不幸於咸寧四年(278年)病逝，終年58歲。
羊祜死後，舉天皆哀。晉武帝親着喪服痛哭，時值寒冬，武帝的淚水流到鬢須上都結成了冰，追贈羊祜為侍中、太傅，持節如故。荊州百姓在集市之日聞之羊祜的死訊，罷市痛哭，街巷悲聲相屬，連綿不斷;吳國守邊將士也為之落淚。可惜羊祜無子，以兄發子篇奉祜嗣。
羊祜臨終之時，推薦了另一位名將杜預接替他的職務。這位風度儒雅的將軍有書生得頭腦，卻無書生的弱點，政治和軍事才能不亞於羊祜本人。在杜預、王濬、張華等人的敦促下，司馬炎終於定下滅吳的決心。戰事按照羊祜生前提出的方案：分六路大軍向東吳進攻，由王濬率領巴蜀水軍為中堅。吳天紀四年(280年)初，王濬率軍攻陷建業城，孫皓自縛雙手領百官出城投降。東吳40多個郡、300多個縣、230餘萬人口全部歸入西晉版圖，立國近60的東吳終於斷送在亡國之君孫皓手中。
晉滅吳的戰爭結束了漢末以來長期的分裂割據狀態，使中國重歸一統。羊祜雖然沒有親自參加這次戰爭，但他為規劃、準備這場戰爭作出了不可磨滅的貢獻。羊祜死後二年，杜預按羊祜生前的軍事部署一舉滅吳，完成了統一大業，當滿朝文武歡聚慶賀的時候，晉武帝手舉酒杯，流着眼淚説：“此羊太傅之功也！”。羊祜生前有很多著述，有名的有《晉書·羊祜傳》記載的《老子傳》和《請伐吳疏》，另外他還受命修撰《晉禮》、《晉律》，對晉朝典制創立多有貢獻。
但滅吳後，晉武帝司馬炎逐漸怠惰政事，荒淫無度。他為了鞏固皇權而大封宗室。然而諸王統率兵馬各據一方。他死後，由其欽定的痴呆兒司馬衷繼位，諸王為爭奪中央權力，內訌不斷，最終導致歷史16年的內戰，史稱“八王之亂”，加速了西晉王朝的滅亡，在短暫統一之後使中國重新進入戰亂紛飛、長期分裂的局面。
