驅逐段芝貴
兄弟倆同當師長
話説馮德麟這支武裝引起了沙俄侵略軍的警覺。沙俄侵略軍對馮德麟發動了一次突襲，將馮德麟抓獲，放逐到庫頁島。兩年後，馮德麟僥倖逃回。東三省總督趙爾巽考慮到地方的安全，便招撫了馮部。由此，馮德麟逐漸升至巡防營左路統領(旅長)，駐北鎮。那時，張作霖任巡防營前路兼中路統領，駐奉天。此時，他們之間就已經產生了猜忌，但矛盾不大。
1912年，地方武裝巡防營改編為國家正式軍隊陸軍。9月1日，張作霖被任命為第27師師長，陸軍中將，駐奉天;馮德麟被任命為第28師師長，陸軍中將，仍駐北鎮。張作霖和馮德麟雖然平起平坐，但由於駐地不同，且兵力差別很大，所以自恃前輩的馮德麟便甚感不快，由此裂痕漸深。但面對袁世凱派來的奉天將軍段芝貴，他們還是擰成了一股繩。
演雙簧驅逐段芝貴
本來張作霖運用計謀擠走了奉天將軍張錫鑾，但大總統袁世凱又派來了一個外鄉人段芝貴。這讓張作霖和馮德麟都十分不快，因為他們二人都在覬覦奉天將軍這個肥缺。
段芝貴是安徽合肥人，生於1869年，46歲就被授予鎮武上將軍，節制奉天、吉林、黑龍江軍務，兼奉天巡按使，又被封為一等公。除了擁有強大的後台，段芝貴本身也是一個軍人。張作霖深知段芝貴的來歷，不敢硬碰硬，只能見機行事。因此，張作霖對段芝貴極盡逢迎之能事，甚至“不時蒐購珍貴古玩，饋送段父，以買其歡心”。
袁世凱於1916年3月23日宣佈取消帝制。此時，張作霖和馮德麟感到機會來了。於是，張作霖和馮德麟聯手，導演了一場驅逐段芝貴的鬧劇。
馮德麟為張作霖出主意：“段芝貴是清末官吏敗類，穢史劣跡人所共知，今為東三省帝制禍首，仍然居奉天人士之上，我輩絕不甘心，應該驅逐他。”張作霖問他有什麼好辦法，馮德麟胸有成竹地説：“這個不難。由我們28師演黑臉，和他作正面衝突。由27師演白臉，用嚇字訣逼他畏罪逃走。這樣演一幕不費一兵一卒的滑稽戲，豈不妙哉？”張作霖深感此計正合他的意，於是開始着手準備。
張作霖佈置軍隊於某夜開槍，然後假意到段芝貴處報告，説馮德麟要率28師部隊進城，懲辦帝制禍首段芝貴。張作霖表示自己無法制止，段芝貴聽後十分緊張。張作霖藉機勸段芝貴避一避，段芝貴感到這是一個好辦法，便乘一列專車逃往天津。
這一切，均在張作霖和馮德麟的掌握之中。但他們佯裝不知，還特派54旅孫烈臣旅長率一營兵護送，隨後佈置28師的一個團在溝幫子車站攔截了該列火車。團長邱恩榮上車，以奉天軍民的名義，交電報兩封，內稱：“卸任上將軍段芝貴為帝制禍首，奉天人民正擬處以應得刑罰，竟敢手攜省官款二百萬之巨並軍火大宗，聞風畏罪潛逃，奉天人民無不髮指痛恨，電請汲旅長派兵就近截留押赴奉天，依法處理。”
段芝貴把電報拿給孫旅長看，孫旅長不滿地説：“豈有此理，等我問問。”就下車到票房同邱團長談話，藉故久拖不回。段芝貴見孫旅長許久不回，立即下令把官款和軍火卸下，堆在站台上。孫旅長上車後報告説：“奉天各界人情洶洶，一定要截留專車押回奉天，經張代督(張作霖)婉商多時，才答應不扣專車，但官款和軍火務須點清留下，並電請中央查辦。”段芝貴連忙點頭認可，將已經卸到站台上的200萬官款和軍火，交由邱團長清點帶回。
張作霖的目的已經達到，見好就收，段芝貴即被放行，仍由孫旅長率一營兵護送到天津，之後避居租界。
張作霖當上奉督
段芝貴受此重創，還矇在鼓裏，一直以為是馮德麟和他作對。到京覆命時，自然向袁世凱説了很多馮德麟的壞話。但對張作霖卻印象頗佳，以為是張作霖救了他一命。因為當段芝貴離開奉天時，張作霖還假惺惺地到車站歡送，並送給段氏父子大批禮物，所以段芝貴在離開奉天時，讓張作霖暫代他的本兼各職。
段芝貴被驅逐了，已經不能再回去了。袁世凱想，如果再派一個外省的大員督奉，一定不會有好下場。因為這時，奉天保安會參議總長袁金鎧等人已經草擬了《奉天保安會章程》，並且唆使省議會正副議長等人倡立自治，大造輿論，宣傳“奉人治奉”的口號，明白無誤地反對派外省人治奉。
袁世凱被逼無奈，只得在奉天選人。在當時的情況下，只有張作霖和馮德麟兩人可以考慮。袁世凱徵求了段芝貴的意見，段芝貴對馮德麟恨之入骨，對張作霖推崇備至，而袁世凱也是這個看法。最後，袁世凱於1916年4月22日下令，命張作霖為奉天盛武將軍督理奉天軍務兼奉天巡按使。而馮德麟對此十分不滿，一直無法消氣。張作霖得權得利又沒有得罪誰，自己卻出力不討好。
就這樣，張作霖經過幾年的權謀角鬥，終於登上了奉天省督軍的寶座，成為奉天省軍政的最高統治者。
