西漢末至東漢初，匈奴的勢力又有所發展，成為北邊的嚴重威脅。建武二十四年(48年)後，匈奴因內亂而分為南北二部，南匈奴逐漸內附，但北匈奴仍不時入侵。
漢明帝時，遣竇固等於永平十六年(73年)擊敗北匈奴，追至天山和蒲類海(今新疆巴里坤湖)。同時又派班超出使西域各國，使西域各國再次斷絕與匈奴的關係，重新歸附漢朝。
後來至和帝永元元年(89年)，竇憲率師出擊北匈奴，大破之，北匈奴降者前後二十餘萬人，竇憲等“遂登燕山，去塞三千餘裏，刻石勒功，紀漢威德，令班固作銘”。不久北匈奴之餘眾在屢敗之後，乃向西遠徙。
