1875年(光緒元年)，朝儀海防大討論，依洋務派《籌議海防折》，光緒特命北洋大臣李鴻章創設北洋水師，通過總税務司R.赫德在英國訂造4艦炮船(即倫道爾炮艇)，此為清朝海軍向國外購軍艦之始。1879年，向英國訂造了兩艘撞擊巡洋艦揚威號、超勇號。
1880年，向德國船廠訂造鐵甲艦定遠號、鎮遠號。1881年，先後選定在旅順和威海兩地修建海軍基地。1880年在天津設立負責海軍事務的機構——海軍營務處。1881年，派丁汝昌統領北洋海軍。英人琅威理、德人式百齡先後擔任海軍訓練。又設立北洋水師學堂，修築旅順和威海衞軍港。北洋艦隊各主要戰艦艦長及高級軍官幾乎全為福州船政學堂畢業，大部分還到過英國海軍學院留學實習。中法戰爭後李鴻章加速購置艦船，擴充北洋海軍。
1885年，總理海軍事務衙門設立，李鴻章遣駐外公使分別向英國、德國訂造了兩艘穹甲巡洋艦致遠號、靖遠號與兩艘裝甲巡洋艦經遠號、來遠號。1888年12月17日，北洋水師正式成軍，同日頒佈施行《北洋水師章程》。主要軍艦大小共有25艘，輔助軍艦50艘，運輸船30艘，官兵4，000餘人。從此，中國正式擁有了一支當時東亞第一，世界第九的海軍艦隊。
1888年以後，由於翁同龢户部”減省開支“導致艦隊經費大幅減少，多被政府挪往他處。1894年，當時日本正為海軍技術突飛猛進之時，但北洋水師至中日甲午戰爭爆發時已多年未置新艦，部分應進行的更新工程亦未能進行。原有的戰艦已開始落伍，雖火力遠在日艦之上，但無論航速、射速、火炮數量、彈藥積累等方面皆落後於日本海軍。因而北洋海軍在中日甲午戰爭中，幾乎全軍覆沒。1896年始後逐漸購置艦船，大有恢復。1909年(宣統元年)南、北洋海軍被改編為巡洋艦隊與長江艦隊，從此北洋水師之名亦不復存在。
