當朱元璋率兵打敗元兵，一路勢不可擋，正準備建立自己的千秋萬代之時，選擇國家的都城，就成為了一個迫在眉睫的問題，並且究竟定在那裏最好呢？朱元璋為此幾經波折。
最初朱元璋參加農民起義軍後，一直活躍在江淮之間。然而這裏土地貧瘠，民生艱苦，而且接近元朝的軍事力量，不利於自己的發展壯大。為了謀求更大的發展空間，成就不世之偉業，必須另擇一個既有經濟保障又地形險要的根據地，這樣金陵就進入了朱元璋的視野。
金陵，北有長江天塹，為形勝之地，三國吳，東晉，南朝宋、齊、樑、陳，五代十國的南唐都曾以此為都城。馮國用首先向明南京城牆朱元璋建議攻取金陵，"金陵龍蟠虎踞，帝王之都，先拔之以為根本，然後四出征伐，倡仁義，收人心，勿貪子女玉帛，天下不足定也"。陶安也建議先取金陵，據形勢以臨四方。葉兑也上書請求定都金陵，然後就可以拓地江廣，進軍兩淮，北征蒙古，退軍又可以據長江以自守。
元至正十六年(1356)，朱元璋聽取謀士的意見，攻取金陵，改稱應天府，修建宮殿，以此為爭奪霸業的基礎。此後十餘年間，朱元璋南征北戰、四出征討，將江南羣雄依次消滅。洪武元年(1368)正月，朱元璋在應天稱帝，在即位詔書中稱應天為京師。
然而朱元璋只是暫時肯定了應天作為京師的地位，並沒有正式確立國都。作為自己成就霸業的地方，朱元璋為何不肯確立應天為國都呢？首先，朱元璋覺得以應天為國都的歷朝都是氣數不久，似乎不太吉利。其次，有些大臣認為"有天下者，非都中原，不能控制奸頑"，明南京聚寶門藏兵洞，而且應天偏處江左，在位置上作為國都不是十分理想。
三月，朱元璋派兵攻取汴梁。許多人建言定都汴梁。朱元璋很重視，於四月親自前去實地考察。他認為汴梁雖然位置適中，但是無險可守，四面受敵，論形勢不如應天。八月，朱元璋正式下詔，以應天為南京，汴梁為北京。朱元璋既然對汴梁不甚滿意，為何又要定為北京呢？原來他考慮到汴梁是宋朝的舊都，北上征討元朝時可以喚起北方民眾的民族情感，有很大的號召力;而且當時西北未定，需要將汴梁作為運送糧草和補充兵力的基地。
雖然確定了應天、汴梁的兩京制度，但是朱元璋並沒有修建汴梁的打算，他還在尋找更加合適的地方。洪武二年(1369)八月，平定陝西。在這種情況下，定都之議再起。九月，朱元璋召集大臣商議國都之地。大臣各抒己見，主要集中在長安、洛陽、應天、汴梁、北平等地，"或言關中險固，金城天府之國;或言洛陽天地之中，四方朝貢，道里適均，汴梁亦宋之舊都;又或言北平元之宮室完備，就之可省民力"。朱元璋在分析各地利弊之後，提出了以臨濠為中都的想法，"所言皆善，惟時有不同耳。長安、洛陽、汴京，實周、秦、漢、魏、唐、宋所建國，但平定之初，民力未蘇息，朕若建都於彼，供給力役悉資江南，重勞其民。若就北平，要之宮室不能無更，亦未易也。今建業長江天塹，龍蟠虎踞，江南形勝之地，真南京莫愁湖勝棋樓(傳説太祖與徐達在此下棋)足以立國。
臨壕則前江後淮，以險可恃，以水可漕，朕欲以為建中都，何如？"臨濠在元朝時稱為濠州，洪武七年改稱鳳陽，是朱元璋的家鄉，羣臣豈敢有異議？這樣，明初就形成了南北兩京、中都並存的情況。從九月開始，朱元璋下令仿照南京規制在臨濠營建中都。他之所以決定以臨濠為中都，甚至一度想遷都臨濠，除了這裏是他的家鄉，還與優待淮西功臣集團有關。眾所周知，朱元璋在起兵反元建立明王朝的過程中，淮人多隨同他東征西討，立下功勞，成為開國功臣，包括丞相李善長、徐達和功臣湯和、耿君用、耿炳文、郭興、郭英、周德興、常遇春、陸仲亨、曹震、張翼、陳桓、謝成、李新、何福、張龍、張赫、胡泉、陳德、王志、唐勝宗等人，其中湯和與周德興還是朱元璋同村夥伴。能夠光宗耀祖、榮歸故里，當然是他們所願意的。
然而洪武八年(1375)四月，朱元璋在巡視中都修建情況後，突然下令停止修建。此時中都修建達6年之久，已經頗具規模。停建的理由是勞民傷財，其實更深層次的原因是朱元璋與淮西功臣集團矛盾日益加劇。淮西功臣恃功自傲，多有違法亂紀之事，而且在朝廷中結黨謀取私利，與朱元璋加強皇權背道而馳。他擔心在淮西功臣集團的老家建都，會更加助長他們勢力的膨脹。洪武十一年(1378)正月，朱元璋下詔改南京為京師，定都問題才算告一段落。
其實，朱元璋對南京一直不是很滿意，遷都的想法從來沒有打消過。洪武二十四年(1391)，朱元璋派太子朱標巡視關中，頗有遷都關中的打算。當時，明朝的主要威脅是蒙古草原上的北元殘餘力量。遷都西北，可以加強北方邊防，安定邊界。朱標考察了西安和洛陽，比較兩地地形，回來後向朱元璋獻陝西地圖。不料世事無常，太子朱標於第二年病逝，使朱元璋受到沉重的打擊，再也沒有精力和心情考慮遷都的問題了。
他在當年年底親自撰寫的一篇祭灶文中，表達了萬般無奈的心情："朕經營天下數十年，事事按古就緒。維宮城前昂後窪，形勢不稱。本欲遷都，今朕年老，精力已倦，又天下初定，不欲勞民。且興廢有數，只得聽天。惟願鑑朕此心，福其子孫。"聽起來真是異常的淒涼，也能感覺到國都問題一直令朱元璋不能釋懷。
朱元璋這樣費盡苦心地更張制度，反覆斟酌定都問題，無非是因為天下得之不易，希望能世代固守，傳之久遠。因此，他不會允許任何人對其統治和權力構成威脅，甚至那些被他認為會對其子孫的統治構成威脅的人，他都會毫不手軟，必欲除之而後快。
