元平元年(前 74年)四月，年僅二十三歲的昭帝突然病死。昭帝無子，他的猝然離世令霍光和大臣們措手不及。國不可一日無君，然而，立誰為帝令霍光等朝臣十分為難。
武帝六子中，此時只有廣陵王劉胥在世，羣臣都認為應立劉胥。但霍光不這麼看，當初武帝放棄年長的劉胥而選擇昭帝，就是因為劉胥品行有虧。他和大臣們商議，立武帝之孫昌邑王劉賀。劉賀這年約十八九歲。
但事實證明，這仍不是一個好的選擇。史書謂劉賀“好遊獵，驅馳國中，動作亡(無)節”。做了皇帝，並沒有讓劉賀有所收斂。若僅僅是生活奢靡，也許並沒有太大問題，問題是這位新君急於擺脱霍光的控制，建立自己的執政班子。他將昌邑官屬全部徵至京城，並超遷拜官。這讓霍光等朝廷舊臣十分不安。
霍光與幾位重臣密謀，以劉賀“荒淫迷惑，失帝王禮誼，亂漢制度”為由，請求皇太后廢黜劉賀。昌邑王即位僅二十七天，便被廢，他從昌邑帶來的二百餘臣僚，除少數幾人外，悉數被殺。
選立新的皇帝再次被提上日程。由於武帝子孫零落，可供選擇的人並不多。這時，流落民間、身為庶人的衞太子孫劉病已進入了霍光的視野。
衞太子因巫蠱事件兵敗自殺，妻妾、子女均被殺，當時劉病已剛剛出生幾個月，被收獄中。廷尉監丙吉、掖庭令張賀等人可憐他尚在襁褓，派女囚餵養他，他才歷經磨難活了下來。昭帝時承認了他的皇室血統身份。
此時的劉病已年方十八歲。衞太子家族幾乎滅絕，劉病已在朝中無人可以倚仗而便於操控，這應當是霍光選擇劉病已的一個重要原因。
元平元年(前 74年)七月庚申，劉病已被迎入未央宮，當日便舉行了登基典禮，是為宣帝。第二年正月，霍光稽首表示要歸政皇上。宣帝謙讓表示一切仍需委任大將軍，結果一切都如昭帝時一樣，凡事先向霍光彙報，然後再向宣帝上奏。
宣帝生長於民間，史稱他喜遊俠，鬥雞走馬，遊遍三輔地區。豐富的社會閲歷，加之天資聰穎，使得他比同齡人成熟、老練得多。他很清楚自己能否坐穩皇位，取決於霍光，昌邑王就是前車之鑑，因此對霍光恭敬有加。史載，宣帝即位拜謁高廟時，霍光隨從驂乘，宣帝感覺“若有芒刺在背”。後來車騎將軍張安世驂乘，宣帝“從容肆體”，才真正有了做皇帝的感覺。
地節二年(前 68年)三月，霍光病逝，宣帝為他舉行了隆重的葬禮。漢宣帝終於可以親理政事了。他自幼生長於閭閻，深知百姓艱難，故勵精圖治，希望百姓過上好日子。他宣佈五天舉行一次朝會，聽取百官彙報，並建立一套完善的管理考核制度，信賞必罰。
為了廣泛聽取民意，打開言路，他允許吏民給皇帝上封事。所謂封事，就是將上呈皇帝的奏章裝在皂囊中，封緘其口，以免內容泄露。最初規定，吏民上封事必須一式兩份，其中一份標上“副”字，即為“副封”。領尚書者先打開副封，如果認為內容不足取，可直接退掉，不呈給皇帝。這樣，封事能否呈給皇上，實際上是由領尚書的權臣決定的，這為權臣弄權、干政提供了條件。後來，在御史大夫魏相的建議下，宣帝廢除了“副封”制，解決了權臣壅蔽言路的問題。
宣帝認為治政的關鍵在於吏治，吏不清廉、公平，政治就會衰敗。而吏治的關鍵在於地方官，他經常對大臣説：“庶民所以安其田裏而亡歎息愁恨之心者，政平訟理也。與我共此者，其唯良二千石乎！”每當任命州刺史、郡太守、諸侯王相等地方官時，宣帝都親自召見，詳細詢問執政方略，然後綜核名實。治政確有成效的，就頒詔書加以勉勵、賞賜，朝官需要增補時，依次從這些人中遞補;有名實不符的，則予以處罰。每逢年初郡國上計(地方官員向朝廷上報一年的治理狀況)，宣帝都親自詢問地方官政令得失，瞭解民情。他反對頻繁調換郡太守，認為只有這樣，百姓才會有安定感，才會服從管理。
地節三年(前 67年)三月，宣帝下詔表彰膠東相王成“勞徠不怠”，八萬多口流民主動回鄉登記户籍。表彰的目的顯然是向天下宣示，要大力推行循吏政治。
《漢書》中有一篇《循吏傳》。所謂循吏，唐代註釋大家顏師古解釋説：“循，順也，上順公法，下順人情也。”也就是世人所説的好官。《循吏傳》共收了六個人的傳，其中五人是宣帝時官，即王成、黃霸、朱邑、龔遂、鄭弘、召信臣。從這些循吏的事蹟來看，主要是重視民生，大力推行教化，鼓勵農桑。例如，龔遂任渤海郡太守時，為了扭轉當地的奢靡之風，規定每人必須種一棵榆樹、一百根薤、五十根葱、一畦韭菜，每家養兩頭母豬、五隻雞。見到有人佩帶刀劍，就質問他：“何為帶牛佩犢！”讓他賣了刀劍買牛、牛犢。雖然當時就有人説這些循吏的政績中有虛假的成分，但總體上説，宣帝時的吏治在西漢乃至整個中國歷史上都值得稱道。故《循吏傳·序》説：“漢世良吏，於是為盛。”
自武帝以來，盛行嚴刑峻法，“以刻為明，深者獲公名，平者多後患”。律令煩苛，“文書盈於幾閣，典者不能遍睹”，經常出現“罪同而論異”的情況，更為奸吏弄虛作假提供了條件，“所欲活則傅生議，所欲陷則予死比”。廷尉史路温舒因此上書，認為只有“省法制，寬刑罰”，才可興太平之風。宣帝深以為然，十二月下詔置廷尉平四人，取公平之意。並且，每到季秋審核地方上交的疑案時，宣帝都親臨宣室，齋戒判案，人稱公平。
接着，宣帝公佈了一系列減免刑罰的措施。
地節四年(前 66 年)九月，為了鼓勵孝道，下詔子女包庇父母、妻子包庇丈夫、孫子包庇祖父母罪行的，都不治罪。這對後世產生了深遠影響。
