1883年，閻敬銘出任軍機大臣後，聽説內務府買皮箱，每隻報價60兩銀子(約今1.8萬元)。他對慈禧説：“外面購買同樣的箱子只要6兩銀子，可想而知，內務府要私吞多少？”
閻敬銘是我國古代為數不多的理財專家，有“救時宰相”之稱。為官廉正耐勞，生活奇儉，以直言敢諫、曲正分明而聞名。曾彈劾大小不稱職的官員百餘人。
閻敬銘做官多年，一直穿一件布袍，不管周圍人如何評論，他都毫不在乎，以致出門在外，人們竟不知他是朝廷大員。而且不論在哪裏任職，閻敬銘總是把自家的紡布機安裝在衙署大堂後面，讓夫人紡績於大堂之後。對此，有人不以為然，有人暗中譏笑他。可閻敬銘卻以此為榮，他常常指着身上的棉袍向僚屬炫耀説：“內中之絮，內人所手彈也。”
閻敬銘做山東巡撫時，曾經請學政來家吃飯，青菜白鹽糙米飯，瓦壺天水菊花茶，中間加一碟燒餅。飯菜上齊，閻敬銘拿起燒餅，掰開就吃，津津有味。那學政面有難色，閻不以為意，頻頻相勸，最後在閻敬銘的熱情鼓勵下，勉強吃了半碗米飯。學政回去對人説，他哪裏是在請客，簡直是在祭鬼。
1883年，閻敬銘出任軍機大臣後，聽説內務府買皮箱，每隻報價60兩銀子(約今1.8萬元)。他對慈禧説：“外面購買同樣的箱子只要6兩銀子，可想而知，內務府要私吞多少？”
慈禧當然知道其中的貓膩了。只是作為統治者的她需要的是奴才們的忠誠而非廉潔。半晌之後，她搖頭説：“恐怕沒有這麼便宜吧！”而閻敬銘卻堅持己見。慈禧不耐煩地對這個不體察“上意”的大臣説：“這樣的話，我給你半個月的時間，你買個給我看看。”
閻敬銘立即拿出銀子直奔市場，卻看到皮箱店都關門大吉了，打聽之後才知道，片刻之前從宮裏來了一個老太監，交待店家半月之內不可開張做買賣，否則必砸其飯碗。
無奈，閻敬銘又悄悄地派親信去天津採購皮箱。誰知道，親信也一去不復返。後來才知道，那個親信被內務府花重金買通了，根本沒有去天津，而是躲起來了。貴為軍機大臣的閻敬銘對此也只能徒然興歎。
慈禧為了享樂，要修圓明園，可閻敬銘覺得國家正困難，還是以大局為重的好，他上折力阻，説“治以節用為本”。這讓慈禧太后很不高興。而且閻敬銘在軍機處因為受了小人氣，把當時的軍機大臣還給辭了，專管財政，誰也別想亂花一分錢。可慈禧是誰啊？你敢在我面前扣？找了個小茬，就將閻敬銘罷官了。後來，怕對天下臣民交代不過，又給他官復原職，可閻敬銘知道自己已經完全失去了恩寵和信任，還有什麼好乾的呢？除非事事順從。可這實在窩心，沒有辦法，為了眼不見心為淨，他遞交辭呈，回老家養老去了。
