仗打到這個份兒上，派員議和已不得不提上議事日程。李鴻章左思右想，覺得如果在日本志得意滿、趾高氣揚之時，派大員貿然前往，恐怕會遭日方奚落。因此，他在給恭親王奕？的信中，提出了一個出人意料的建議：“在下與張蔭桓等人再三商量，覺得現在只想派一名忠實可信的洋員前往，既容易得知對方的意圖，又不會引起對方的懷疑。”李鴻章最終選定的這個人物，就是在天津海關工作20餘年的德國人德璀琳。
對於德璀琳，李鴻章在同一封信中寫道：“德璀琳在天津工作20多年，對我很忠心，中法議和等事他都暗中相助。先前伊藤博文到天津與我訂約時，他認識伊藤幕僚中的一位英國人，於是又從中相助，很是得力。如果讓他前去日本酌情辦理講和一事，或許能夠相機轉圜。”
在日本方面，外相陸奧宗光在得知清政府準備派洋人來日本代為商談議和事項之後，馬上與首相伊藤博文進行商議。他們認為，現在還不是與清廷停戰的最佳時機，日本應再次擴大戰果，佔領東三省部分領土，以此來逼迫清政府作出更大的讓步。更何況，中國政府此時派來的是一名洋人，很可能是來打探虛實的，日本政府不得不防。因此，二人商定不見德璀琳，迫使中國政府派出更有資格的代表。
德璀琳碰了一鼻子灰，灰溜溜地回到中國。1895年2月1日，清政府又派張蔭桓和邵友濂二人赴日，到達日本人指定的談判地點廣島。但伊藤博文對二人百般刁難，甚至不允許他們發密電和北京取得聯繫。到達日本的第二天，雙方互換國書。伊藤博文發現張蔭桓和邵友濂所攜帶的國書文字中有“一切事件，電達總理衙門轉奏裁決”字樣，遂認定二人授權不足，與國際談判的慣例不符，於是拒絕與他們談判。張蔭桓和邵友濂急忙寫信給陸奧宗光，申明光緒皇帝的確向他們授予了議和全權。
日本方面依然不依不饒，甚至駁回了張蔭桓和邵友濂發電報給國內修改國書文字的請求，還藉口説廣島是日本軍事重鎮，不許閒雜人員逗留，將張蔭桓和邵友濂趕到了長崎。
就在張蔭桓和邵友濂被日本政府拒絕的當天，伊藤博文與使團隨員伍廷芳進行了一次談話。伊藤博文問伍廷芳：“你方為什麼不派遣重臣來呢？請問恭親王為什麼不能來敝國？”伍廷芳答道：“恭親王位高權重，無法走開。”“那麼李鴻章中堂大人可以主持議和，貴國怎麼不派他來？”伍廷芳隨之反問：“我今天是和您閒談，那我順便問問，如果李中堂奉命前來議和，貴國願意訂約嗎？”伊藤博文自然能夠聽出伍廷芳的弦外之音，回答的也是滴水不漏：“如果中堂前來，我國自然樂意接待，但是也還是要有符合國際慣例的敕書，必須要有全權。”伍廷芳又問：“那麼中堂也要來廣島嗎？”伊藤未置可否。
就在這次談話前後，日軍取得威海衞戰役的勝利，北洋海軍全軍覆沒。清政府失去了與日本人討價還價的最後籌碼，沒有別的辦法，只好派李鴻章前往日本議和。
