山东战场失败，清政府丧失了主力的海军；东北战场雪崩，清政府又丧失了几乎全国能战的陆军，至此甲午败局已定。1895年2月22日，李鸿章奉召到达北京，奉派准备往日本议和。此时，满朝文武中主战的声音已经绝迹，光绪皇帝在养心殿召见李鸿章等，讨论与日本议和一事。李鸿章对割地、赔款都表露为难，称“割地之说不敢担承，假如占地索银，亦殊难措”，翁同 对答“但得办到不割地，则多偿当努力”，此前已经前往日本与日本人略有接触的孙毓汶、徐用仪则说得十分坦率，“不应割地便不能开办”。
1895年3月14日，李鸿章作为清政府的议和特使，从天津乘船东渡日本马关。行前，李鸿章曾有一段向清政府所作的心迹流露，“……但能争回一分，即少一分之害，伏念此行，本系万不得已之举，皇上轸念生灵，不恤俯从群议，臣受恩深重，具有天良，苟有利于国家，何暇更避怨谤？惟是事机之迫，关系之重，转圜之难，均在朝廷洞鉴之中。臣自应竭心力以图之，倘彼要挟过甚，固不能曲为迁就，以贻后日之忧；亦不敢稍有游移，以速目前之祸……”[15]
一周左右的谈判中，李鸿章苦苦相争，日本则寸步不让，并威胁要继续用兵。4月17日经清政府允准，丧权辱国的《马关条约》签署，主要约文包括中国承认朝鲜独立；割让辽东半岛、台湾、澎湖列岛给日本；赔偿日本军费2亿两银。
5月21日，清政府颁发上谕，宣布承认《马关条约》，甲午战争就此结束。“……自去岁仓促开衅，征兵调饷，不遗余力，而将少宿选，兵非素练，纷纭召集，不殊乌合，以至水陆交绥，战无一胜。至今日而关内外情势更迫，北则竟逼辽沈，南则直进京畿，皆现前意中之事。陪都为陵寝重地，京师则宗社攸关，况二十年来慈闱颐养，备极尊崇，设一朝徒御有惊，则藐躬何堪自问？！加以天心示警，海啸成灾，沿海防营，多被冲没，战守更难措手；用是宵旰彷徨，临朝痛哭，将一和一战，两害熟权，而后幡然定计。此中万分为难情事，乃言者奏所未详，而天下臣民皆应共谅者也。兹当批准定约，特将前后办理缘由，明白宣示。嗣后我君臣上下，惟当艰苦一心，痛除积弊，于练兵筹饷两大端，尽力研求，详筹兴革，勿存懈念，勿骛空名，勿忽远图，勿沿故习，务期事事核实，以收自强之效，朕于中外臣工有厚望焉。”[16]
中日战争居然出现如此胜负悬殊的结局，大大出乎始终旁观的俄国政府的意料，日本从中国勒索到巨款，尤其是占领了与俄国接壤的辽东地域，对俄国形成了极大的刺激。很快俄国联合在远东有利益索求的德国、法国，三国一起向日本提出交涉，要求将辽东归还给中国。最终清政府以多支付3000万两的代价，赎回了辽东，俄国则借机向中国渗透政治影响，逐步通过强租的形式，控制中国东北，埋下了日后日俄决战的伏笔。
马关条约提出的2亿两银赔款，以及赎辽费3000万两，完全超出了每年财政盈余不过百万两的清政府的承受能力，俄、法、英、德等国借此趁火打劫，向中国出借以中国海关、税收等权力为担保的高利贷。为了支付甲午战争战败赔款，清政府总共负担上了71748万两本息债务，直到抗日战争爆发前夕，这笔巨额外债仍然是中国政府的梦魇。
