李鸿章在镇压农民起义的过程中，建立了一支用西式武器装备起来的淮军。与此同时，他还创办了一批近代军事工业，以求得中国之“自强”。可以说：中国近代军事工业的兴起，主要是由李鸿章开始的。
在第二次鸦片战争之后，主持总理衙门的奕、文祥等人，鉴于清王朝内忧外患频纷，就积极提倡以“练兵”、“制器”为主要内容的所谓“自强之道”。
在地方上倡导这一主张的则有曾国藩、李鸿章和左宗棠等人。其中以李鸿章倡导最力，动手最早，经办最多。
李鸿章初次来到上海租界时，被租界那种不同于京城的繁华所吸引。那异域风格的场所，那高大雄伟的建筑，又让李鸿章隐隐约约感受到了一种压力。洋人在领事馆内还养了很多动物，有牛、马、羊、鹿，还有很多鸟。这些体形高大的动物悠闲地在馆内散步，神情举止也好似那些高傲的洋人。街上不时有身穿西式长裙的女士走过，她们举止优雅的神态和外国小孩灿烂的笑容，都使李鸿章强烈感觉到西方人生活的富足悠闲。此后，李鸿章多次考察比较中国和外国的情况，终于得出了中国如果想自立于世界列强之间，必须先“富”而后才能“强”的结论。
经过初步的洋务实践，李鸿章渐渐了解了西方。他惊奇地发现，西方不仅军事强大，更重要的是他们不是国人想象的那种蛮荒之地，而是惊人的富庶之地。
原来，18世纪中叶，英国人瓦特改良蒸汽机之后，引发了一系列的技术革命。机器生产逐步取代手工劳动，大规模工厂化生产取代了个体工场手工生产，并迅速由英国波及整个欧洲大陆，19世纪又传播到北美地区。这就是世界上著名的工业革命。工业革命引发了煤炭开采、钢铁冶炼、船舶制造、铁路运输、武器军火等各方面的飞速进步，欧美国家因此在短短几十年里一个个都强大起来，把闭关自守的清王朝远远地抛在了后面。
在镇压了南方起义军之后，李鸿章到天津出任直隶总督，但他时刻不忘洋务之事。同治十三年（1874年）底，在清政府开展的海防大讨论中，他上了著名的《筹议海防折》。在折中，李鸿章指出：目前各国对中国虎视眈眈，随时准备侵吞中华，我们面临着几千年来未有过的变局；外国船坚炮利，武器精良，铁路运输一日千里，电报传讯瞬息万里，中国目前的军事装备和海陆关隘根本不能抵挡洋人的入侵，我们正遭遇着几千年未有过的强敌。”为此他强烈呼吁，必须加强海防，发展军事工业，修建铁路电报，改革科举考试，兴办新式教育。
对于那些保守的传统儒家官员来说，李鸿章的言论无异于痴人说梦，杞人忧天，荒诞离奇，惊世骇俗。因为他们还沉浸在几千年以来的天朝大国之梦中，从没睁眼看过世界的万千变化。在他们眼里，华夏文明几千年，中国地大物博，古有汉唐气象，今有康乾盛世，难道还比不上那些蛮荒之地？有什么需要向他们学习的？甚至那些愚昧无知的顽固派叫嚣道：“我们儒学以理服人，以德化人，以文教行天下。道为本体，器为末用。难道西方那些奇技淫巧学来饿了能当饭吃？冷了能当衣服穿？”
李鸿章对于这些迂腐的说教已经听得耳朵都生出茧子来了，深感跟这些无知之人没有必要做无休止的辩论，他感叹道：“儒家经典之首《易经》都说过‘穷则变，变则通，通则久’，我们这些读死书的腐儒能干些什么呢？凭什么说祖宗之法不可变？你们只说秦朝因为实施了变法，很快就灭亡了，于是千百年来都不敢谈变法，以墨守成规为能事。商鞅、王安石都因变法而致身亡，于是自此臣民都害怕谈变法，甚至还炮制出什么祖宗之法不可变的理论来，真是十足的荒唐。如今世界各国纷纷变法自强，而我中华却还在津津乐道于祖宗旧法，这些年被强盗们打得头破血流了还不知道清醒，这难道是天意吗？到了亡国亡种的边缘了还这般糊涂，为了我中华万世事业，我李鸿章今天就要学一学商鞅、王安石。”看来李鸿章是豁出去了，他要与其他那些头脑清醒的同僚冒死仿效古人实行变法图强。
