1840年，英国殖民者发动了侵略中国的鸦片战争。1842年8月29日，清朝政府在英国侵略军的舰炮威逼下，接受了丧权辱国的《南京条约》，中国由此开始沦为半殖民地。清朝军队在鸦片战争中的屡次失败和《南京条约》的严酷现实，促使清朝统治集团中的一些有识之士睁开双眼，开始观察外面的世界。
抗英名臣林则徐和思想家魏源大胆发出了“师夷长技以制夷”的呐喊，要学习西方国家“坚船利炮”等先进的科学技术以抵御外来侵略，并初次提出了创建近代海军的草案。1856至1860年，英法两国联合发动第二次鸦片战争。英法联军的海军舰队在中国万里海疆如入无人之境，清政府在又一次的“创巨痛深”的危局中，开始着手兴办近代海军海防，但很快就因受到挫折而止步不前。
此一时期，我们的东邻日本，正是“明治维新”之后，政治、经济、文化、军事逐渐发达强大起来的时期。当李鸿章还在江苏的时候，日本就多次派员到淮军军营考察学习，李鸿章也曾受到日本积极学习西方军事的启发，发展洋务。同时，他又随时关注着日本的不断强大，感到日本对于中国是一个潜在的威胁，中国应该提高警惕。明治政权在不断废除不平等条约的同时，开始蓄谋向亚洲邻国进行侵略扩张，对中国、朝鲜、琉球等国虎视眈眈。同治九年（1870年），羽翼尚未丰满的日本看到列强纷纷在中国谋取利益，便派外务大臣柳原前光到中国来试探，李鸿章接见了这位外交使臣。
柳原前光只是试探性地提出请求两国友好通商，李鸿章这时的心思是，中国近年来饱受西方列强的侵略，要是与日本建立合作关系，就可以联手对付西方侵略者。
柳原前光回去之后，日本政府又派代表来中国与清政府谈判，但是并没有像李鸿章想象的那么简单，日本提出要求中国给予片面最惠国待遇，在中国内地通商，与西方诸国一体利益均沾。李鸿章一看日本如此狂妄，气不打一处来，他坚决不理会日本的要求。这时的日本虽然野心勃勃，但是毕竟羽毛未丰，没有实力对中国施加武力。最后双方签订了《中日修好条规》和《通商章程》，除了在指定通商口岸贸易之外，还规定双方不得侵犯“邦土”，遇有外敌侵略应该互相帮助。这一条约基本是按照李鸿章的设想签订的，打破了日本染指中国的幻想，还在表面上建立了中日联合的东方阵线，一定程度上有利于抵御西方侵略。
不过日本政府对此非常不满，随后又派柳原前光来找李鸿章交涉，要求改签条约，谋求更多的利益。李鸿章大为光火，将柳原大骂一顿，柳原见无隙可乘，只得灰溜溜地跑回国。但是日本并不甘心，暗地里伺机另找突破口。
机会终于来了，同治十一年（1872年）底，有琉球船只因遇飓风漂到台湾，被台湾高山族误杀船民50多人。第二年初，日本小田县四人漂到台湾，也因被误认为是外敌入侵而被岛民所杀。琉球是中国的藩属国，台湾则是中国的领土，本来与日本无关，但日本却趁机要挟中国，企图进占台湾。
日本政府派柳原来中国换约，柳原知道李鸿章的态度强硬，所以他没有与李鸿章接触，而是直接跑到总理衙门指责台湾岛民杀害琉球船民，并声称琉球不是中国的藩属国，而是日本领土，并要求中国严惩台湾凶手。柳原的这一无理要求遭到了总理衙门的驳斥。日本见无理要求没有奏效，就开始寻求武力解决。一年后，在美国的帮助下，日本悍然出兵占领了台湾的东部琅娇。
英国驻华公使见美国帮助日本独自插手侵略中国，大为不满，一方面提出抗议，一方面将这一消息告知清政府。清政府在李鸿章的建议下，派福州船政大臣沈葆桢为钦差，率军万人前往台湾弹压，并带淮军刘铭传及船政监督法国人日意格协助。
日本此时并无实力与中国正面交战，于是又派柳原前光与清政府谈判，企图通过外交手段获取利益。他们除了要求所谓惩凶之外，还索要军费白银200万两。结果又被李鸿章一顿臭骂，柳原灰溜溜跑回日本。
日本派内务卿大久保利通继续与李鸿章谈判，此时清政府与李鸿章也想尽快和平解决，加上西方列强为各自的利益也出面调停，最后双方签订了《北京专条》：日本从台湾撤兵，中国承认日本侵台是“保民义举”，给日本抚恤银50万两。
《北京专条》的签订，除了让日本试探到了清政府的底细之外，还给日本吞并琉球留下了隐患。因为条款当中，清政府并没有明确中国与琉球的宗藩关系，而是承认了日本的“保民义举”，同时也使得列强更加感到清政府的无能。
1874年，日本寻找借口出兵侵犯台湾。此事虽以和议告终而未开启更大战端，却在中国朝野上下引起更强烈的震动。由此，在内部引发了一场轰轰烈烈的“海防大讨论”。1874年11月，总理衙门的文件中强调了海防的重要性和紧迫性，并提出“练兵”、“简器”、“造船”、“筹饷”、“用人”、“持久”等办法。请沿海各省的督抚和将军进行讨论。
此时身任直隶总督兼北洋大臣的李鸿章，呈交了洋洋万言的《筹议海防折》，陈述了海军海防大业的重要战略意义，要求大举兴办近代化的海军海防。李鸿章首先分析了中国所面临的前所未有的严酷形势：历代备边，多在西北。其强弱之势，客主之形，皆适相埒，且犹有中外界限。今则东南海疆万余里，各国通商传教，来往自如，麇集京师及各省腹地，阳托和好之名，阴怀吞噬之计，一国生事，万国构煽，实为数千年未有之变局！轮船电报之速，瞬息千里；军器机事之精，工力百倍。炮弹所到，无坚不摧；水陆关隘，不足限制，又实为数千年来未有之强敌！李鸿章还痛切指出了处理国际关系的根本是在于国家之实力：“洋人论势不论理，彼以兵势相压，我等欲以笔舌胜之，此必不得之数也”。他又指出历史时机的紧迫性——“正值海防吃紧之际，不特为外人所窃笑，且机会一失，中国永无购铁甲之日，即永无自强日！”
李鸿章在奏折中还阐述了关于海防的具体实施办法。提出中国应以陆军为主，海军设立南洋、东洋、北洋三支水师。左宗棠提出不同的意见，他认为，现在大清国应该实施“东则海防，西则塞防，二者并重”的意见。他认为，如果设立三支水师，那么将导致领导的不统一，三支水师会各自为政。他建议，海军应该统一领导。
李鸿章和左宗棠的分歧在于，李鸿章认为西北塞防可有可无，甚至可牺牲新疆作为代价。而左宗棠认为西北边疆十分重要，塞防不固，则西北屏障尽失。当时清政府面对的局势是沙俄侵占伊犁，阿古柏占据新疆，收复新疆迫在眉睫。1874年底，同治帝病死，光绪帝继位，慈禧再次垂帘听政。次年，海防讨论进入了廷议阶段。以奕为首的总理衙门既没有采纳李鸿章的意见，也没有赞同全力注重西征的主张，最后作出“海防”、“塞防”并重的方针。令李鸿章负责海防，令左宗棠去负责“塞防”问题。
左宗棠在稍后的奏折中，看似支持朝廷意见，实际是主张全力西征。在他看来，海防没有现实的危险，“窃维泰西诸国之协以谋我也，其志专在通商取利，非必别有奸媒……商贾计日求赢，知败约必碍生计也，非甚不得已，何敢辄发难端。自轮船开办，彼挟以傲我者，我亦能之；而我又博心抑志，方广求善事利器益为之备；谓彼犹狡焉思启，顾而他之，似亦非事理所有。”显然，左宗棠认为西方各国无意侵犯，而中国已有足够的准备，海防不足为虑。言外之意就是应该全力西征。
李鸿章则认为当时的主要危险来自漫长的海疆，尤其是京津和沪宁是国家的腹心所在，一定要以海防为重点。但是，李鸿章没有考虑到，西陲有事应在短时间内集中人力物力先行解决。左宗棠的成功就在适应了这一需要，虽然他对海防形势的估计未免过于乐观。当时清政府的财政非常困难，只好把能够动用的财力主要用于西征。李鸿章在“海防大讨论”以及后来关于海军海防的竭力倡言，为近代中国海军海防建设起到了有力的推动作用。
在以李鸿章为代表的务实派高级官员们的努力倡导下，清政府建成了福建、北洋、南洋和广东4支小规模的海军舰队。然而，法国侵华远征舰队于1884年8月中法马尾海战中，竟然全歼了最早组建的整个福建海军。中法战争刚一结束，光绪帝就郑重发布了大力扩充海军的上谕：“自海上有事以来，法国恃其船坚炮利，横行无忌。我之筹划备御，亦尝开立船厂，创立水师。而造船不坚，制器不备，选将不精，筹费不广。上年法人寻衅，迭次开仗，陆路各军屡获大胜，尚能张我军威；如果水师得力，互相援应，何至处处牵制。惩前毖后，自以大治水师为主！”随即，光绪帝下谕设立了总理海军事务衙门，简称海军衙门。
海军由此成为国家的正式军种，近代中国的海军海防事业开始步入正轨的发展时期。光绪帝的生身父亲醇亲王奕譞（xuān）亲自出任总理海军大臣，而一直力主大举兴办海军的李鸿章出任会办海军大臣，具体掌管全国海军海防建设大业。
李鸿章在担起筹建北洋水师的任务后，全身心投入海防建设，购买船舰，兴办水师学堂，建设大沽口、旅顺口、威海卫军港基地，起用著名科学家徐寿之子徐建寅等一大批中外专业人才。光绪元年（1875年），日本入侵中国的另一个藩属国朝鲜，第二年逼迫朝鲜签订《江华条约》，解除中国与朝鲜的宗藩关系；光绪五年（1879年），日本吞并琉球，改设冲绳县。惨痛的事实一次次震动着清政府朝野，从而也促使了海军建设的加速。尤其是中法战争期间，马尾军港被法军炸毁，福建水师全军覆没，促成了海军衙门的建立，慈禧命醇亲王奕譞授总理海军事务，庆郡王奕劻、李鸿章为会办，汉军都统善庆、兵部右侍郎曾纪泽为帮办，其阵容相当庞大，而李鸿章则是北洋海军的实际权力掌握者。
要建立近代海军，必须解决船舰问题。李鸿章最初主张自己制造，后来转向从英国和德国买船为主，造船为辅的方针。因为当时在中国造船，造价要远远高于从国外买船。李鸿章在买船的同时，还将闽沪两厂制造的一些轮船调入北洋海军。除了船舰之外，还须建立海军基地。李鸿章在大沽建造了船坞，在旅顺口修建了口西、口东海岸炮台、陆路炮台，还有大连湾炮台；在威海卫岸上的要隘建立炮台，在水面建筑铁码头。一时间，威海卫堪称“东海屏藩”。旅顺口和威海卫由此成为北洋海军的基地，守卫着渤海和天津。李鸿章还意识到要培养一大批海军人才。福建船政学堂的学生，几乎都被李鸿章所用。此外，李鸿章还雇佣了一批洋人担任技术人才。
此时，威妥玛希望英国军官能够独揽对北洋海军的教习任务，遭到了李鸿章拒绝。李鸿章一直采用英国军官和德国军官并用的原则，使得列强没有能够达到控制中国海军的目的。1888年10月，在李鸿章的苦心筹办下，海军衙门上奏慈禧太后并获准颁行《北洋海军章程》，标志着北洋海军正式组建成军。
这是近代中国海军海防事业发展的辉煌顶点。由于北洋海军的庞大阵容，中国海军作战舰艇的总吨位达到4万多吨，一度跃居海军世界大国的行列，在亚洲地区则是首屈一指。北洋军事工业的重要企业为旅顺鱼雷制造所。
北洋海军的建设一直以日本为假想敌，到甲午海战之前，其实力已经达到了当时世界的领先水平。但是，在这个过程中，也充斥着清政府内部的派系斗争，北洋海军在很大程度上存在着诸多致命弱点。如在防御体系的建设、海军的训练以及军队的体制等问题上都存在很多问题，尤其是在经费问题上，慈禧太后多次挪用海军经费修建颐和园、举行寿庆活动，更有户部尚书翁同龢不但处处为李鸿章设置障碍，还公开反对北洋水师建设，拖欠、拒绝给付海军经费。因为财力的限制，中国的海军远远无法和外国的军队抗衡。李鸿章曾经感叹道：北洋只有半支海军。不久之后，李鸿章的担忧真的变成了残酷的现实，那就是甲午海战的失败。一系列问题导致了中日之争的最后结果——北洋水师在甲午海战中以惨败告终。
