1902年至1909年，林森先后进入上海江海关和九江海关做事，眼见海关被外国人把持，林森更加感到中国必须图强革新。1903年春，林森在上海发起成立了“旅沪福建学生会”，担任会长。1905年，孙中山在日本东京组织了同盟会，林森表示全盘接受孙中山的“三民主义”主张，决定集体加入同盟会。继又成立“福州说报书社”、“同盟会福建支会”、“浔阳阅书报社”等革命团体，在有关对外交涉事件中，均出面力争，付诸了具体的行动。在军事上，林森也意识到一定要有所作为，故特别注意与海军人士加强联络。由于革命党在南方的起义一再遭受挫折，同盟会开始注意将革命的重心向长江流域一带转移。林森等同盟会员决定在九江举事，成功策动九江新军标统马毓宝反正，成立了九江军政府，林森担任九江民政长。之后，林森不顾个人安危，亲赴泊于长江上的清朝海军舰队，成功策动以清朝海军三大舰“海筹”号、“海容”号、“海琛”号为首的舰队起义。九江光复和清朝海军的起义，以林森斡旋最力，功劳自然首推林森。为此，九江市商会特意制作了一块镌有“功在民国”的匾额送给林森，以表示九江民众对林森的感谢。
从“福建学生会”到同盟会
1899年春，林森因病从台湾回到福建。
直到1902年，林森为生活所迫，托人介绍并经过一番考试才进入了上海江海关做事。当时，中国刚刚经历了“庚子之乱”，八国联军攻占了北京，清政府被迫与之签订《辛丑条约》，其中规定中国政府付给各国的“偿款”，共计4畅5亿两白银，年息4厘，分39年还清。本息共9畅8223815亿两，由中国的海关税、常关税、盐税作抵押。林森天天到江海关上班，眼见海关被外国人把持，连税务司中的要职也全由外国人担任，白花花的银子从中国的海关流了出去。林森心灵深处感到极端的耻辱，深为中国的积贫积弱而痛心，由此也更加感到中国必须图强革新。
林森（前排左一）在上海联络陆军人员时的合影
其时，在上海从事革命工作的闽籍人士有不少，如黄绶、黄湘兄弟，黄纪星、林君汉、徐开渠、朱焕星等人，他们也成立了一些组织，如达文社、醒社，以及崇实中学等，都是传播革命的小团体。但这些组织都是互不统属，各自为战，无法形成整体的力量。因此，革命党人林文认为，类似这样的团体太多，力量又很分散，要想造成声势，就必须成立一个统一的组织来领导。林文在向孙中山进言后，孙中山很是赞同，并对林文说可由林森来主持。
1903年春，由林森与一批志同道合的福建同乡潘祖彝、江屏藩、陈子范、林述庆、史家麟、郑仲敬、李树藩等人，在上海发起成立了“旅沪福建学生会”，林森任会长。以后，林文、林觉民、杨韵柯、方声洞等人也加入进来。
学生会成立后，林森做的第一件事，就是倡议将学生会的信笺纸由清朝的年号改成黄帝纪元，一来表示要与清政府决裂，二来有利于宣传革命，并有利于与海外同志联络。林森还专门印制了《瓜分惨祸预言》、《福建存亡》等小册子。
福建学生会成立后，林森即利用上海江海关工作的便利条件，使之成为学生会的通讯联络点，林森将在海关工作的全部工资捐给了学生会作为经费。每逢休假，林森就购买大量上海报纸带到外地，借给群众阅读。同时，林森还利用到外地的机会，向百姓进行演讲，以宣传民族革命的思潮。福建学生会的活动，在东南一带影响很大。林森在江海关发展了一批爱国志士，南洋以及英国、荷兰等国在福建开办的华侨学校也纷纷邀约林森等进步人士去演讲，林森借此又大力鼓吹革命，还向这些学校介绍了教师，通过他们进一步向华侨灌输爱国思想。很快，学生会会员就发展到103人，形成了一定的规模。
1905年，孙中山联合华兴会、光复会等组织，在日本东京发起组织了同盟会。这一消息，是由已加入同盟会的林文告知林森的。林森及福建旅沪学生会的会员们听说后，都异常振奋。林森当即表示，学生会愿全盘接受孙中山的三民主义主张。在林文的介绍下，林森决定学生会集体加入同盟会。世居台北大稻埕的台省人士林薇阁，闻讯也在上海加入了同盟会组织。后来，他捐献了3000日币资助黄花岗起义。福建学生会集体加入同盟会后，同盟会在国内的力量空前壮大，福建学生会也如虎添翼，活动更加活跃，成为共和革命的温床。
林森及学生会对于革命同志的支持总是不遗余力。福建武备学堂的学生何遂，因不满洋人教师殴打中国学生，激于民族义愤，出手打伤了洋人，因而被学校开除。何遂无路可走，只好到上海江海关投奔林森。林森看何遂是个血性青年，又会武功，还懂点军事，就介绍他到学生会员、时任新军第九镇军官的林述庆处从军。何遂在光复镇江、南京之役中，都立有战功。后来，林森又介绍何遂加入了同盟会，并送他到保定军校继续深造。
同盟会当时在国内还处于秘密状态，所以福建学生会的对外活动并不以同盟会的名义出现，仍是以学生会的名义进行。
福建学生会加入同盟会不久，林森就与闽籍留日进步学生郑祖荫等人取得了联系。随之又派陈子范赴福州，联络了林森的三弟林为桢、庄翊楚等人，与福建学生会的负责人一道，在福州南台大桥南端的上杭街商贾区一带成立了一个“福州说报书社”（又称“桥南社”），也就是福建学生会福州分会。一大批闽籍优秀青年纷纷入会，成为福建的一股新生力量。同盟会的秘密支部就设在书社中。书社的主要活动方式是先汇集各地的报纸，有购买的，有会员从外地带回的。由会员浏览后，再根据报纸上有利于革命的言论和新闻对外进行宣传，每星期轮流上街进行演讲。这样，在开发民智、宣传共和革命方面，福建与上海形成了遥相呼应之势。
通过一段时间的积极活动，林森认为时机已经成熟，遂联合了福建其他的一些进步团体，如南社、益闻社等，在福州组织成立了同盟会福建支会，对外则用“丙辰俱乐部”的名称。以郑祖荫为会长，林斯琛为总干事。
福建学生会的活动日益频繁，影响也越来越大。1907年，林森回到福建。福建同盟会的负责人黄乃棠组织了隆重的欢迎大会。这个大会是秘密进行的，数十名同盟会员济济一堂。黄乃棠在会上致辞说：“林君在上海组织了福建学生会，聚东西洋及省内外福建学界名人于一堂，共同研究政治、社会、文化事业，为改革中国作准备，其旨趣实堪为世人所崇。其关怀公益、嘉惠后进，其国而忘家，公而忘私，尤属难能可贵。”黄乃棠的一番话，博得了全场的热烈掌声。
林森这次回福州，领导学生会（同盟会）对于有关的对外交涉事件以及可能“丧失利权、玷辱国体者”，均出面力争，还专门制定了本会的宗旨，提出了自己的主张，并付诸具体的行动。
关于福建省方面的有：法国福建矿务公司在福建开办了延、建、邵三府之矿。福建学生会派人前往调查矿产。学生会为此支付了经费120元，占到了全会极其微薄经费的四分之一。经努力后废除了不合理的矿约；阻止了英国领事馆谋夺福建省矿权的图谋；阻止了法国人魏茨贩卖华工事件；挫败了日本人垄断经营自来水的阴谋；严责日商“三五公司”侮辱华民事件等等。
林森深知，要想推翻清政权，在军事上一定要有所作为，首先要积蓄军事力量。清政府在福建的军事力量以海军较为突出，闽籍的海军将领在清政府海军中服务的很多。所以，林森在这段时间里，特别注意与海军人士加强联络，他以自己的声望，不断以乡邻和宗族的关系来同他们增进感情。由此，林森在闽籍的海军将校中结交了不少朋友。
“浔阳阅书报社”
1909年，林森由上海调到江西九江海关担任文牍。林森离沪后，上海的事务由陈子范和潘祖彝负责，并与林森保持了密切的联系。
九江地处内地，有长江与下游相接。林森一到九江，就感到这里风气闭塞，远不如上海和福建开放，遂决定仍从宣传入手。林森在九江海关服务期间，为了便于宣传工作，租用了九江轮船码头八角坊附近的一所民房，成立了一个名为“浔阳阅书报社”的秘密机关，林森自任社长，广东人吴铁城任副社长，干事有邱于寄、林炳南、俞兴根、吴子祥等人。林森经常与罗大全、陈中瑞、徐秀钩、蔡公时、吴照轩、俞醒更、张世膺、沈元龄等人秘密聚会，商讨工作。成立报社的宗旨，即“极力倡导改革社会风气”，而更深一层的目的就是为了宣传共和革命。
“浔阳阅书报社”由林森与吴铁城共同创建，副社长吴铁城是林森在九江结识的一位挚友。
1911年，林森（前排左一）在福州浔阳阅书报社与同仁合影
在庐山牯岭一个夏季的傍晚，林森与吴铁城在牯岭街上不期而遇。吴铁城看到一位方形脸庞的中年人，唇下留有两撇浓密的胡子，身着短袍，脚蹬一双布鞋，很是精神。吴铁城只觉得此人颇为不俗，就多看了他几眼。恰好，林森也在注视他。四目相对，两人就攀谈了起来。
吴铁城冒昧地问道：“老兄贵姓？来牯岭多久了？”
林森答：“刚来几天。敝姓林，还未就教。请问小兄弟尊姓？”
吴铁城答：“姓吴，广东人氏。这里风景不错啊。请问府上哪里人？”
林森答：“福建。以前在上海江海关做事，最近才调到九江海关。”
就这么一聊，两人竟谈得十分投机。从庐山的风景，说到上下古今，不觉天色已晚。两人一见如故，都有相见恨晚的感觉。吴铁城只觉得这位年长于自己的“老者”，不仅风度雍容和蔼，而且胸怀才略。数日后，两人才将各自的心曲和抱负一一展现，吴铁城方才得知林森是一革命党人。这一年，林森已43岁，整整长吴20岁。吴铁城当时哪里会想到，面前的这位“老者”日后会成为一国之元首。
“浔阳阅书报社”的木牌一挂，书报社就开张了。林森订购了香港、上海等地的报纸刊物，有的内容相当进步，如《民吁》报、《民立》报，当时在国内很有影响。报纸送到或由会员从外地带到九江后，由会员先看，然后再根据所要宣传的内容，用红笔在报纸上面浓圈密点勾勒出来，再贴到书报社外面的墙上，供人们阅读。一段时间后，林森考虑到，九江识字的人还不多，就要求大家根据报上的内容，向路人作通俗的讲解。书报社地处通衢，人来人往，用宣讲的方法收效很好，又吸引了更多的人来旁听。另外，书报社把人请到报社里任其阅读，久而久之，经常来看报的人都成了会员。就这样，常来书报社的人越来越多，书报社同仁与九江地方的关系也越来越密切。
“浔阳阅书报社”的公开活动是进行社会改革的工作，如救济贫困者，宣传禁烟，劝导放足，提倡民众讲究清洁卫生等。有一次，报社为了筹集救济善款，准备公演一场白话剧。剧本由林森亲自动笔撰写，剧目叫《浔阳江头》。接着，林森又主持举行了胭脂山菊大会、甘棠湖赛船会。举办这些活动的目的，一是为了筹款，二是为社会服务，特别是为底层的民众服务，以开发民智。林森还有一个潜在目的，就是利用活动，结纳和吸收社会上的有为志士同仁，为反清积聚力量。当时的报社成员，有地方绅商、钱庄老板，有教育界人士，有新军官佐，还有不少在洋行做事的职员。
因报社没有经费，林森以自己在海关的薪金作为报社的活动费。但他自己的生活却十分俭朴，床榻是粗木钉成，衣裤常打着补丁。在林森的卧室里，有一件东西十分引人注目。一张案几上，放着一只花瓶，瓶垫子就是清朝官吏官袍上剪下的一个补子。林森这么做，一来是表示对清政权的蔑视，二来表示与清政权彻底决裂的决心。
后来，报社得到不少同仁的资助，经济状况才稍有缓解。不久，林森的五弟林长信也赶到九江协助林森的报社开展活动。
“棍毙乡民”事件
江西湖口有一位叫余程发的乡民，来到九江租界找一位在里面做活的亲戚。乡下人没见过世面，初到城市，东摸西找转昏了头。正转着时，忽然内急，却找不着厕所，于是就以在农村的习惯，寻一处人少的地方便溺起来。没想到，被一个英国租界的印度巡捕发现，他嘴里叽哩咕噜叫了一通，余程发也听不懂他说些什么，加上又在便中，也不好回答。这个巡捕竟举起警棍，朝余程发的头上身上一顿乱打，竟将余程发打得头破血流。余程发突遭袭击，全身立刻缩成一团以保护自己，想喊救命竟没喊出声来，就倒在地上，一会就不动弹了。巡捕见状仍不依不饶，又挥了几棍才罢手。巡捕看看余程发不动了，这才有点慌了神，因人是死在了租界里，于是赶紧回去禀报。英国领事沃纳一看出了人命，知道情况不妙。为了平息事端，免上法庭，这位领事私下里出钱欲将命案了结。他找到余程发的家属，给了200元，要他家人尽快将尸首收棺，抬到西门外埋掉了事。余程发的家人不敢不依，又得了人家的200元钱，只好按英国领事的要求，答应尽快把事办了。
此事传遍了九江，林森的“浔阳阅书报社”也得知了情况。书报社成员个个义愤填膺，认为这不是一桩简单的民事案件，事关“国权民命”，遂纷纷表示要为余家申冤，上法庭解决此案。林森派社员邱于寄找到余程发的亲属，告之愿为之申冤。余程发的亲属也答应了书报社的要求，退回了抚恤金。之后，余程发的亲属与书报社同仁一同前往德化县，请求县衙开棺验尸。德化的县令是福建人高彤，高彤询问此案后，亦表示了义愤。于是，高彤亲自带了仵作，前往验尸。
同时，书报社社员陈子范专门跑了一趟芜湖，请了一位美籍医生前来九江验尸。林森为避免美医与英国领事接触，特意雇了一条小船，在距九江码头十几里的地方就下了船，到一所教会学校居住。第二天，立即与美医一同前往验尸。因尸体保护较好，尚未腐烂。经验尸后，确认系因殴击致伤而死，随后就出具了验尸证明。林森又派邱于寄专程赴上海，请了一位林森的朋友、美籍律师礼明，为余程发起诉。林森还发动九江商会等机构，联名致电各级官府交涉惩凶。
很快，九江法庭正式开庭审讯此案。在庭上，英国领事沃纳引经据典，认为余程发系殴击致死证据不足，不构成犯罪。控方据理力争，说中国和美国两方面都出具了验尸报告，证据确凿。法庭审理后却认为，案子是发生在英国租界中，中国方面不享有裁判权，遂将该案注销。此事震动了江西。但清政府的江西巡抚根本就不肯为这事而得罪英国人，所以采取了不力争、听之任之的态度。
“浔阳阅书报社”的同仁们得知情况后，难平胸中的愤懑。林森同样很气愤，但他仍对大家说：“此事急不得，要慢慢来，大家不要丧失了信心，我们可以向伦敦法院上诉。”结果，在证据确凿的情况下，伦敦法院认定印度巡捕殴人致死有罪，判处有期徒刑一年；英国领事沃纳庇护下级，给予调职处分。虽然判得很轻，但中国方面毕竟是胜诉了。书报社的同仁们普遍有一种说不出的滋味。
此案发生之后，国内舆论反响极为强烈，长江中下游一带尤其如此，各界纷纷对英商加以抵制。英国“太古”、“怡和”两大轮船公司的轮船无人乘坐，无货运输，成天空驶在长江航道上。也因为这一案件，使得“浔阳阅书报社”的声誉日隆，影响大增。
策动九江光复
林森自到九江后，在进行宣传工作的同时，更加注意发展武装。这时，林森已经意识到，用武力推翻清朝政权的时机已经成熟。
1911年3月29日，广州爆发了黄花岗起义。起义前，同盟会第十四支部长林文与林森密商，打算率所属的武装参加黄花岗举事。因经费不足，林森介绍林文向福建学生会会员、台湾人林薇阁募集了经费3000日金，并由林文派人专程去日本领取。3000日金到手后，林文即要求林觉民由东京返回福州，集合30多人一起赶赴广州参加起义。起义中，林文、陈与焱、林觉民、林尹民、陈更新、方声洞等福建志士同时遇难。在辛亥黄花岗一役的72烈士中，福建省人士占了19名，且大都是福建学生会成员。林文、林觉民、方声洞等10人被称之为“黄花十杰”。黄花岗起义后，福建学生会的许多中坚同志又血染沙场。林森得知这些消息后，很是悲痛，遂决心组织更多的行动为学生会的难友们复仇。
1911年，林森（右一）与吴铁城（右二）在九江合影
由于革命党在南方的起义一再遭受挫折，同盟会中部总会开始注意将革命的重心向长江流域一带转移，并着重在长江中下游积聚力量，发动新的武装起义。位于中国中部战略要地的九江，居长江中游，上接武汉，下通沪宁，信息灵通，风气渐开。此时，经林森等同盟会员的长期工作，起义的准备工作也日趋完备。林森立即与上海的陈子范、湖北的詹大悲取得了联系，以便互相策应，一旦九江举事，各地立即呼应。
当时，九江驻扎的清朝陆军部队有南京派来的新军五十三标（标统马毓宝）和南昌派来的新军五十五标两个营。此外，还有部分海军舰只。
林森自到九江后，就利用工作关系，与九江商界建立了良好的关系。林森先在商界组织了一个军事训练班，将新军五十三标的军官请来充当教官，专门负责军事训练。林森借此机会与九江新军官兵建立了良好的关系。林森要求“浔阳阅书报社”全体社员都参加军训，自己也同大家一道参加训练。训练班共办了六个月，学员结业后，林森决定立即成立九江商团，以便适时策应长江流域的反清行动。“商团”的对外名义是护厂护产。有了这一合法的理由，林森就以“商团”的名义，成立了军队性质的武装，暗地里进行较为正规的军事训练。
当时，九江除驻有清朝的陆军外，在长江沿岸还驻扎了一支实力不弱的海军。因近代中国海军最早产生在东南沿海一带，清朝最初的海军学堂就设在福建闽江口的马尾，因此，海军中福建人很多。驻九江的海军也是如此，从军官到士兵，福建人占了相当大的比例。这是林森开展工作的一大有利条件。林森利用同乡宗亲的关系，与当地海军人士建立了极为密切的联系，大批官兵开始倾向共和革命。这些，都为今后策反海军起义打下了坚实的基础。
就在林森等人积极活动的同时，同盟会中部总会又派来了原赵声的部下杨某来到九江进行运动，与新军五十三标排长何燮桂以及下级军官顾英、黄锦龙、丁仁杰、胡爱德等人取得了联系，拟于10月6日（农历八月十五）与南昌工程营会同武昌方面同时发难。就在举事的前夕，南昌方面带来密函，称清军防范十分严密，根本无法动手，要等到力量壮大后再作行动。接着，武昌方面也传来消息，革命党人机关被破获，暂时无法行动。
10月10日，武昌起义终于爆发。消息传到九江后，全城到处人心惶惶。当地报纸登载消息，诡称“武昌土匪起事，当日即可平复”。但革命党人兴奋异常，个个跃跃欲试。林森派人将武昌寄来的报纸贴在“浔阳阅书报社”的门口，并在报上将革命军起义、建立民主国家等消息用红笔框出，使其更加引人注目。九江民众早就对清廷不满，纷纷前来观看，并奔走相告。九江人正是通过这些报纸得知了武昌起义的详情，懂得了一些武昌起义的意义。
武昌起义后，江西巡抚冯汝揆接到清廷命令，立即调兵驰援武昌。当清军的陆军部队行军至九江等候上船前往武昌时，有的官兵来到城中，看到了贴在“浔阳阅书报社”门口的报纸。书报社的人看到这一情况，立即端出茶水、面巾招待过路官兵，还将武昌起义的真实情况相告，说武昌起义并不是土匪闹事，起事者都是同你们一样的新军官兵。官兵们看到报纸，又听这么一宣传，回到部队后，将此情况互相传告。就这样，一传十，十传百，导致全军军心动摇。结果，大部分官兵拒绝登轮前往武昌。江西巡抚冯汝揆急得没法，只好将军队开回南昌。回去后，冯汝揆无法向清廷交差，引咎自杀。
冯军一退走，林森、吴铁城、罗大全、陈中瑞、吴照轩等人紧急密议，认为武昌已先行举事，九江不能再等，要尽快响应。大家形成了一致意见，决定立即在九江举行起义，并制订计划与新军进行联络。就在这时，忽然又听说湖南方面已经响应武昌宣布独立。林森马上决定，立即策动九江新军标统马毓宝反正。马毓宝早就与林森有默契，对反正之事也是持积极的态度。林森派曾在商团中任过军事教官的五十三标管带黄子卿四处联络。黄子卿向马毓宝告知了林森的意图，马毓宝立即表示同意响应起义。黄子卿在得到了马毓宝的首肯后，即刻奉命前往五十五标一营管带范绍先、二营管带黄焕章、三营管带何振达的营地以及金鸡坡炮台司令徐世法处，通知于当晚举事。
10月23日夜，岳师门外的金鸡坡炮台由炮目陈廷训开炮三发，接着就是一阵排枪。这是九江起义的正式信号。于是，城内道署卫兵立即举火响应，新军各军吹起了嘹亮的集合号。革命党领导的商团武装也趁势响应。一时间，九江全城沸腾了。各军士兵荷枪实弹，臂缠印有“同心协力”字样的白布，呐喊着冲出营门，占领了各个要道关隘。九江道署倾刻间就被攻占。九江道、满族人恒保仓皇逃入租界，又搭乘“隆和”轮逃往上海。至夜12时，新军攻入九江府署，九江知府璞良被活捉。璞良见生存无望，遂向起义军官兵说：“汝等排满，璞乃满人也，万无生理。且吾食君之禄……”革命军见其顽固不化，遂将其处死。当夜，九江全城光复。
第二天（24日）清晨时分，经过一夜喧闹的九江城才安静下来。当人们走出家门时，映入眼帘的，是满城飘扬的象征光复的白旗，尤以招商局码头竖立的一面青天白日旗更为醒目。全城到处贴满了由林森及同仁们早就拟好的布告。仅一天工夫，九江军、商、学各界全部挂出了白旗和青天白日旗。
九江光复后，随即成立了九江军政府，并按照同盟会中部总会的规定，九江升起了青天白日旗。大家公推马毓宝担任九江都督，林森为九江民政长，徐世法为驻浔炮台统领，李明扬为湖口要塞司令。九江的起义，在林森等人的“擘划部署”下，兵不血刃即大功告成，是自武昌起义后国内最成功的一次反清独立行动。
九江光复后，南昌、安庆等重镇尚在清军手中。九江军政府内部机构也不健全，马毓宝虽然当上了都督，但意志并不坚定，仍有观望的心态，重要的表现就在于他迟迟不肯剪去发辫。军政府军官吴照轩、蒋群等人则强行剪去了马毓宝头上的辫子。同时，林森也协助马毓宝改组了九江的军政机构，将九江道署改为军政分府，马毓宝仍任都督，下设军务、政务二部。军务部由马毓宝自兼，政务部由罗大全任部长，林森谦让任副部长。后李烈钧赶到九江，被任命为参谋部长。又公举吴照轩为政治参议，蒋群为军事参议，宛西庚为九江县县长。至此，九江的军政机构全部成立。
策反清朝海军的第一功臣
武昌起义、九江光复后，清政府为镇压革命党人，派水陆两路军队大举南下武汉。清朝海军二等提督、舰队统制萨镇冰率领海军的强大舰队，专程赴武汉驰援，其舰队已经驶抵武汉江面。身为海军宿将的萨镇冰听说九江金鸡坡炮台已被革命军占领后，心里很是不安：一旦弹药粮草接济不上，上海方面的补给线又在九江受阻，那整个舰队将瘫痪在长江中，成为革命军的活靶子。遂决定不执行清朝政府的命令，采纳了下属将舰队下驶九江的建议，并任命黄钟瑛为临时舰队司令，带领舰队强行下驶。黄钟瑛是“海筹”号巡洋舰管带（舰长），福州人，与林森同庚，毕业于马尾船政后学堂，曾在多艘舰艇任职，作战经验丰富，为人富有正义感，而且对清朝的统治一直不满。
10月28日，黄钟瑛率领舰队浩浩荡荡地驶至九江江面，于清晨在江心抛锚泊驻。只见长江江面上烟雾缭绕，汽笛声声，全部军舰炮弹入膛，士兵虎视眈眈。九江金鸡坡炮台的守军也是严阵以待。双方剑拔弩张，大战一触即发。
清朝的舰队分别是“海筹”号、“海容”号、“海琛”号巡洋舰（号称清朝海军“三大舰”），以及“楚同”、“楚有”、“楚谦”、“楚豫”、“江元”、“江亨”、“江利”、“江贞”江防炮舰，“湖鹏”、“湖鹗”鱼雷快艇。三艘“海”字号巡洋舰，均系德国制造。每舰装备有克虏伯大炮11尊，口径达10生的至15生的，威力相当大。是清朝海军主力中的主力。
当清朝舰队驶抵九江江面后，军舰纷纷抛锚泊驻，按兵不动。这大大出乎九江守军的预料，按当时海军大炮的威力，九江全城已在海军巡洋舰队的火力射程范围之内，就是炮舰，也能毁掉江边几条街。一旦动武，全城百姓将生灵涂炭，后果不堪设想。
双方在九江江面对峙着，相互之间也没有旗语联络。岸上金鸡坡炮台守军不明白舰队的意图，就试射了几炮，在“海容”舰附近激起了高高的水柱。这时，军舰上才出现了旗语兵，发出了旗语信号。金鸡坡炮台守军一看旗语内容，知道是对方愿意合作的信号。马毓宝和李烈钧立即下令停止炮击，以观察对方动态。因以往清军在与革命党人作战时，经常采用欺诈战术，致使革命军损失不小。九江方面将信将疑，生怕清朝海军生出变故。林森得知后，自告奋勇表示愿上舰劝降。众人多不放心，林森则以十分诚挚的口吻说：“森多年来一直与闽人海军将领有来往，与萨提督是故交，舰上一定还有不少闽籍海军官兵，我一上舰，定能与他们沟通关系。且黄钟瑛与我是福州同乡，诸位大可不必担心。此行必能成功。”
三人商量后，决定由林森与参谋龚少甫、吴铁城（一说为卓仁机）一同前往。这三人是最为合适的人选。因海军将校多为福建、广东人，林森与龚少甫是福建人，林森带他同往，是为了与海军官兵拉同乡关系时，有个同乡做帮手。马毓宝、李烈钧与林森商议已定，三人遂乘上一条小艇，驶往江中，登上了“海筹”号军舰。这时已是下午时分。
林森等三人一登上“海筹”军舰，顿时鼓号齐鸣，海军官兵们齐刷刷地列为两队，欢迎三人的到来。林森意外地发现，旗舰“海筹”号主桅上的清朝黄龙旗已经降下，只剩一根光光的旗杆。
各舰舰长很客气地将林森等人迎入了舱中。林森等人先去见了萨镇冰，略叙同乡之谊，然后便出来与各位海军将领交谈。因林森是福建人，所以他说得最多。几艘军舰的管带几乎都是福建闽侯人，与林森一见如故。双方一照面，林森并没有说“反正”之类的话，只是说：“今晚专程请诸位到九江商会联欢。”大家晤谈甚欢。过了好一会，林森才向各舰长晓以民族大义，陈说利害，诚恳地劝说众将领弃暗投明。林森言语十分诚恳，令人很是信服。
但一位舰长突然发问说：“今晨，我舰遭到炮击，是何原因？”
林森答道：“清晨之事，确系一场误会，几乎破坏合作，贻害大局。经了解我方有人确系意气用事。但事情已经过去，海陆军应协力同心，再勿滋事。”说到此处，林森已是哽咽失声。
“诸位不仅要为自己着想，更要为九江十数万百姓考虑，一旦战端开启，九江城毁不说，守军也要反抗，诸位在江中阵亡，家中一定还有家小，日后可如何生活？”说到动情处，林森几乎是声泪俱下。
林森最后说：“各位官佐不必担心生活问题，你们的全部军饷，均由九江商会解决，只要各位同意加入革命，一切都好商量。”
其实，黄钟瑛等人早有反正的意图，经林森这么一说，各舰舰长都表示同意举行起义加入革命军。各舰官兵一向对“海容”舰长喜昌、“海琛”舰长荣治（一说为荣续）不满。此二人见已无法挽回局面，脸上露出为难的表情。黄钟瑛也不过分为难他们，各舰长又不断催促他们尽快离舰。二人只好搭乘一艘商轮前往上海，“海容”舰副长容升则跳江自杀为清廷殉职。“海容”舰副长杜锡珪和“海琛”舰副长林耐庵立即升任舰长。提督萨镇冰实际上“对清朝已殊为淡漠”，但又食清朝俸禄多年，感情上一时转不过来，遂以年老昏花、不能担当大任为由，向林森告辞。林森知道萨镇冰有他的苦衷，亦不强求，只是好言相送。临行前，萨镇冰行使了最后一次提督指挥权，将旗舰“海容”号上的提督龙旗落下，由黄钟瑛在“海筹”舰上升起司令旗以全权指挥。
降旗时，还有一段小插曲。当萨镇冰下达命令后，降旗官立即按照通常的方法降下旗帜。当旗子就要降到旗杆底部时，突然坠到了甲板上，正巧被行走的几个水兵踩在了脚下，萨镇冰见状十分不悦，脸色骤变，但又不便发作。这时，降旗官急忙上前去拾。正在此时，突起一阵大风，将萨镇冰的这面提督旗刮到了江中，瞬间便无影无踪了。萨镇冰顿时呆若木鸡，好半天都没缓过神来。简短的降旗仪式结束后，萨镇冰离开了“海容”舰，转登“江贞”舰，遂离舰队而去。
时天色已晚，“海容”舰及其他舰艇上的官兵，都看到了从“江贞”舰发来的灯光信号：“我去矣。以后军事，尔等各船艇好自为之，各自行动可也。”“江贞”舰发完信号后，一艘前往上海的英商太古公司的轮船经过这里，准备靠上码头。“江贞”舰立即打信号给该轮，命令该船停驶。待船靠近后，“江贞”舰放下舢板将萨镇冰送上轮船。当晚，萨镇冰在九江英国领署住了一夜。第二日（即10月29日），萨镇冰化装成商人，登上该轮前往上海。
英国公使朱尔典在致英国外交大臣格雷的一封电报中是这样说的：“萨提督之舰队，已全赞成革命，只萨提督一人，尚未变易初心，故其地位，不免危险，曾准其避入一英国兵舰，并在九江英领事署住宿一宵，旋由该处乔装商人平安抵沪。”
“功在民国”
萨镇冰走后，双方继续交谈，且十分融洽。之后，林森等人又与黄钟瑛等商讨，决定成立海陆军联合委员会。当下，林森再次邀请各位舰长及军官代表上岸联欢，舰长们一口答应。林森先行下船，这时，黄钟瑛下令旗舰发炮17发以示欢送。林森走后，各位舰长先后乘小艇上岸，林森在九江商会隆重设宴，对各位舰长参加革命表示热烈欢迎。
没想到，就在大功即将告成之际，却节外生枝，差点功亏一篑。就在林森与各位舰长把酒言欢之时，九江都督马毓宝却密派炮台司令戈克安等率人登上兵舰，将炮闩全部拆下，运到九江商会保管起来。在拆的过程中，与舰上官兵发生冲突，几乎酿成大规模的火并。舰上人员立即报告了黄钟瑛。黄钟瑛有点激愤，认为既然海军已经起义，卸下了炮闩军舰还能有什么作为？这是九江民军方面对他们的不信任。当下欲罢宴返回舰上，准备与民军作战。林森一时有点不知所措，双方十分尴尬，以至再次出现僵持的局面。李烈钧见状，当场力劝马毓宝不能以武力解决问题，而应以“和”为上策。这时，林森赶紧出面，再次劝黄钟瑛以大局为重，并以同乡关系登台，向各位福建同乡进行发自肺腑的劝说，以缓和气氛。林森说完，即请舰方代表上台。但海军方面怒气未消，表示不愿上台。经林森再三劝解，才稍稍气平。正在这时，上舰拆炮闩的戈克安怒气冲冲地来到九江商会的宴会客厅。林森和李烈钧立刻介绍双方见面，林森用一口乡音对黄钟瑛和海军舰长们说：“这实在是一场误会，主要责任在我，是我们没有协调好，我保证，再不会出现这样的事了，我们一定妥为处理这件事，请大家入座再饮几杯。”由于林森的大度，双方均表示不作过多计较。在林森一番感人的发言后，黄钟瑛登上讲台发言说：“此次赴浔，历经多少艰难险阻，始达到今天之举义。现武汉战事方在危急，海军亟应开赴前线，岂容发生不融洽情事。”在座诸海军将士听毕，都泣不成声。黄钟瑛表示不再计较拆炮闩之事。双方尽释前嫌。
第二天，林森和李烈钧即派人将全部炮闩送回军舰。一场纷争终告平息。林森事后才得知，因金鸡坡炮台分台司令戈克安原在“海容”舰任三车（三管轮），后转入陆军任炮台司令，与福建籍官兵素有积怨。恰逢“海容”舰停于江中，戈克安为前嫌而发炮。以后戈克安又称“海容”舰私自启碇试图逃走，经查实并无此事。
这件事以后，双方配合融洽，再没有出现争执。林森根据孙中山当年的指令，赶制了数十面青天白日旗送到舰上。黄钟瑛为表示参加革命的诚意，当天就在全部军舰上升起了青天白日旗，并向舰队下达命令：每艘大舰拨出两挺、小舰拨出一挺马克沁机枪，没有机枪的军舰，则拿出步枪6至8支，连同配件，全部支援九江的陆军部队，以增强陆军的实力。各舰均照办不误。
至此，清朝海军的主力，除“海圻”号由程璧光率领赴英国参加观礼外，其余三大舰及“四江”、“四楚”、“两湖”等江防舰、鱼雷艇，全部在九江起义。舰队起义后，各舰舰长立即发出通电，要求清帝退位，以示与清政府的彻底决裂。
先后参加起义的舰长是：“海筹”舰长黄钟瑛，“海容”舰长杜锡珪，“海琛”舰长林远谟，“建威”（炮舰）舰郑纶，“建武”舰（饶怀文），“楚同”舰何广成，“楚有”舰朱声岗，“楚谦”舰王光照，“楚豫”舰方佑生，“楚泰”舰马钰，“楚观”舰吴振南，“江元”舰邓家骅，“江亨”舰沈继芳，“江利”舰朱天森，“江贞”舰周兆瑞，“飞鹰”（驱逐舰）舰林颂庄，以及一些鱼雷快艇。这是民军拥有的第一支海军武装，几乎是清朝海军的全部主力。至此，九江的海陆军合为一军，声势大振。
清朝海军的起义，在长江中下游地区产生了很大的影响。不仅使革命党的军事实力大为增强，清朝政府也为之震慑。海军起义截断了清军的水上给养，迫使更多的舰艇起义，有力地支援了陆军。各地光复、攻打清军诸役中，均公认以海军的支持最为有力。
九江光复和清朝海军的起义，以林森斡旋最力，功劳自然首推林森。为此，九江市商会特地制作了一块镌有“功在民国”的匾额送给林森，以表示九江民众对林森的感谢。此事一时在九江以至江西引起轰动。
联络各地起义
九江是紧接武汉的大商埠，襟江带湖，为长江上的军事重镇。九江的光复，与武汉形成了犄角之势。而长江中下游各地，于武昌光复后，虽多表示同情，但慑于清军大举南下，人心不定，观望者甚众。
九江一光复，革命军方面声势大振，长江中下游各城市声气得已互通，相互得到鼓舞，并因九江的光复而加快了独立的步伐。各地均知九江的海陆军实力雄厚，遂纷纷派代表赴九江联络要求增援。
武汉方面在清军压力下，局势十分危急。武昌军政府派詹大悲、居正来到九江联系，急切希望九江方面出兵增援。南昌方面独立后，势单力薄，也向九江方面告急。
为此，林森与李烈钧等人召开了九江军政府的紧急会议。会议决定，分几路增援。派蒋作宾率一个支队驰赴南昌增援，李烈钧率两个支队及一支分舰队赴安徽安庆，汤芗铭率“海容”舰为首的一支舰队驰援武汉。其他前来要求增援的地区，均给予经济上的援助，或答应出兵以鼓舞士气。九江军政府几乎是倾巢出动，海军舰队全部启锚。赴武汉方面的海军舰艇主力上驶后，立即支援革命军反击冯国璋的北洋军，并与北洋军展开了激烈的炮战，“海容”舰巨炮给予清军龟山炮台以有力的打击，清军为之丧胆。当汉阳战事告急时，林森则亲自带了兵饷和一支陆军部队，赶赴汉阳协助黄兴策划军事。
九江光复后，江西各地均受到影响，纷纷起来响应。江西各地的新军早已经受到林森等同盟会员的策动。南昌新军吴介璋，曾得力于林森的接洽，在九江军政府的军事、财政的支持下，于10月31日宣布独立。江西军政府宣告成立。
林森将江西的情况立即通知了上海方面。在上海的福建学生会成员陈子范等人马上协助陈其美，于11月6日在上海举义成功。陈子范根据林森先前与他联系时的部署，与江道淇等革命党人组织了敢死队和筹饷队，准备了炸弹赶赴镇江支援林述庆起义。林述庆是福建闽侯人，清末时的职务是新军第九镇三十五标管带，驻扎在江阴，也是福建学生会的中坚分子。当他接到福建学生会的指令后，立即将三十五、三十六标军队改编成镇军，自任镇军司令。随后开拔前往镇江驻扎，为进攻南京作准备。当林述庆所部开到镇江后，因考虑人地生疏，兵力不足，犹豫再三不敢轻举妄动。林森得知这一情况后，心急如焚，如镇江不动，清朝重镇南京就不能受到威胁。南京不光复，那么武昌、九江也将岌岌可危。林森立即派遣学生会成员林知渊赶往镇江，敦促林述庆及时响应各方的起义，以形成声势。
林知渊接到林森的指示后，立即与其胞兄林知夏二人秘密往返于镇江与上海间，帮助林述庆策划举事，促林述庆尽快起兵。到镇江后，林知渊立即与林述庆面谈，并告知了林森的意图说：“上海已得到消息，冯国璋已由秦皇岛用兵舰增运军队进入了长江，正上驶湖北增援。若镇江举事，可利用要塞炮台将其军舰击毁或阻在长江下游，否则革命大局危在旦夕。几日内，沪军政府陈子范、江道淇自上海将送来15000元，并偕敢死队40人带炸弹来镇江，经费弹药均可保无虞。由此，实力可大大增强。子超兄请你务必尽快起事。”林述庆闻听此言信心大增，决定立即举行起义。
11月7日，林述庆率部在镇江起义成功，镇江随之宣告光复。随后，镇军作为江浙联军的主力，率先攻入南京，林述庆自任“宁军都督”，并在清两江总督署设立了林都督行辕。林述庆在光复南京之役中立有头功。林森的密友、学生会会员杨韵珂在随镇军攻打紫金山天保城之战中壮烈牺牲。
九江光复的消息也传到了福建。受到九江方面尤其是林森在九江主持起义的鼓舞，福建同盟会支部立即决定在福州起事。11月6日，同盟会领导的武备堂以及英华、格致学校的学生组织，组成了炸弹队、洋枪队，向旗兵发出了最后通牒，但旗兵拒绝投降。革命党人遂于11月8日正式起义。数路人马一起出击，林森的四弟林为桢率洋枪队攻占了各机关。至11日，旗兵战败投降。同盟会会员举行了大会，公推孙道仁为福建都督。
江西、上海、镇江、南京等地的光复，使长江中下游的独立省份连成了一片，有力地支援了武昌军政府，并对整个中国的革命形势产生了重大影响，形成了与清政府对峙的局面。
- 还有一种通行的说法，即林森此次从台湾回到福建，是应孙中山的电召。但目前尚未发现有关文字资料。
- 即清朝文武官员们胸前表示官阶大小的标记，上绣有各种图案，如麒麟、仙鹤等。
- 即官府中专门检验命案死尸的人，类似今天的法医。
