武昌起义后，各省代表会成立。林森作为江西省的代表参加了会议。后来，林森与17省代表转赴南京，选出临时大总统候选人，并于29日进行投票表决。林森作为江西代表投了孙中山一票。孙中山以16票当选为中华民国临时大总统。
1912年1月28日，临时参议院正式成立，各省议员以票选的方式选举议长，林森以绝对多数当选。南京临时参议院共经历了两个时期，即代理参议院和临时参议院，正常工作近三个月，伴随了中华民国南京临时政府的始终。参议院在议长林森的主持下，作为国家的一个民意机关和立法机关，按照法定程序，依据民主原则，独立地开展工作，显示出了应有的权威性，如“定都”、“国旗”、“法令”、“质询”等方面，对孙中山、袁世凯及行政各部提交的人事、议案、法令等都有过否决的记录，特别是对总统府交议的《临时约法》草案进行了否决，并独立加以制定完成。这在近代中国的政治生活中是从未有过的。与封建专制制度相比，无疑是社会的巨大进步；对于中华民国临时政府的创建和发展，起到了重要的推动作用。
参加“各省代表会”
武昌起义后不到一个月的时间，全国10多个省先后光复，并成立了与清朝政府相抗衡的军政府、都督府或其他名义的政权。1911年11月9日，湖北都督府向已独立的省份发出通电，请其委派全权代表赴武昌，组织临时政府。但是，浙江都督汤寿潜、江苏都督程德全
却与武昌方面唱起了反调，竭力主张在上海开会并组织临时政府，要求各省都督府各派一人赴沪，常驻上海。主张在上海成立临时政府的，以江苏、上海、福建等独立的省市为代表。
11月15日，沪、苏、闽代表在上海集会，决定成立“各省都督府代表联合会”。几天后，一些省份的代表纷纷到沪，开会通过决议并致电黎元洪、黄兴，承认武昌为民国的中央军政府等。但湖北方面坚持要求各省代表赴武昌“共商国是”，其理由也很充分，谓：既然在沪代表承认湖北为民国中央政府所在地，则代表会议理所当然地应在中央政府所在地召开，上海与武汉相距千里，如在上海开会，则通讯、交通均不便，也与常理相悖。
于是，在上海的代表们经过讨论，多数人认为在武汉开会更为合适。于是会议议决，“通电各省都督府、咨议局，报告各省代表赴鄂议组织临时政府，沪设通信机关于西门江苏教育总会”。大多数人的意见统一后，决定上海仅作为通信机关，在各省代表赴鄂后，“宜各有一人留沪，以联络声气，以为鄂会后援”。
11月28日，江苏、浙江、福建、山东、安徽、湖南、广西、四川、直隶、河南、湖北等11省20余名代表，启程前往武汉。29日到达武昌。但赴鄂的各省，以联络为由，都留有部分代表在上海。在赴鄂的代表中，并没有林森及江西都督府的代表。
各省都督府代表联合会，又称各省代表会，是临时政府成立前的一个临时性的权力机构和立法机构，也就是南京临时参议院的前身。各省代表会的一项最重要的工作，就是于12月3日制定完成了《中华民国临时政府组织大纲》。首任临时议长由湖南人谭人凤担任。《大纲》规定了“临时大总统”、“临时参议院”、“行政各部”等内容，其中“参议院”一章中，有“参议院未成立以前，由各省都督府代表会代行其职权”的内容。因南京于12月2日胜利光复，加上武昌战事吃紧，武昌的各省代表会只得移到汉口开会。整个武汉的形势十分严峻。处境艰难而终日惶然的各省代表们，只得在12月4日开会议决，将中华民国临时政府移设于南京，各省代表召开临时大总统选举会也将在南京举行。
自各省代表迁鄂后，留在上海的各省代表会的另一部分代表，以同盟会员宋教仁、陈其美为代表，仍在不断地开会。事有凑巧，在上海的代表们也于同一日（即12月4日）议决以南京为临时政府所在地；并以投票的方式选举黄兴为大元帅（16票），黎元洪为副元帅（15票）。12月6日，江西都督府代表吴铁城到达上海赴会。至9日，林森作为江西都督府的另一代表，与吴铁城一同参加了在上海召开的几次会议。这是林森首次参加各省代表会的工作。
这样，湖北和上海两方，在临时政府设南京的问题上基本上取得了一致意见。
12月20日前后，各省代表陆续从湖北和上海两地抵达南京。21日，林森由上海到达南京。
22日，江西代表林森、吴铁城、赵士北、王有兰、俞应麓，浙江代表汤尔和、黄群、陈时夏、屈映光，湖北代表马伯援、杨时杰、陶凤集、居正、时象晋，湖南代表廖名缙、邹代藩、刘揆一、欧阳振声，奉天代表吴景濂，河南代表李□、黄可权，山西代表仇亮、乔义生、景耀月，福建代表林长民、潘祖彝，江苏代表雷奋、陈陶遗、马良、袁希洛，广西代表马君武，广东代表王宠惠、邓宪甫，四川代表周代本、萧湘，直隶代表谷钟秀，安徽代表赵斌、王竹怀、许冠尧，等等，共40人，齐集南京原江苏省咨议局开会。这是各省代表到会最齐的一次。因代表们所代表的是不同的利益集团，所以意见很不统一，争论十分激烈。因此，会议开得有点乱。
在会议期间还发生了一起暗杀代表的事件。
在代表会外举行的一次同盟会本部的会议上，林森对一名与自己是同姓同宗同乡的福建代表林长民提出了指责，他说，“林长民是福州著名的宪政党员，像他这样的人还混迹于代表会议中开会，显然，是宪政党还在起作用”。林森只是一般地说说而已，但说者无心，听者有意。这番话被在场的陈其美听见，陈其美立即派青帮打手于会议召开时对林长民实行了一次暗杀行动。杀手在某车站向林长民射击，林长民当即中弹。陈其美此举，并不是要林长民的命，而是警告他赶快离开南京的代表会。所以，这一枪并没有击中林长民的要害。林中枪后，马上辞去代表一职离开南京回福建老家去了。
选举临时大总统
12月28日，各省代表会举行全体代表会议。直至开会的前一天，云南代表吕志伊、段宇清、张一鹏才赶到会场。会议议决，本次代表会主要议题是：“推举临时大总统候选人”；“选举大总统，用无记名投票法”。
本次会议到会的正式代表与第一次会议时有了一些变动。他们是：
山西：景耀月、李素、刘懋赏
陕西：张蔚森、马步云、赵世钰
江苏：袁希洛、陈陶怡、雷奋、马良
安徽：许冠尧、王竹怀、赵斌
江西：林森、赵士北、王有澜、俞应麓、汤漪
浙江：汤尔和、黄群、陈时夏、陈毅、屈映光
福建：潘祖彝
广东：王宠惠、邓宪甫
广西：马君武、章勤士
湖南：谭人凤、邹代藩、廖名搢、刘揆一、欧阳振声
湖北：马伯援、王正廷、杨时杰、居正、胡瑛
四川：萧湘、周代本
云南：吕志伊、张一鹏、段宇清
山东：谢鸿焘、雷光宇
河南：李鎜、黄可权
直隶：谷钟秀
奉天：吴景濂
共49人。
会议由临时议长汤尔和担任主席。监票员为刘之洁。原定监票员为程德全和徐绍桢，后因听说有人扬言在会场投掷炸弹，二人均避往上海未出席会议。大总统候选人为三人，为孙中山、黎元洪、黄兴。每省不论大小，到会几人，只有一票。到会者代表了17省，共计17票。林森代表江西省投给了孙中山一票。投票结果，孙中山得16票，超过投票总数的三分之二，当选为中华民国临时大总统。因湖南代表谭人凤与孙中山有矛盾，故没有投孙中山的票。
孙中山于1912年1月1日由上海赴南京，在原清两江总督署举行了隆重的中华民国临时大总统就职典礼。林森及代表会的代表们均到场参加了这一具有历史意义的盛典。
1月2日，各省代表会开会议决，由代表会代行参议院职权，名称为代理参议院。
1月3日，代理参议院举行会议，选举临时副总统。林森等人出席了投票仪式。结果，黎元洪以17票全票当选。这次会议，还议决通过了临时大总统孙中山交议的中央行政各部及权限案。孙中山亲自到会。代理参议院公布了临时政府各部总长名单。以林森的资历和声望，担任一个部的总长完全没有问题。但因种种原因，孙中山却没有安排林森在临时政府中担任任何职务。这是由于在各部总长和掌实权的次长中，同盟会员已占了较大的比例，革命党人与其他派系，如立宪派人士、旧官僚等，他们之间还有个平衡的问题，同盟会方面必须让出一些名额；此外，孙中山对林森是否会有更重要的任用？20多天后，这一疑问就有了答案。
1月13日，江西代表林森不再任代表一职，改任福建省推选的参议员。
1月23日、24日、25日，代理参议院连续召集开在宁的全体代表开会，研究参议院成立的有关事宜。林森都出席了会议。
1月26日，代理参议院再次开会，与会各省推定的参议员共23人出席了会议。林森主持了会议。会议议决，以1月28日为参议院开幕之日。鉴于当时南京城治安状况较为混乱，代理参议院还咨请临时大总统孙中山转饬卫戍部队，于入城紧要之处，设检查所严加检查，以防奸细而遏乱源。
至临时参议院成立前，代理参议院所进行的一项最重要的工作就是修改《临时政府组织大纲》。林森主持并参与了《大纲》的修改工作。
《大纲》主要修改了以下内容。
将第一条改为：“临时大总统、副总统，由各省代表选举之，以得票满投票总数三分之二以上者当选。代表投票权每省以一票为限。”
将第五条改为：“临时大总统得制定官制、官规，兼任免文武职员。但制定官制、官规及任命国务员及外交专使，须得参议院之同意。”
另增加了一条，内容为：“临时副总统于大总统因故去职时，得升任之。如大总统有故障不能视事时，得受大总统之委托，代行其职权。”
至此，《中华民国临时政府组织大纲》正式确定。
代理参议院在临时参议院成立前，还议决通过了一些事项。如通过了国务员（各部部长次长）的名单，“参议员不得兼任行政官吏”，以及关于“和战”问题、优待清皇帝条件、发行军需公债章程、向英国道胜银行借款，等等。
民国首任参议院议长
1912年1月27日，参议院召开全体会议，参议员22人出席。林森向会议报告了参议院的筹备情况及成立大会的秩序。
1912年1月28日，中华民国临时参议院在南京成立。图为林森（二排左五）与孙中山、黄兴等人合影
1月28日上午11时，中华民国临时参议院成立大会在南京原江苏咨议局大楼正式举行。出席会议的共有10省派出的参议员30人，他们是：
广东：赵士北、钱素芬、丘沧海（后改金章）
湖南：欧阳振声、彭允彝、刘彦（后加派覃振）
湖北：时功玖、张伯烈、刘成禺（后改派田桐、刘道仁、胡秉柯、欧阳启勋）
浙江：王正廷、陈毓川（后改黄群）、殷汝骊
江苏：陈陶怡（即陈陶遗）、杨廷栋、凌文渊
安徽：常恒芳、凌毅、范光启（后改胡绍斌）
江西：汤漪、王有兰、文群
山西：李素、景耀月、刘懋赏
福建：林森、潘祖彝、陈承泽（后改张继）
广西：曾彦、邓家彦、朱文邵（后改刘崛）
未派参议员但派遣了代表参加会议的有7省12人，他们是：
贵州：平刚、文崇高
云南：段宇清（后加派张耀曾、席聘巨）
陕西：张蔚森、赵世钰、马步云
四川：张懋隆、吴永珊、周代本（后改李肇甫、熊成章、黄树中）
奉天：吴景濂
直隶：谷钟秀
河南：李鎜（后加派陈景南、丁廷謇、张启舆、李载赓）
山东省当初没有派出参议员，后派彭占元、刘星楠、史泽咸、于洪起、陈命官为参议员。
参议院成立大会的秩序是：
（一）奏乐；
（二）参议员就席；
（三）大总统及各部长就席；
（四）临时议长宣告开会宗旨；
（五）大总统孙文演说；
（六）各部行政总次长演说；
（七）临时议长致答词；
（八）全体三呼中华民国万岁；
（九）摄影纪念。
会议按照以上议程顺利进行。
临时大总统孙中山及部分部长、次长出席了成立大会。孙中山向大会致以激动人心的祝辞，谓：
1912年担任南京临时参议院议长的林森
中华民国既建，参议机关乃得正式成立，文诚忻喜庆慰。……参议院所议者，国家无穷之基；所创者，亘古未有之制。其得也，五族之人受其福；其失也，五族之人受其祸。北虏未灭，战云方急，立法事业，在在舆戎机相待为用。诸君子勉哉！各尽乃智，尽乃力，以固民国之始基，以扬我民族之大烈，则不徒文一人之颂祷。其四万万人实嘉赖之。
到会的各位部长也相继发表了讲话。林森则代表参议员发了言。
1月29日，参议院选举议长副议长。选举的方式，是在到会的所有参议员中以“记名投票法”互选，以“得票满投票总数之半数者为当选”。参议院议长还须具备以下不成文的条件，即有革命工作的经历，对于民国的建立著有功绩，对于民国今后的军政事务能够发挥作用。孙中山还嘱意须有同盟会员的资历。在这些参议员中，具备这几个条件的，非林森莫属。孙中山也希望林森能够当选议长。但选举这一关必须通过，大总统孙中山也绝不能越权指定。
选举结果，林森因“德高望重”，以绝对多数得票当选为参议院议长。得票位居第二的，是江苏参议员陈陶怡。结果，陈陶怡当选为副议长。
临时参议院组成后，即于当日开始工作。在先后担任的参议员中，同盟会员占了绝对多数。除了林森外，还有王正廷、李肇甫、王有兰、文群、汤漪、刘彦、彭允彝、欧阳振声、时功玖、刘成禺、潘祖彝、陈承泽、常恒芳、凌毅、胡绍斌、陈陶怡、熊成章、黄树中、钱树芬、赵士北、金章、邓家彦、曾彦、张耀曾、席聘巨、段宇清、平刚、刘星楠、彭占元、刘懋赏、赵世钰、陈星南。非同盟会员的革命派人士是文崇高，进步士绅殷汝骊。
选举完毕，大总统孙中山到会向议长林森、副议长陈陶怡以及各位议员颁发了委任状。
大会还通过了《中华民国临时政府组织大纲》，其核心内容是：
中华民国采用两院制，暂定名为元老院，代议院；
元老院采取地方代表主义，各地人数均等；
代议院取人口比例主义，按人口分配议员名额；
代议院议员任期为四年，元老院议员任期每两年改选三分之一；
国会之职权依《临时约法》而定。
林森作为中华民国的第一任参议院议长，根据以后制定的《参议院法》规定，其职权为：
议长维持参议院秩序，整理议事，对于院外，代理参议院；议长得任免秘书长及其下各职员，并指挥监督之等等。
根据参议院的常费章程，议长林森不享受岁费，只享受公费和津贴。林森作为参议员，公费为200元，议长津贴100元。其回所在省份探亲的旅费，另由参议院付给150元。
议决“清帝退位”
林森就任参议院议长后，所做的很重要的一件事就是解决有关清帝退位后的优待条件问题。
临时参议院在林森的主持下，对于这一问题，在其职权范围内进行了多次讨论。2月5日，临时参议院就开会讨论了孙中山及临时政府提出的关于优待清朝皇室条件的议案。南北议和代表等有关人员也数次到参议院陈述意见。议长林森提议逐条逐款加以讨论，并进行了一些修改，然后由参议员进行公决，最终获得了通过。如将《关于大清皇帝优待之条件》改为《关于清帝逊位后优待之条件》等等。
民国初年的南京临时参议院
全部议案包括三个方面的内容，即：
一、清帝逊位后的优待条件；
二、清皇族优待条件；
三、满、蒙、回、藏各族优待条件。
优待皇室条件共9条，主要内容是：
大清皇帝尊号保留不废，以待外国君主之礼相待；
岁用不少于4000万两，由中华民国政府付给；
逊位之后暂居宫禁，日后移住颐和园；
其宗庙陵寝永远祭祀，清德宗崇陵未完工工程，如制妥修，其奉安旧制依旧；
以前宫内所用各项执事人员照常留用；
其原有私产特别予以保护。
议案通过后，由南北议和的南京临时政府代表伍廷芳将优待条件电报在北京的袁世凯，袁世凯则与孙中山及参议院反复讨价还价要求修改。但林森及绝大多数参议员不同意做大的变动，只是进行了一些小的修改。最后，基本按参议院原议付诸实施。
“定都”之争
自清帝退位后，“定都”之事再一次摆上了临时政府的日程。
首都设于何处？这一直是南北议和中的一个争论激烈的问题。就在清帝退位、孙中山提出辞职后的第二天（2月14日），参议院在接受了孙中山的辞职咨文后，在林森的主持下召集会议，专门审议定都一案。
会议刚开始，直隶参议员谷钟秀、四川参议员李肇甫联名提出了议案，要求将临时政府的首都设在北京。议案既出，辩论很是激烈。议长林森遂建议，用投票的方式来决定首都设于何处。众参议员表示同意议长林森的意见。孙中山以为，参议员中同盟会员众多，否决这一议案不会有任何问题，也就没有提出异议。
此次会议，到会的参议员共28人。以记名投票方式进行。投票结果，20票主张定都北京，主张定都南京的只有5票。其他为，武昌2票，天津1票。选举结果大大出乎孙中山的预料，就连林森也没有想到竟会是这样的结果。
投票结束后，四川省参议员、同盟会员李肇甫还发了一通议论，说当时临时政府主张将首都设在南京，是因为大江以北还处在清朝的统治之下，现在南北已经统一，首都自应设于北京为宜。有的议员还对袁世凯不愿南下就职表示同情。
这时，孙中山坐不住了。最令孙中山恼火的是，这些谬论，有不少还是出自同盟会员之口。孙中山的情绪十分激动，他站起来说：“这项议案，违背了南京临时政府在南北议和中所提出的条件，即临时政府首都必须设在南京。本总统表示不能同意。现依法咨请参议院进行复议。”
主张定都北京的，如果仅仅是立宪党人，孙中山倒也罢了。而最令孙中山感到痛心的是，是自己的同志，是一些同盟会员，就是他们与自己唱起了反调，发出了极不协调的声音。在这次表决前的2月13日，章太炎曾发表文章《致南京参议院论建都书》，声称：“金陵南服偏倚之区，备有五害，岂可以为首善之居哉？谋国是者，当规度利病，顾瞻全势，慎以言之，而不可以意气争也。”他公开提出首都不应设于南京而建于北京的主张。江苏代理都督庄蕴宽应同盟会机关报《民报》之约，通电全国反对定都南京。安徽都督孙毓庆、顺直咨议局等省份也纷纷通电响应。更令孙中山难以接受的，一些长期跟随自己的革命党人，此时也纷纷倒戈，如柏文蔚、朱瑞、姚雨平、洪承典等著名将领。为此，孙中山十分难过。
在《临时政府组织大纲》中，有“临时大总统对于参议院议决事件，如否认时，得于咨达后十日内声明理由，咨院复议”一条。由于大总统表示了异议，林森立即说：“大总统有权对此一议案表示异议。鉴于此，参议院将于明天对这一议案依法进行复议。”说罢即宣布休会。
散会后，孙中山立即找到黄兴、林森等人到总统府进行了紧急磋商。黄兴说，这样的结果，无疑是釜底抽薪。一党之中不应有异议。孙中山则说，北京为专制腐败势力集中之地，污染甚深，又受不平等条约束缚，东交民巷使馆营房俨如敌国，动辄蒙其威胁。袁氏野心难驯，盘踞自雄，非帝制自为……同盟会员非力推翻前案不可。黄兴表示完全赞同孙中山的意见。林森则表示，我同盟会员，明日投票定要一致起来，方可取消原议。今夜之前，森一定奉告各位议员，明日统一行动，这样，推翻原议才有把握。孙中山立即将总统府秘书长胡汉民找来，要他与林森一起出面，对参议员进行疏通工作。孙中山决定，以党的名义通知各位党人议员，必须按照党的最高领导总理的意愿进行投票。胡汉民和林森立即把这一指示在当天夜里全部通知了同盟会议员。黄复生、李伯申、邓家彦则表示，如果投票结果不理想，就叫黄克强率宪兵冲入参议院，将同盟会议员绑了出来。黄兴则对林森说：“政府决不为此委屈手续，议会要自动翻案。”林森力劝不可，如此行动太鲁莽，要相信同盟会员们会按党的意图办的。
2月15日，参议院会议如期举行。议长林森宣布，由于大总统对昨天的议案有异议，今天依法进行复议，复议的方法是投票表决，仍采用记名形式。激烈的争论随即开始。一名议员登上讲台，激愤悲壮，说首都如不设在南京，将以身殉于会场。这时，又一名议员马上站起来对林森说：“我建议不必讨论了，请议长马上就付诸表决。”林森问各位议员：“有无异议？”众人皆答可以进行表决。之后，林森吩咐发票。结束后开票检视，出现了与昨天截然不同的结果。此次会议共到参议员27人，投定都南京的19票，北京6票，武昌2票。据林森事后了解，投北京票的，是直隶、奉天、云南、陕西、江苏、山西六省。湖南、湖北两省投了武昌的票。
投票结束后，林森宣布，参议院选举有效，议决仍以南京为民国首都。
之后，参议院又进行另一项表决，选举袁世凯为第二任临时大总统。
为了促使袁世凯南下就职，孙中山派出了以蔡元培为专使，魏宸组、刘冠雄、宋教仁、王正廷、汪精卫为欢迎员的迎袁专使团北上北京，“迎接”袁世凯南下就职。袁世凯始终不肯南下就任临时大总统，他在北京制造了种种借口，如发动兵变，唆使北洋军将领通电、疏通外国势力向临时政府施压等等。黎元洪还危言耸听地说，“舍南京不至乱，舍北京必至亡”。外国使团也纷纷向北京调兵。蔡元培等人慑于兵变，仓皇逃入东交民巷的六国饭店躲避。回南京后竟反过来向临时参议院和临时政府陈说北京混乱情景，为袁世凯不能离开北京说情。鉴于这个形势，孙中山不得不向袁世凯作出让步。
3月6日，南京临时参议院议决，同意袁世凯在北京就职。为了有个台阶下，南京方面还附加了一个条件，即袁世凯须以电报形式向南京临时参议院“宣誓”。对袁世凯来说，发个电报并不是件困难的事。袁世凯表示“欣然接受”。3月10日，袁世凯在北京宣誓就任临时大总统。在袁世凯的威逼下，定都北京已成定局，孙中山亦无力回天。
袁世凯就职前，为了表示“服膺”南京临时参议院，尊重民主的诚意，已将就职典礼上宣读的“誓词”，电报临时参议院及议长林森“审核”。誓词通篇的措辞，参议院均表示满意。但袁世凯在3月10日就职宣誓时，却将誓词的内容进行了更改。虽然信誓旦旦地表示“愿竭其能力，发扬共和之精神，涤荡专制之瑕秽”，却将原稿中的“谨守宪法，依国民之愿望”，悄悄地改成了“速定宪法，副国民之愿望”。虽只是三字之差，但袁世凯破坏民主的政治图谋在他当上总统的第一天就已暴露无遗。
主持制定《临时约法》
中华民国临时参议院自1912年1月28日成立到4月8日北迁，由林森主持参院事务长达2个月零10天。在这段时间里，以林森为首的参议院，通过立法的形式，议决了大量法律条文和议案，其中最重要的，就是制定了一部《中华民国临时约法》（以下简称《临时约法》）。
《临时约法》的产生，还发生过一个小小的波折。
临时参议院成立后，大总统孙中山于1月30日咨请参议院议决《中华民国临时政府组织法草案》。这个草案是由孙中山指派总统府法制局拟定的，由法制局长宋教仁负责起草。孙中山打算以此来取代《中华民国临时政府组织大纲》。咨文称：临时政府现已成立，而民国组织之法尚未制定……兹据法制局局长宋教仁呈拟中华民国临时组织法草案五十五条前来，合并咨送贵院。
参议院在接到这份文件后进行了讨论。林森认为，这部法律是国家的基本法，参议院作为国家最高立法机关，其制定权应在参议院，而不应由政府部门的法制局来起草，这样做显然不符合法律程序。虽然是孙大总统咨送参议院的文件，但是，参议院还是决定，将草案退回总统府。
孙中山接到参议院的回复后，认为确有道理。事后与林森商议，决定由参议院组成起草委员会另行拟定。
2月7日，在林森的主持下，参议院成立了起草委员会另行起草。林森与孙中山以及法制局商议后，以参议院的名义向孙中山建议，拟将该文件更名为《中华民国临时约法》。孙中山表示完全同意。
起草工作刚刚开始，国内局势就突起变化。
2月12日，清朝宣统皇帝溥仪正式下诏宣布退位，统治中国两千多年的封建帝制宣告结束。孙中山在临时大总统就职典礼上曾宣誓：“专制政府既倒……文当解临时大总统之职。”为了履行诺言，促进南北统一的完成，孙中山决定辞去临时大总统一职。
2月13日，孙中山亲往临时参议院，正式递交了辞职咨文，并发表了演说：
……清帝退位，南北统一。今日参议院选举总统，若袁公当选，余深信必能巩固民国，至临时政府地点，仍设南京。余解任后，亦仍愿尽力于新政府……
但为了防范袁世凯当选总统后专权，孙中山在辞职咨文中又提出了三项附加条件，即：一、临时政府设南京，为各省代表所议定，不能更改；二、辞职后，俟参议院举定新总统新到南京就职之时，大总统及国务院乃行解职；三、《临时政府约法》为参议院所新定，新总统必须遵守颁布之一切章程。孙中山此举，是想将袁世凯调出北洋老巢，以削弱其势力，并想用《临时约法》来约束袁世凯。
参议院表示接受孙中山的这一请求。不少参议员对于孙中山的辞职表示不解，纷纷劝说孙中山收回主张，有的甚至向孙中山哭求。但孙中山主意已定，坚定地说：“既然当初许下诺言，就应说话算数。辞职，以国家利益为重，是件好事嘛。”
看到孙中山去意坚决，参议员们遂不再劝说。林森一向待人和蔼平和，说话温文尔雅，此时，林森抑制不住内心的激动，健步走上讲台，以参议院议长的身份，向大家发表了激动人心的演讲。这是一篇著名的演说：
孙中山先生发宏愿救国，首建共和之议，奔走呼号于专制淫威之下，屡濒于危，而毅然不辍，二十年如一日。武汉起义未一日，而响应者三分天下有其二，固亡清无道所致，抑亦先生宣导鼓吹之力实多也。当时民国尚未统一，国人急谋建设临时政府于南京，适先生归国，遂由各省代表公举为临时大总统。受职才四十日，即以和平措置，使清帝退位，统一底定。虽柄国不满百日，而吾五大民族所受赐者，已靡有涯矣。固不独成功不居，其高尚纯洁之风，实为斯世之矜式。
这篇演说，不满五百字，但景仰之情溢于言表，亦载入了史册。
林森的讲演，博得了全场热烈的掌声，就连孙中山也很激动，他站起来连连点头向林森致意，向全体参议员鞠躬。
参议院在接受了孙中山的辞职后，林森又发言说：“新总统尚未选出。即使选定后，南下也需时日。中山先生虽已辞职，但未解职，实际任期应为4月2日止。”
议长林森发言后，参议院议员们一致要求孙中山继续履行总统职责至4月2日。孙中山也表示没有异议。
2月15日，参议院再次开会，正式选举袁世凯为中华民国的第二任临时大总统。
选举结束后，参议院根据议长林森的建议咨复孙中山曰：
昨奉到大总统辞表，并亲临本院陈述理由，大公无量，让德可风，不胜钦佩……袁君来南京受任新总统，未受任前，民国政府仍由大总统继续执行。
此时，距孙中山解职已为期不远，但《临时约法》尚未起草拟定。时间十分紧迫。
林森及参议院中的同盟会议员们，深知尽快制定出《临时约法》的重要性。于是，林森根据孙中山的意图，在草案中加入了“中华民国之主权属于国民全体”等条文，特别是加快了《临时约法》起草的速度。参议院议长林森和参议员们几乎是日夜开会，林森每天工作达12小时以上，边起草边讨论边通过。终于，经过32天的紧张工作，终于完成了《临时约法》在参议院中的三读程序。3月11日，林森主持参议院会议，正式通过了这部《中华民国临时约法》，并经大总统孙中山签署命令正式公布。
《临时约法》是中国第一部共和国的法律。《临时约法》分7章56条。它的全文浸透了资产阶级民主自由的精神，规定了“中华民国国家主权属于国民全体”；“人民一律平等，无种族、阶级、宗教之区别。人民有人身、居住、财产、言论、出版、集会、结社、通讯、信仰等自由，有请愿、诉讼、考试、选举和被选举等各项权利，有纳税、服兵役之义务”等等。《临时约法》还规定，“国务总理及各部总长均称为国务员。参议员可以对总统、国务员提出弹劾，并由最高法院组成特别法庭审判”；“法院以临时大总统及司法总长分别任命之法官组成，法官独立审判不受上级官厅之干涉”等等。
值得注意的是，《临时约法》将南京临时政府成立时的总统负责制改成为内阁责任制。虽然仅是两字之差，却有了巨大的含义。《临时约法》规定，大总统提出的法律案，公布法律，发布命令，均须经内阁总理副署后方能生效。这样，总理的权力扩大了，而总统的权力则被大大地限制了。这就是孙中山及南京临时政府、参议院，通过制定《临时约法》，对袁世凯实行的钳制措施。林森等参议院的革命党人，对孙中山的这一主张心领神会，而且是不遗余力贯彻执行，并在《临时约法》中全部体现出来。
《临时约法》一经公布，立即引发了一场“地震”。
湖北省参议会首先发难。他们提出，临时参议院是由各省都督派出的议员组成的，他们无权制定一部国家的根本大法；还称参议院是“少数人所把持的参议院”，表示不承认这部约法。很明显，这是指议长林森等同盟会员在制定《临时约法》中起的作用太大了。湖北省参议会的举动，立即得到一些省份的支持。立宪派人士也群起响应，攻击《临时约法》。
而袁世凯的态度倒是令革命党人十分惊讶。他对《临时约法》说了一番委婉动听的话：“要当一名公仆，竭其所能，发扬共和精神，荡涤专制之瑕秽；办事以临时约法为根据，毋得歧异，致失民国尊重法律之本意。”但同时又留下了一个小小的伏笔说：“法制本可随时改良，此次所定约法，尽可在该院新举参议员到齐开会后，再行提议修改。”袁世凯已经做好了要修改《临时约法》的准备了。
《中华民国临时约法》，是一部以美国、法国等资本主义国家“三权分立”制度为蓝本，根据诸国“代议政治”等原则制定的宪法。虽然是仿效别国，但产生在2000多年的封建社会刚刚解体、封建残余还根深蒂固的中国，的确是一件开天辟地的大事件，它与封建君主制度相比，无疑是中国社会历史的巨大进步。
《临时约法》的产生，是孙中山与参议院密切合作的结果，其中，林森起到了十分重要的作用。林森对于南京临时政府的建立以及法制体系的完善所起的作用是巨大的。
参院职责十二条
《临时约法》中关于参议院职责的条文，共有十二条。这是孙中山与林森等人反复磋商所制定的。这些条文是：
一、议决一切法律案；
二、议决临时政府之预算、决算；
三、议决全国之税法、币制及度量衡之准则；
四、议决公债之募集及国库负担之契约；
五、承诺第三十四条、三十五条、四十条事件（即临时大总统任免文武职员、国务员及外交大使、公使，须得参议院之同意；临时大总统经参议院之同意，得宣战、媾和及缔结条约；临时大总统得宣告大赦、特赦、减刑权，但大赦须经参议院之同意）；
六、答复临时政府咨询事件；
七、受理人民之请愿；
八、得以关于法律及其他事件之意见，建议于政府；
九、得提出质问书于国务员，并要求其出席答复；
十、得咨请临时政府，查办官吏纳贿违法事件；
十一、参议院对于临时大总统，认为有谋叛行为时，得以总员五分四以上之出席，出席员四分三以上者可决弹劾之；
十二、参议员对于国务员，认为失职或违法时，得以总员四分三以上之出席，出席员三分二以上之可决弹劾之。
这十二项规定，使参议院的职权得到空前地增强，而在《临时约法》第四章“临时大总统副总统”一节中，还特别强调“临时大总统副总统由参议院选举之”。以上内容一看便知，孙中山在制定《临时约法》时，利用一切手段，包括确定参议院职责等条文，试图对新总统实行严格的法律约束机制。这就是孙中山制定《临时约法》的初衷。而林森在草拟《临时约法》时，对孙中山的意图领会得十分透彻，这在公布的文件中全部得以反映。林森后来主持参议院的工作虽然不长，仅两个多月时间，但他充分运用参议院这一立法机构以及所制定的法律条文，较好地贯彻了孙中山的意图，对袁世凯和立宪派人士进行了有效的制约。
兵变遇险
林森就任临时参议院议长时，其院址设在南京城北的三牌楼旧劝业会内。这一组建筑宽大敞亮，楼房平房有数十间之多。林森及其议会的部分议员都住在这里。一日夜里，南京城中某驻军突然发生哗变，官兵纷纷外出，冲上大街四处劫掠，专抢机关商户。一时间，全城枪声不断，人心惶惶，秩序一片混乱。不少机关单位的人员纷纷逃避，留下了一座座空院。参议院大院，人也跑得差不多了，唯独林森一人在院中没有离去。林森不走，是因为有20000块银元来不及转移，带着跑也不安全，所以只好硬着头皮留了下来。同时，他致电在上海的一位好友邱于寄赶快来南京。
邱于寄于混乱之中从上海赶到南京，立即前往参议院探望林森。邱于寄到后，见偌大的一个院子，只有林森一人居住。林森见邱于寄来到，立即告知参议院尚存有公款20000元现洋，正藏于院中居室中床下。林森说，你来得正好，今晚我们各居一室，一人藏10000元，置于房中暗处。同时将院中电灯全部开亮，大门也打开来。如有乱兵来到，我们都要镇静自如，不要张皇失措。
到了半夜，果然有不少士兵闯入参议院中，穿堂入室，进进出出，川流不息。乱兵看到林森等人镇定自若，心想必没有什么好抢的。一阵混乱之后，已是天明时分。两箱银元均完好无缺。
参议院北迁
《临时约法》公布后，中华民国的政治制度已将原来的总统制改成了责任内阁制，并设立了国务院。国务总理为行政长官，各部部长均称国务员。
3月15日，袁世凯以大总统名义，将拟定的国务员（部长）名单咨送南京临时参议院议决。此次共设立了外交、内务、财政、教育、陆军、海军、司法、农业、工业、商业、交通、邮电等12个部。参议院接到咨文后，认为与临时政府的《各部官制通则》规定的10个部不符。在征求议长林森的同意后，参议院决定不予讨论，并退给袁世凯，要他重新提名。直至3月25日国务总理唐绍仪抵达南京，与参议院进行了协商，林森等人仍坚持原议。最终定下了10名部长的人选名单。将工业部、商业部合并为工商部，邮电部并入了交通部。
3月29日，临时参议院由议长林森主持召开会议，讨论各部总长名单。会议开始后，孙中山（第一任大总统）、唐绍仪（首任国务总理）以及南京临时政府的总长、次长们都退席回避。
会上先进行讨论，然后投票表决。结果，除交通总长梁如浩以17票赞成，22票反对未能通过外，其他总长均获通过。在新当选的总长中，只有教育总长蔡元培、司法总长王宠惠、工商总长陈其美等少数几名同盟会员。会上，还通过了一些其他议案，如《国务院官制》等。
3月30日，在北京的袁世凯接到南京临时参议院的议决后，尚不敢造次。随即任命了各部总长，未获通过的交通总长由总理唐绍仪兼任。
至此，新一届政府宣告成立。南京临时参议院也将完成它的历史使命。
4月1日下午2时，孙中山以各国务员已确定，南北统一宣告完成，遂亲临参议院，向各位议员行解职礼。
奏乐后，孙中山即就席致解职词。略谓：
……本总统解职后，即为中华民国之一国民。……本总统今日解职，并非功成身退，实欲以中华民国国民之地位，与四万万国民协力造成中华民国之巩固基础，以冀实现世界之和平。望贵院各位参议员与将来之政府，勉励人民，同尽天职。从今而后，使中华民国今后得日进步文明，使世界今后得享和平之幸福。
孙中山致词完毕，全场掌声一片。孙中山手捧临时大总统印，准备交还参议院。议长林森、副议长王正廷命参议院全院委员长李肇甫接受大总统印信。然后，参议院议长林森代表参议院和全体议员向大会致词，全文如下：
维中华民国元年四月一日即中华民国成立之九十三日，临时大总统孙文躬莅本院行解职礼，本院代表全国谨致之词曰：中华建国四千余年，专制虐焰，炽于秦政，历朝接踵，燎原之势，极及末流。百度堕坏，虽拥有二亿里大陆，萃有四百兆庶众，外患乘之，殆如摧枯拉朽，而不绝如缕者，仅气息之奄奄。中山先生发宏愿救国，首建共和之议，奔走呼号于专制淫威之下，身濒于危者屡矣，而毅然不稍辍，二十年如一日。武汉起义未一月，而响应者，三分天下有其二，固亡清无道所致，抑亦先生宣导鼓吹之力实多也。当时民国尚未统一，国人亟谋建设临时政府于南京，适先生归国，遂由各省代表公举为临时大总统。受职才四十日，即以和平措置，使清帝退位，统一底定，迄未忍生灵涂炭，遂诉之于兵戎。唯柄国不满百日，而吾五大民族所受赐者，已靡有涯矣。固不独成功不居，其高尚纯洁之风，为斯世之矜式已也。今当先生解临时大总统职任之日，本院代表全国，有不能已于言者：民国之成立也，先生实抚育之；民国之发扬光大也，尤赖先生牖启而振迅之；苟有利于民国者，无间在朝在野，其责任一也。罗斯福解总统职后，周游演述，未尝一日不拳拳于阿美利加合众国，愿先生为罗斯福，国人馨香祝之矣。
之后，孙中山发布了通告解职令：
……今国务总理唐君南来，国务员已各任定，统一政府业已完全成立，于四月初一日在南京交代，本总统即于是日解职。此后国中一切政务，悉取于统一政府。本总统受任以来，怵怵危惧，深恐弗克负荷，有负付托：赖国人之力，南北一家，共和确定，本总统藉此卸责，得以退逸之身，享自由之福……所愿吾百僚执事，公忠体国，勿以私见害大局；吾海陆军士，谨守秩序，勿以共和昧服从；吾五大族人民亲爱团结，日益巩固，奋发有为，宣扬国光，吾艰难缔造之民国，与天壤共立于不敝。本总统虽无似，得以公民资格勉从国人之后。此令。中华民国元年四月一日令。
解职仪式结束后，孙中山偕国务总理唐绍仪，并率各位国务员，林森率全体参议员，至参议院主楼前合影留念。
同一天，袁世凯得知南京情况后，依然是得势不饶人。他又致电参议院，以“本大总统在北京受职，所发命令须有国务总理及各总长副署，而总理和总长须有遇事商承之处，若南北睽隔，政务无由执行”为由，请其议决临时政府立即迁往北京办公。
4月2日下午4时，参议院召开临时会议，出席参议员共27人。林森向会议宣布了袁世凯的电报咨文后，决定仍以记名投票的方式来决定该事项。投票结果，主张立即迁北京的20票，反对者6票，1票弃权。弃权者为湖南参议员彭允彝，他坚持此项议案要依照《临时约法》第二十三条的规定，须有议员三分之二通过，否则得进行复议。其实，迁都北京之事早在2月14日就经参议院议决通过，只是没有明确具体日期。迁都已成定局，这次表决只是个形式而已。林森表示，此项议案只能是从多数而定。于是，议案获得通过。临时政府不日迁往北京。
在南京临时参议院解散前，还决定了一个重大事项，即于4月1日以孙大总统名义，由内务总长程德全副署，公布了《参议院法》，刊载在《南京临时政府公报》第五十五号上，同时公布了《参议院旁听规则》三章十六条。《参议院法》仍是在林森的主持下制定的，它是中国第一部民意代表机关的组织与议事的法规，是中国政治制度走向近代化的重要标志。这是中国近代法制史上的一件大事。
4月3日，孙中山离开南京。鉴于临时政府已决定迁往北京，4月5日，临时参议院开会议决，临时参议院亦迁往北京办公。同日，参议院发出通电称：“本院已议决迁往北京，自本月初八日始，休会十五天。于本月二十一日齐集北京。”会后，参议院将该事项向大总统、副总统、各省都督、各省议会、咨议局、各报馆发了通电。这是林森在南京临时参议院主持的最后一次会议。
4月6日，南京临时参议院将在院的各省参议员名单，由总理唐绍仪咨送临时大总统袁世凯。这届参议院报送的议员共有49人，与1月28日参议院成立时基本没有多大的变动，仍以同盟会员占绝大多数，副议长王正廷、审议长李肇甫均为同盟会员。林森以福建省参议员身份仍为参议院议长。
南京临时参议院共经历了两个时期，即代理参议院和临时参议院。正常工作近三个月，伴随了中华民国南京临时政府的始终。参议院在议长林森的主持下，作为国家的一个民意代表机关和立法机关，按照法定程序，依据民主原则，独立地开展了工作，显示出了应有的权威性。参议院对孙中山和袁世凯提交的议案都有过否决的记录，这在近代中国的政治生活中是从未有过的事，与封建专制制度相比，无疑是社会的巨大进步。它议决通过了大量政策法令，对于中华民国临时政府的创建和发展，都起到了重要的推动作用。
- 浙江于11月4日光复，江苏于11月5日光复。
- 编者注：此处人名缺佚。
- 林森由江西代表改任福建省参议员。
