西潮的冲击使晚清中国变成了一个疯狂的世界，在这个近乎疯狂的世界里，年轻的蒋梦麟也时常在怀疑自己是否精神失常。至少有一个问题在他脑海里还是清楚的，那就是如何拯救中国，以免被列强瓜分。革命烈火已经遍布全国，孙中山号召的推翻满清、重建中华的口号已深入人心，青年学生投身革命的越来越多，清朝的灭亡在那时的青年学生看来，似乎只是一个时间问题了。
在这样一种背景下，蒋梦麟的思想不能不发生变化，在参加革命，还是继续参加科举考试的问题上，蒋梦麟内心深处进行着激烈的斗争。革命形势深深刺激着蒋梦麟的每一根神经，从他一贯对革命的热情来看，他自然应该和其他青年一样，义无反顾地放弃科举道路，参加到革命行列中来。
基于这种判断，蒋梦麟等到1904年暑假将要到来时，渴望找到一个更理想更西化的学校继续深造，因为这时他已相当清楚地看到，不论立宪维新或者革命，西化的潮流已经无法抗拒，中国只有在这条道路上继续行进，才能找到自己的出路。于是有一天早晨，他无意中闯入禁止学生入内的走廊，碰到了学监。学监问他有什么事，他只好临时随机一变地扯了个谎，说他母亲生病，写信来要他立即回去。于是学监很同情地对蒋梦麟说：“那太不幸了。你还是赶快回去吧！”回到宿舍，蒋梦麟立即收拾行李，当天上午就离开了浙江高等学堂。
不过，蒋梦麟离开浙江高等学堂后，并没有回到他的故乡蒋村，而是乘小火轮沿着运河直接到了上海，参加上海南洋公学的入学考试，他期望在南洋公学为自己打好一个西方知识与文化的基础，以便将来留学美国，以为中国直接从西方引进新知识新文化作出自己的贡献。结果自然是被录取了。
南洋公学是盛宣怀奏请创设的一所训练洋务人才的专门学校，1897年4月在上海正式开办，是现今交通大学的前身。内分上院即小学，中院即中学，师范院即专门学堂。另有特班专门培养高才生。南洋公学的创办，采纳了美国传教士福开森博士的许多意见，更加侧重于西方知识的传授。
其课程设置主要有两类，一类是中国旧学，一类是西洋学科，但更偏重于西学。南洋公学的预科，一切按照美国的中学学制办理，因此可以说南洋公学是升入美国大学的最好阶梯。学校里有好几位讲授现代学术的美国人。学生在校两年，可以做到在英文阅读方面不会有多大困难，只是口语并不一定很好。蒋梦麟自1904年暑假之后开始在南洋公学的两年间，各门学科的成绩还算过得去，有一次还同时获得两类考试的荣誉奖，并因此受到校长的召见。
南洋公学的校舍是根据西洋设计而建筑的，主要建筑的中心有一座钟楼，数里之外都可以望见。有一排房子的前面是一个足球场，常年绿草如茵，而且打扫得很整齐。学校当局鼓励学生玩足球和棒球，学生们对一般运动也都很感兴趣。
蒋梦麟素来体弱，进入南洋公学后，开始体会到要有高深的学问，必须先有强壮的体魄。除了每日的体操和轻度运动外，蒋梦麟还给自己制定了一套锻炼身体的办法。每天六点左右，练习半小时哑铃，晚间就寝前再练一刻钟。继续不断地练了三年，蒋梦麟的身体状况有了很大改善，而且心情也总是很愉快。
包括德智体三要素的斯宾塞尔教育原则此时已经介绍到中国，这对蒋梦麟似乎也产生了一定影响。为了发展德育，蒋梦麟在南洋公学温习了四书，并开始研究宋明理学家以及中外古今伟人传记，希望借此学习前圣先贤的榜样，碰到认为足资借鉴的嘉言懿行，就把它们摘录在日记本上，然后仔细思考，对照实践。同时注意其成绩，这些成绩也都记载在日记上，以备进一步考核。
