在任绍兴中西学堂总理的两年里，蔡元培抱着教育救国的理想，同时还关心整个绍兴地区，乃至浙江和全国的教育改革。鉴于当时学堂教术不一，课本不定，蔡元培模仿外国学堂评议之例，于1899 年11月发起组织绍兴府学堂学友会，集合有志之士，推动绍兴地区的教育改革。学友会相约凡“已通国文溥通学，而究心教术，不沾沾于利禄者”，均引为同志。规定学友所做的工作：一、对学堂办事授业章程“有欢成纠正之责”；二、学友有志学习算学及外国语者，可住学堂，并可不付膳金，但须为学堂编写教科书，或任检束学生之责；三、住学堂的学友须以每月15日在学堂集议，离学堂相去一两日路程的学友，在孔子生卒日的特别议期（生日为8月27日，卒日为2月11日），无论远近，都须到会；四、学友住学堂而自愿编写教科书，书成，经各学友评议，足为善本者，即由学堂出资付刻，但仍署编者名。 同年12月，蔡元培又撰写《绍兴推广学堂议》 一文，宣传教育救国的主张，指出：“由今之道，毋变今之俗，虽荟千圣之粹言，胪五洲之良法，为拙御易车，为拙庖更刀，必无济矣。且今天下志士，所抵掌奋谭，为保国强种之本者，非学堂也哉。” 他呼吁绍兴所属八县改变各自为政的做法，筹集绍兴八县公款，统一兴办学校，在府城设高级、中级学堂各一所，各县城均设一初级学堂，为本省和全国的教育改革树一模范。
蔡元培还曾努力改革绍兴地区的书院制度。在任中西学堂总理期间，他同时兼任嵊县剡山、二戴书院和诸暨翊志书院院长。在为剡山、二戴书院制订的《学约》 中，蔡元培提出一套新的办学宗旨和教学方法，规定“学当以益己、益世为宗旨”，求学者“平日当究心有用之学”，力戒徇俗，做到自治自立，不盲从，实事求是，闻一言，见一事，必探源溯由，不为一切捕风捉影之谈、忍心害理之事、附热避祸之术所惑。其中，他特别强调，为学者必须放弃读书做官的思想，指出士者无论做官，还是为师，“实言之，则皆工耳”。他说：“诸生有志为士，当思自有生以来，一切养生之具，何事不仰给于农工商，而我所以与之通易者，何功何事？不患无位，患所以立，怵然脱应试求官之积习，而急致力于有用之学矣。” 在教学方法上，他要求学生除听课外，另须准备两本笔记，每月记下读书心得，每月随课卷呈缴，以便院长结合学生课卷和所作日记评议优劣。在教学内容上，蔡元培提倡学生应尽力学习有关心理学、教育学、政治学、社会学、伦理学、公法学等课程。他本人在讲课中也都提倡科学，劝导学生就性之所近，努力研求，表示：“如有英俊后生，破除俗见，志为实学，以备致用，则鄙人不量识途之微明，愿助及群之孟晋。”至于八股文、八韵诗，“鄙人自二十岁以后，即已屏弃，虽侥幸得第，并不系此。” 同样，对翊志书院，蔡元培也建议实行现代学堂制度。但由于当时士人读书做官的思想根深蒂固，蔡元培提出的这套新的教学模式终未能付诸实施。
离开绍兴中西学堂后，蔡元培即前往杭州，与求是书院的陆勉斋、宋恕、俞清夫和杭州方言学社的许研农，以及养正书塾的陈介石、林少泉、陈叔通、邵伯絅等广为交游，继续致力于教育事业。4月19日，杭州方言学社开学，蔡元培到会发表演说，一方面宣传学习外国语的重要，指出“东西邻者，言语不通，文字不同，吾欲即其所以而不得，则语言文字之学，其锁匙也”。同时强调“西学以语言文字为门径，不以语言文字为极功”。 28 日，又参加开导学堂的言志会，提倡学生仿效西方立法、行政、司法三权，实行管理，“养成学堂思想，以为国家思想之基础”。 同年8月．蔡元培在详细考察和了解本省教育的情况下，写成《浙江筹办学堂节略》，就如何推动浙江全省的教育改革提出具体建议。他主张在省城设高等师范学堂、一高等学堂、一中学堂，以及若干小学堂和蒙学堂。在县城各设一小学堂和若干蒙学堂。在各乡则仅设若干蒙学堂。教育经费则从丁漕平余以及限制迎神糜费中设法筹措。同时，他再次极力呼吁改造传统书院、义塾，指出书院、义塾“专课举业，无裨实用，且其中师生皆为牟利起见，品类不齐，辄为人心风俗之害，而办事之人不免舞弊中饱，实与初设之意大相刺谬。莫如一概改订课程，按照应设之中小学堂等办理，因地因费因人计，无便于此者。”
在执教和交游之余，蔡元培还专心研究外国教育制度。他曾将日本各级学校（从幼儿园到大学）、各类学校（师范及各种专门学校、职业学校）的课程详细抄列，并根据自己的教育实践和调查结果，进行比较研究，撰成《学堂教科论》 ，于1901年10月由上海普通学书室石印出版。在这本28页的小册子中，蔡元培对旧教育制度中存在的“鄙”、“乱”、“浮”、“葸”、“忮”、“欺”六害进行了猛烈抨击，对各级新式学堂的课程设置、学制年限和结构体系作了全面的设计。他把知识划分为有形理学、无形理学和道学三大类，认为学生不但要学算术、博物、理化等有形理学和名学（逻辑学）、群学、文学等无形理学，而且还要学习属于道学的哲学、心理学和宗教学。该书是反映蔡元培早期教育思想的一本重要著作。
