中举人做翰林
1889年，蔡元培在人生中第三次参加乡试时得中举人。1890年，蔡元培与徐维则共同进京参加会试，名列贡士第80名。蔡元培并没有参加之后的殿试，他怕自己字写得不好，会影响殿试的名次，于是离开京城，打算以后再参加殿试补考。1892年，蔡元培进京补殿试，获中二甲第34名进士，被点为翰林院庶吉士。（庶吉士，明清时期翰林院官员，为皇帝近臣，负责起草诏书，有为皇帝讲解经籍等责，是为明内阁辅臣的重要来源之一。）时任户部尚书的翁同龢也参与了阅卷，他在日记里这样记录蔡元培：“新庶常蔡元培，年少通经，文及古藻，隽材也。”1894年，蔡元培参加了散馆考试，成绩优异，授职翰林院编修。
1894年，中日甲午战争爆发，此时蔡元培刚刚担任翰林院编修不久，民族危机让蔡元培的思想产生了很大转变。虽然蔡元培仍旧一心阅读，但甲午之后，朝士竟言西学，蔡元培的阅读重心也转移到西学上面。他广泛涉猎外文书报刊物，留意世界事物，同时也阅读改良派的著作。在担任翰林院编修的四年当中，蔡元培基本上放弃了做官的念头，他在自己的书斋中写了十个字表明心意：“都无作官意，惟有读书声。”
甲午战争失败后，清政府签订了《马关条约》，蔡元培感到十分气愤，同时也看清了朝廷腐败的真实面目。1898年，康有为梁启超发动戊戌变法失败，蔡元培认为失败的原因是缺乏革新人才。蔡元培离开北京，决心投身教育，启发民智，走另外一条救亡之路。
绍兴中西学堂
蔡元培回到绍兴，任绍兴中西学堂校长。蔡元培上任后做出改革，把学生按受教育程度分为三斋，类似今天的小学、初中、高中。蔡元培还在原有英、法两门外语之外增开了日语，聘请日籍教师授课，自己也继续学日文，并兼学英文。虽然学校聘请的教师都是绍兴本地最好的人选，但是在思想上却分为新旧两派。新派“笃信进化论，对于旧日尊君卑民、重男轻女的习惯，随时有所纠正”。旧派与新派所持观念正相反，两派人经常互相辩驳，新派人数多，在争辩时总处于上风。由于双方讨论总是在午餐和晚餐时，学校的食堂又是师生共用，所以旧派的人觉得自己在学生面前受到了侮辱，因此上告学校督办，对蔡元培提出警告。蔡元培最终无法忍受，1900年2月离开了中西学堂，后被聘为嵊县剡山书院院长。在剡山书院，蔡元培演讲数次宣传科学的有用性，建议学生根据自己的性情喜好来选择合适的科目学习，但由于学校经费有限，书院改革未能完成，一年后蔡元培辞去院长职务。此后又有书院找蔡元培任职，均未成行。
上海南洋公学
1901年，蔡元培来到上海南洋公学，任特班总教习。南洋公学本只设小学和中学，学校监督沈子培提议学校增设“特班”，招收擅长古文的学生42名，教授外语和经世之学，用以选拔当时朝廷新开设的考试科目“经济特科”。特班课程，半日读书，半日学习英文数学。蔡元培将所选科目门类列出，如政治、法律。外交、财政、教育、经济、哲学、科学、文学、伦理等，由每名学生自选一至两门，按照蔡元培提供的相关书目进行阅读。学生每日写札记，每月作文一篇，都由蔡元培亲自批改。每天夜里蔡元培还要找两三名学生谈话，交流学习上的问题或谈论读书心得、讲述时事感想。
蔡元培要学生学习日文，指导学生进行日文翻译。他对学生说：“中国被欺辱到如此程度，要知己知彼，要了解自己的弱点，也要关心国际上的情况。要学习外语，多读外国书，学习日文，也可以从日文书中了解国际形势。”蔡元培还在学生中成立演说会，定期练习演讲，让学生通过演说启发民智，引导社会。学生来自天南地北，各地方言不同，蔡元培便组织学生学习普通话。
