1917年1月9日，北京大学举行开学典礼，蔡元培发表了就任演说。针对当时学校存在的不良风气，他着重提出了三项要求：“拍定宗旨”、“砥砺德行”、“敬爱师友”，并阐明大学的性质是“大学者，研究高深学问者也”。蔡元培曾任京师大学堂译学馆教员，深知学生恶习。为铲除科举制留下的劣根，蔡元培清楚，首要改革的是学生观念。他指出“大学生当以研究学术为天职，不当以大学为升官发财之阶梯”，突出强调学生要把“抱定宗旨，为求学而来”放在首要位置。蔡元培的这个演说在广大的师生中引起了强烈反响。
1月18日，他到校不久即给吴稚晖写了一封信：“觉北京大学虽声名狼藉，然改良之策，亦未尝不可一试，故允为担任……虽一切维持现状，然改良之计划，亦拟次第着手。”
具有多年办学经验的蔡元培明白，要把眼前这个乌烟瘴气的北大办好，最重要的首先是要有一批甚至一大批有真才实学而又热心教育的教师。他认为北大的两大弊端是“学课之凌杂”和“风纪之败坏”，而“救第一弊，在延聘纯粹之学问家，一面教授，一面与学生共同研究，以改造大学为纯粹研究学问之机关。救第二弊，在延聘学生之模范人物，以整饬学风”。
蔡元培来到北大之初，就想要吸引一批跟自己想法一样的人才，或者接近真正有学问的人—不在乎你的政治立场，不在乎你的资历，不在乎你的年龄，这一点是革命性的。
于是，他着手先从两方面进行改革：首先，聘请积学与热心的教员，从而引起学生研究学问的兴趣；其次，改革学校的教学内容和方法，以及改革整个学校的领导管理体制，从而将民主与科学的精神注入北大。
思想自由，兼容并包
蔡元培时代的北大不停被人怀念，正是因为在他周围有一个群星璀璨的教授团，也因为蔡元培引领群星，利用这所没落的书院，唤醒大学精神的精髓。
当时，新文化运动的风云人物陈独秀正在办《新青年》。《新青年》作为一个新思想的阵地，在全国影响很大。陈独秀虽然是新思想的代表，但是他的传统学术根底深厚，16岁就考上了秀才 ，传统的旧学基础非常好，在文字学方面颇有造诣。北大正需要这样的新人物，蔡元培看中了陈独秀，便希望把陈独秀请到北大来。陈独秀虽然在上海办报，但经常会到北京来。于是，陈独秀再一次赴京时，蔡元培打听到了陈独秀的住处，之后几乎天天登门拜访。有时去得早了，陈独秀还没有起床，他就嘱咐茶房不要将他叫醒，自己便拿个凳子坐在房门口等候。和陈独秀住在一起的安徽同乡、出版家汪孟邹回到上海，将这些事讲给侄儿汪原放等人听，他们说：“这很像‘三顾茅庐’哩！”陈独秀原本看不上名声糟糕的北大，不愿接受这个邀请，但架不住蔡元培三番五次登门的诚意，终于被打动。
1917年1月11日，蔡元培正式致函教育部，请陈独秀担任北大文科学长。公函中所附的陈独秀履历是蔡元培代为填写的，其中多有不确实之处：陈独秀，安徽怀宁县人，日本东京日本大学毕业，曾任芜湖安徽公学教务长、安徽高等学校校长。
这份公函当日发出，13日，教育总长范源濂就签发了“教育部令”第3号：“兹派陈独秀为北京大学文科学长。此令。”蔡元培之所以要拿这样一份履历递交教育部，目的就是要让陈独秀顺利进入北大。这是他整顿北大的第一步，他立意从文科的整顿做起，延聘教员则从文科学长开始。文科学长不但必须是“积学与热心的教员”，还必须具有革新的思想，勇于“整顿”的革命精神。在他眼里，当时的陈独秀正是“一员闯将，是影响最大，也是最能打开局面的人”。事实证明，蔡元培这着棋走得很对。随后陈独秀又介绍了胡适等人，北大文科的局面马上被打开。
