1879年9月底严复回国后，首先在福州船政学堂任教。
1879年10月18日，李鸿章曾致函李凤苞，提及严复充任学堂教习最为合适。1880年4月19日，在奏设北洋水师学堂之前，李鸿章询问水师将才情况。严复的同乡陈宝琛遂向李鸿章推荐严复，称严复“器识闳通，天资高朗”。李鸿章遂决定调严复来天津，但严复没有立即北上。1880年8月19日，李鸿章鉴于福州船政学堂办有成效，可资取法，奏请在天津建立天津北洋水师学堂，由福州船政大臣吴赞诚督办。8月22日，李鸿章的奏议得到朝廷批准。
1880年8月，李鸿章电召严复北上就任北洋水师学堂总教习，至迟8月26日，严复到达天津。8月27日，严复禀谒李鸿章，向他报到。李鸿章随即吩咐严复次日与筹办水师学堂的吴赞诚会面，并函示吴赞诚：按严复在福州船政学堂100元的薪水标准，从7月开始预支其3个月工资，并发给路费100元。从此严复开始执教天津北洋水师学堂，主督课前后20年，为近代中国培养了一大批海军人才，成为海军元勋。
严复初到北洋，被委任为北洋水师学堂总教习，总办一职空缺。总办按惯例由候补道品级的官员充任，而严复当时只是正四品武职都司，还不够资格担任总办。原因是按照清朝的官吏制度，文职道员可以节制同级的武职都司，武职都司的官级明显比文职道员低。尽管1893年12月，严复才正式担任学堂总办，但是实际上之前已部分担负了总办，也就是校长的责任。从史料来看，驾驶班的教学管理实际由严复主持，而学堂的行政管理则由总办吴仲翔及正副监督主持。
李鸿章制定招生章程后，北洋水师学堂开始招生。然而，和福州船政学堂刚开始的遭遇一样，报考者寥寥无几。1880年12月，吴赞诚因病回南方看病，顺便到上海选募学童。1881年3月5日，专门在《申报》上刊登招生告示，附学堂章程，为北洋水师学堂选募学童。
1881年8月，北洋水师学堂全部落成。因生源不足，1881年冬，严复专程回闽招生。其中，1882年1月确定24人，2月~3月又招收了三位亲属，即严复大妹夫何心川的冯姓表弟，严复的二妹夫陈茀藩和严复妻姐的薛姓侄子。前后共计27人。
在招生过程中，出题考核、决定录取基本都由严复决定，其权力非同一般。例如，他偶尔见到朋友谢銮恩之子谢葆璋，觉得他适合当海军，当即出了两道试题考查他。一个是诗题：“月到中秋分外明”，一个是八股破题。谢葆璋做完，严复比较满意，当即决定录取他。
又如，伍光建投考时，据说严复让他解释英文单词“鼠”字，伍光建以一口浓重的粤语应对，考官听不懂，伍光建就以手势在桌上做老鼠爬行状。严复见了哈哈大笑，认为伍光建很聪明，将他录取为北洋水师学堂驾驶班首届学生。
北洋水师学堂是一所专重驾驶(指挥)的海军学校，其规程略仿福州船政学堂前、后学堂的模式。学堂初设驾驶专业额定人数60名。
1882年5月，天津水雷电报学堂改组为水师管轮学堂，学生员额没有增加。然而，即便严复将自己的亲属加以照顾招生进来，到1882年，北洋水师学堂驾驶专业仍未招满既定的60人。
