可惜的是，当时的清军对这些军校毕业生不甚重视，他们中的大多数人都是被委以教习之类的闲职，而没能进入军营中做带兵官。当时的军界风气，那些行伍出身的旧派军官大都看不起军校毕业生，他们认为这些娃娃兵没有实际作战经验，不能委以重任，即便段祺瑞这样留洋回来的优秀军官，也屡屡遭到这些旧军官的排挤。
直到袁世凯的“小站练兵”后，那些军校毕业生才开始得到重用。当时袁世凯请当时任天津武备学堂总办的荫昌推荐人才，荫昌很自然的便想到了段祺瑞，并将他推荐到袁世凯的门下。袁世凯的新建陆军是一支拥有步兵、骑兵、炮兵、工程兵等多兵种的新式部队，其中炮兵就有近2000人，段祺瑞随后被委任为炮队统带，并得到袁世凯的极大重视。当时段祺瑞带的这支炮队有速射炮、重炮等60门，战马近500匹，这也是中国近代历史上第一支正规化的炮兵部队，段祺瑞也可以说的中国第一任炮兵司令。
随着袁世凯的不断升迁，段祺瑞也跟着沾光，陆续做到了北洋六镇的统制之职。在清朝覆灭后，段祺瑞做过几任陆军总长，后来因为反对袁世凯称帝而隐居西山。袁世凯死前，命人将段祺瑞找来并将国事托付给他，段祺瑞也由此做上了民国的内阁总理，成为当时最重要的政治人物。
段祺瑞的为人一向古板严肃，不苟言笑，给人的印象是不太好打交道。他平时的生活也是很有规律，一年三百六十五天基本没有什么变化。一般情况下，他都是在家吃早饭，随后上书房看公事；看完公事后去衙门，中午再回来吃饭。
吃过中饭后，老段一般会在内客厅睡个中觉，然后有客的时候会客，无客的时候就与棋手们下下围棋，或者找一些诗人搞搞诗会，当时王揖唐、梁鸿志等人便是段府的常客。晚饭之后，老段照例要打一会牌（麻将）。
段祺瑞非常喜欢下围棋，当时他还特意养了一批棋手，后来加入日本籍的国手吴清源，他小的时候便经常陪老段下棋，每月发给工资。据说，那些棋手和段祺瑞下棋时都十分识相，既不能赢段祺瑞，因为老段自尊心很强，输了他会很不高兴；但也不能多输，因为多输的话，会让段祺瑞看不起。
据称，有一次段祺瑞和儿子段宏业下棋。棋到终盘，段祺瑞大负，气得他跳起脚来，把棋盘掀翻，并怒斥段宏业道：“你这小子，一无所能，就知道玩这个，你以后有什么出息？”段宏业被斥后，只得诺诺而退（想必儿子输给了他，段祺瑞又会笑骂：“你这小子，连个棋都下不好，你以后还能干什么？”）。段宏业是到段祺瑞的大儿子，平时最喜欢吃喝玩乐，素无大志，他在外面一向是花天酒地，唯独见了老段就像是老鼠见了猫，大气也不敢出一声，这不，赢了棋还被老段斥责一顿，他屁也不敢放一个。
唯独有个小棋手却不畏惧段祺瑞，这就是后来成为著名棋手的吴清源。吴清源做段府的棋手时年纪还小，也最受段祺瑞的喜爱。他在和老段下棋的时候到是毫不客气，俩人经常能下个旗鼓相当，但随着吴清源水平的不断提高，段祺瑞和他对弈往往输多赢少，后来也就不再和他下了。吴清源后来入了日本籍，成为日本围棋界的一流高手。
段祺瑞脾气大，治家严，手下的人都战战兢兢，不敢犯错，特别是不敢向来宾索取门包。按前清的规矩，一般大官的门房都有一个陋规，那就是收取门包，否则就进不了门。段祺瑞大概吃过这个“门包”的亏，因而最恨别人收门包，他要是听说谁收门包，还真能把人拉出去枪毙。
