1．宁为百夫长 不做一书生
在近代中国历史上，任何挫折与失败都阻挡不了中国人民挽救民族危亡的爱国浪潮。戊戌维新的志士和义和团的好汉们刚刚倒下去，又有以孙中山为首的革命党人挺身站起来。
1911年10月他们发动了武昌起义，引发了全国规模的资产阶级民主革命运动——辛亥革命。一时间，革命浪潮激荡全国，腐朽的清廷摇摇欲坠。
就在这一年的秋天，张自忠考入当时中国北方有名的法律学校——天津北洋法政专门学校（原北洋法政学堂）。这表明，张自忠按照“学而优则仕”的传统观念步入了他的青年时代。
天津北洋法政专门学校的总教习是毕业于日本早稻田大学的名律师江庸先生。
此时，革命先驱李大钊也在这所学校读书，算是张自忠的学长，只是不知两人是否相识。这所学校很正规，学习条件优越，法律和政治是两门主课。临清虽号称“小天津”，但毕竟是蕞尔小城，天津的一切都使他感到新鲜，学校中的进步思想和革命气氛尤其令他兴奋。在这里，他第一次接触到孙中山的三民主义学说和“驱除鞑虏，恢复中华，建立民国，平均地权”的资产阶级革命政纲。这些进步思想在他原本只知孔孟的头脑中增添了崭新的内容，对他日后的成长产生了相当大的影响。
张自忠西装燕尾服照
武昌起义后如火如荼的革命形势使张自忠兴奋难捺，沸腾的热血已不容许他安坐在学堂里读书，他要亲身投入轰轰烈烈的革命运动。1911年底，他秘密加入同盟会，由一名青年学生变为一名革命党人。
当时，济南有一所“山东省法政专门学校”，校长丁惟汾是山东同盟会的负责人之一。1911年11月，他发起成立山东省各界联合总会，联合各派进步力量迫使山东巡抚孙宝琦宣布独立。一时间，山东出现了和平革命的大好形势。张自忠在天津闻此喜讯，便于1912年径自来到济南，转入山东省公立法政专门学校，投身于山东的革命浪潮之中。
然而，辛亥革命的胜利和山东的独立只不过是昙花一现。袁世凯凭借北洋势力和帝国主义的支持，窃取了辛亥革命果实，于1912年3月在北京就任临时大总统。山东的独立也被取消。随后，袁世凯指派亲信入鲁捕杀同盟会员，革命党人处境危殆。1914年春，山东同盟会负责人之一徐镜心被袁世凯谋杀于北京，丁惟汾被迫返回日照老家躲避起来。
就在这个时期，张自忠产生了投笔从戎的念头。1914年暑假回家，他就从军一事与母亲商议。老太太头脑中仍存有“好铁不打钉，好男不当兵”的旧观念，自然不允。张自忠着了急，他一面与母亲说理，一面请五舅出面说情。老太太见儿子主意已定，阻拦不住，只好答应。
在当时，从军乃穷人子弟混饭糊口或寻求出路的一个不得已的办法。那么，家境优裕、正在攻读法律的张自忠何以如此坚决地要当兵呢？
其实这并不难理解。弃学从军的想法首先根源于他对当时革命形势的认识。轰轰烈烈的山东和平革命，曾使他深受鼓舞，并亲身投入了这场革命运动。但山东独立失败后，革命党人软弱无力和惨遭杀戮的命运，使张自忠憬悟到：要挽救民族危亡，仅靠坐在学堂里埋头苦读或四处奔走呼号、鼓吹革命是远远不够的，必须拥有强大的武力才有取胜的希望。
当时的国际形势及与之相关的山东局势的变化，也刺激了张自忠从军的念头。1914年8月初，德国对英法俄宣战，第一次世界大战爆发。当时山东是德国的殖民地，德国在青岛、济南等地驻有军队。日本早就觊觎山东，料德国必败，便想乘机夺取德国在远东的殖民地，于是对德宣战，随即出兵胶济路，自东而西进攻山东之德军。张自忠有感于祖国和家乡受列强欺凌，再也无心埋头学问，愤而投笔从戎，与数名同乡离校赴奉天新民屯投北洋新军第二十镇（当时称镇，相当于师）第三十九协（旅）。
另外，选择从军的道路，也与张自忠对自己的认识有关。他体魄强健，雄心勃勃，浑身上下洋溢着英武刚毅之气。这种性格气质显然更适合于当兵，而不是做学问。张自忠后来在谈及投笔从戎的问题时曾说：“我对于学习军事，比学习法律更有兴趣”，“自己觉得，要想革命救国，还是到军队里去”。这表明，他对于自己的所长具有明确的认识。后来的事实证明，投笔从戎的选择成为张自忠一生成功的起点。不过，对他来说，几年的读书生活并没有白费，尤其是学习法律的经历对于他后来的治军大有裨益。
2．两度从军
张自忠将要投奔的是驻奉天的北洋陆军第二十镇，说起来，在北洋军队中二十镇算得上一支具有革命传统的队伍，该部许多将领都具有反清的革命意识。1911年武昌起义后，二十镇在统制（师长）张绍曾率领下，曾于滦州举行兵谏，要求清政府召开国会，起草宪法。1912年1月，第二十镇第四十协第七十九标3位管带（营长）施从云、王金铭、张建功等受同盟会指示，发动滦州起义，宣布滦州独立，成立“北方革命军政府”。当时任第二十镇第八十标第三营管带的冯玉祥也间接参加了滦州起义，并被起义军推为参谋总长；后来成为晋军将领的商震则以幕僚身份参与了滦州起义的准备工作。这两个人后来都与张自忠有关系，尤其是冯玉祥，对张自忠的成长影响至深。
车震将军
二十镇中有不少山东籍官兵。张自忠投奔的正是临清同乡、第三十九旅旅长车震。车旅长，字百闻，是一位老资格的北洋军人，当时驻防于奉天省（今辽宁）新民县新民屯。自忠得知三兄自清与车震的家馆先生刘冠千熟识，便请三兄给刘写了封信，以便引见。
1914年夏末，张自忠与约好的5位临清同乡结伴而行，赴新民县投奔车震。车旅长得知他们都是富家子弟，怕他们受不了部队的辛苦，劝其回去继续求学。张自忠和伙伴们怀着一腔热血前来投效，无论如何不肯回去，车震只好收录了他们。此时正值军田麦熟，他们几人便同士兵一道下田割麦。这些富家子弟哪里干过这种活，两天下来就腰酸腿痛，双手打泡。做着军官梦的这几位年轻人大失所望，麦子尚未收完，就纷纷要求退役，只有张自忠一人不动声色。车震把他叫来，和蔼地劝他回去。但张自忠说啥也不肯走，车旅长这才正式替他补了个副兵的缺。张自忠从此成为一名士兵。
说起来，车震本人后来虽然兵败解甲，但在他门下却出了两员名将，除张自忠外，另一位是鹿钟麟。后来，鹿钟麟成为张自忠的上司和挚友。
麦收过后，军营生活依旧十分艰苦。除训练之外，还有各种繁重的体力劳动，如修路、挖壕、抬炭、扛米等等。初干这些重活，张自忠自然难以适应，以致肩膀都压肿磨破了。同棚（班）的弟兄们见他实在难以支持，就主动把他的活揽下来，长官过问，就以让张自忠代他们写家信为由搪塞过去。由此，张自忠交上了王锡町、罗广泰、李友奇等几位同乡好友，彼此亲密无间。王锡町后来还成为张自忠的重要部将。
到了冬季，关外气候严寒，野外训练和劳动更为艰苦。车震又几次规劝张自忠回家求学，另寻出路，但张自忠笃信不吃苦难以成大器，因此不改初衷，咬牙坚持下来。在致七弟自明的一封家信中，他述说了从军几个月来艰苦备尝的情形：
兄自济南到新民屯业经数月，所有军中一切情形，均已尝着。同来者六人，因吃不下苦头，均已回乡，惟兄一人硬着头皮干下去。当兄来新之始，车公几次劝兄回家求学，言外膏粱子弟，如何能吃此苦，勉强一时，决不能坚持到底，故不如早去为善也。塞外奇寒，值此严冬，每日下操，手足皮肤均已冻僵，操毕回营，须先立户外，稍缓须臾方可入室，否则冷热相激，骨节溶化，手指耳鼻即脱落矣。除下操外，扛米抬炭，掘壕堆土，终日工作，休息时间甚少。以故肩肿肤裂，筋骨酸痛，其苦况实有不堪言状者。当兄创重时，肩臂肿溃，不能荷物，同棚中友好，代兄工作，以兄替其写家信也。家中一切请弟代劳，并请禀告母亲，待我有成就后，再回家叩见，祝母亲玉体金安。
同年10月，张自忠升为正兵；11月入师随营学校。次年7月，升为机关枪连中士；11月，任代理连司务长。同年冬天，该旅奉命由新民县移防绥远平地泉（今属山西）。由新民经丰台到丰镇，可乘火车。丰镇以西的铁路尚未修通，只能徒步行军。士兵们都是全副武装，背负几十斤，日行百余里，困惫不堪，每到宿营地，支起帐篷，倒头便睡。暮秋之夜，霜露逼人，每人只有一条军毯裹身，半夜里常常被冻醒。但是，张自忠经过一年多的磨炼，已经熬过来了，对什么样的苦都不怕了。对于自己的进步，他感到愉快。
1915年12月，袁世凯称帝。蔡锷等通电宣布云南独立，并组织“护国军”讨伐袁世凯。次年3月，袁世凯命第二十师南下援湘，镇压护国军。入湘后，第三十九旅驻长沙，第四十旅驻岳州。这样一来，车震不由自主地成了袁世凯镇压革命的工具。
湖南将军汤芗铭是袁世凯的亲信爪牙之一。他原出身于海军，民国成立后曾任海军部次长。1913年“二次革命”爆发后，奉袁之命率北洋军入湘镇压“讨袁军”，得升湖南都督兼民政长。汤氏因手下无嫡系部队，此时急于培植实力。车震部入湘后，他便将第三十九旅扩编为湖南暂编第一师，升车震为师长兼长岳镇守使。1916年3月，张自忠随之被车震调升为师部上尉副官。
中国近代史证明：无论是一个军人，还是一支部队，如果在政治上依附于反动阵营，就必将葬送自己的发展前途。车震作为一个旧军人，缺乏政治远见，在袁世凯称帝后没有果断转变政治立场，入湘后进而轻率地依附于一个反动军阀，结果给自己招来灭顶之灾。
护国军的讨袁行动得到各省尤其是南方各省的普遍支持。1916年4月28日，湘西48县代表于靖县宣布湖南独立，公推程潜为护国军湖南总司令，誓师讨袁。6月，湖南护国军第一师师长赵恒惕率部进攻长沙，汤芗铭只身逃逸。车震部孤军无援，加之人心浮动，很快被击溃。车震见全军覆没，心灰意冷，于7月中旬北上武汉，随后返回临清，解甲归田。张自忠囊空如洗，于8月一路流浪北返，有幸得到几位同乡资助，总算返回了家乡。程潜与张自忠的一生也算有些渊源，其护国军的进攻让张自忠的第一次从军梦想破灭了；不过1937年抗战军兴，程潜作为第一战区司令长官曾致电蒋介石替张自忠陈情，促张回归旧部带队抗战，此为后话。
初次投军历时两年，就这样惨淡地结束了。对张自忠来说，这是一次失败的尝试。但是，一时的挫折，毁不掉一个意志坚强的人。张自忠雄心不泯，仍执意参军，再闯天下。
转眼之间到了1917年，张自忠找到隐居故里的车震，对他倾吐了还想当兵的想法。车震见他遇挫不馁，意志坚定，内心甚是赞许，于1917年春将他推荐至天津镇守使赵玉珂处。张自忠到了天津，不久即发现该部积习甚深，心中不满，乃告假返乡。
夏天，车震又将张自忠推荐给了自己的把兄弟、第十六混成旅旅长冯玉祥。
冯玉祥字焕章，原籍安徽巢县，1882年出生于直隶（今河北）青县。他自幼因家境所迫，入保定“五营练军”当兵。1902年投袁世凯的新军卫队。由于他勤奋好学，又身高力壮，逐步在新军中崭露头角，1910年升任第二十镇管带。此后，历任左路备补军营长、京卫军团长，治军才能得到充分施展。他按照自行制定的标准招募的新兵，大多身材高大，体格强壮，作风淳朴，能吃苦耐劳，并易于接受组织和训练。他打破了当时一般军队因循敷衍的陈规，创造了独具特色的练兵方法，培养造就了一批能征善战的青年军官。1914年11月，冯部由第七师第十四旅改编为中央直辖第十六混成旅，已逐步发展成为一支军容严整、富有战斗力的独立武装力量，总兵力约5000余人。张之江、李鸣钟、宋哲元、刘郁芬、鹿钟麟、张维玺等人是这支部队的中坚干部。
冯玉祥
护国战争结束后，驻四川的第十六混成旅奉命北调，于1917年9月抵达廊坊。此时车震恰好去天津办事，特地带上张自忠，途经廊坊时亲自将他荐给了冯玉祥。冯听了老友的介绍，又将张自忠上下打量一番，见他长得高大英武，且颇有“沉毅之气”，便很满意地收下了他。
投奔冯玉祥，实际上是张自忠军旅生涯的真正开始。这时，他已届25岁。按常例，此时从军已为时过迟。就连比他年纪小的刘汝明都已当了营副，佟麟阁和吉鸿昌已是连长，冯治安为排长，而张自忠得从头干起。但对于一个有抱负的人来说，最重要的不是站在什么位置上，而是他是否选择了正确的奋斗方向。事实证明，第十六混成旅这支劲旅成为张自忠施展才华的用武之地和实现理想的奋斗舞台。在这里，他埋头苦干，发奋进取，开始了轰轰烈烈的创业。
3．标准军人
投奔冯玉祥之初，张自忠被委为中尉差遣。差遣，是当时军队中一种编外附员，需要随初级官长班见习一段时间方能正式就任军官，因而又被称为“见习官”。
在初级官长班学习期间，张自忠任教育委员，学习结束即升任排长。所在连为步三团二营五连（上报陆军部的番号为补充队二大队五中队），营长为王国裕，连长为朝栋。
1917年7月，段祺瑞为推行武力统一政策，派兵入川、湘两省征讨南军，但战事相继失利，遂令第十六混成旅前往增援。冯玉祥因不愿同南军开战，行至江苏浦口，即借故停兵不前，干脆在此地练起兵来。在浦口期间，他特地主持编写了一本名为《战阵一补》的小册子下发全军，内容都取材于历史上的故事，如苏季子发奋刺骨、田单守即墨、周亚夫的细柳营等等，意在培养官兵勤奋为学、英勇无畏和机智灵活的精神。这本小册子自然比枯燥乏味的法律书要生动有趣得多。张自忠训练之余细细捧读，对古代名士、将领们的风采心驰神往。
次年2月，冯玉祥在段祺瑞的不断催促和江苏督军李纯的要求下，不得不离开江苏，率部溯江西上，途经湖北武穴，于同年7月进驻湖南常德。这是张自忠第二次入湘。部队开抵常德不久，石敬亭、门致中前来投奔冯玉祥，这两人后来均成为西北军高级将领，其中石敬亭对张自忠的成长有较深的影响。
在常德，冯玉祥组织部队进行大规模系统训练，使张自忠眼界大开。当时的训练分为“学”“术”两科。学科指军事理论和精神教育，术科则指体能和技术训练，主要项目有射击、体操、跑拦阻、荷枪行军、刺枪、劈刀、拳击等。术科训练，每月一小考，三月一大考，年终一总考。官兵们生龙活虎，热情高涨，刺枪、劈刀、射击、器械体操等人人都会几套，至于应用体操，每连除二三人外，大多都能在杠子上拿大顶，跑八道拦阻。此外还有一种特别训练，便是在严冬三九天的沟垒比赛。各团营在下半夜集合出发，在裂肤堕指的寒风中挥舞镐、锹、锄、铲，挖掘散兵壕，完成最快且坚固者发给胜利奖状。学科方面，这个时期冯玉祥责成编印了几种精神教育书籍，如《军人读本》《精神书》《义勇小史》《告往勖来篇》和《国耻歌》等等，令官兵们阅读、讲解、背诵，连以上军官由冯玉祥亲自查考。有时他还亲自给官兵们讲精神教育课和军事理论课，主要是军纪、爱国精神、孙子兵法，偶尔也讲一些古代的侠客故事。此外还成立了英文班和日文班，组织官佐学习，目的在于了解和阅读外国军事书籍。冯玉祥这种学、术并重，独具特色的训练教育之道，对于张自忠日后的治军具有深刻影响。
为了增进初级军官的军事知识和技能，1918年9月冯玉祥在常德设立了军官教导团，以炮兵团长鹿钟麟兼任团长，刘郁芬、石敬亭、刘骥、门致中等任教官，内分军官、军士两个队，学期三个月。这时，被授为陆军步兵中尉、任混成旅小队长的张自忠奉派入教导团军官队第二期深造。学习课目侧重于学科，主要有战术、率兵术、地形、兵器、兵史、筑城、简易测绘及典、范、令等。由于对军事兴趣浓厚，张自忠十分珍惜这次机会，学习起来格外勤勉刻苦，加之他文化基础好，所以毕业考试成绩名列前茅。鹿钟麟对他十分赏识，将他树为“标准团员”。冯玉祥后来对张自忠这段经历评价说：“在教导团中，他又作了一个标准的团员，当时鹿钟麟团长非常夸奖他，他非常勤学，对人处事都极其真诚友爱，又能刻苦耐劳，这时便显出他未来一定是个将才。”
西北军时代的鹿钟麟
三个月之后，张自忠学习期满结业，于不久后的1919年11月升任旅司令部三等副官。1920年4月，调任水上陆战队第三队队长，在常德训练新兵。第十六混成旅在常德驻防两年，军民关系十分融洽，整军、练兵成绩斐然，为日后发展奠定了基础。
1920年春，南军谭延闾、赵恒惕等部攻占长沙，促冯离湘。7月，第十六混成旅北撤进入湖北。这时，混成旅随营学校赴郑州招来一批青年学生，编为补充团，团长张维玺，张自忠任补充团第二营五连连长。当时，张维玺与佟麟阁、孙良诚、韩复榘、石友三、刘汝明、过之纲、闻承烈、孙连仲、韩多峰、程希贤、葛金章、赵席聘13个中级军官，被冯玉祥视为股肱心腹，遇事可以越过长官直接见冯，号称“十三太保”。
为避免因文化程度的差异而影响学、术训练，十六混成旅凡招来的新兵都要分类，学生出身的要单独编成，称为“学兵”。四个月后，也就是11月左右，张自忠第五连调入学兵队，归旅部直接领导，改称模范第二连，仍任连长。冯治安为队长兼模范第一连连长。此后，张自忠与冯治安长期共事，两人成为交情极深的袍泽兄弟。冯系河北故城人，比张自忠小5岁，早在1912年便投奔了冯玉祥。他待人诙谐风趣，与张自忠的刚毅寡言恰好形成对照，二人刚柔相济，配合默契。张自忠与冯治安私交虽厚，且比冯年长5岁，但在官兵面前对冯诸事服从，礼节周到。
由于皖系当局扣发军饷，进驻湖北的冯部陷入困境。官兵们每天只能以盐水和少量杂粮勉强度日。张自忠也饱尝了饥饿的滋味。恰在此时，他接到七弟自明从临清写来的家信，讲述了山东大旱、饥民遍野的惨景。他读后心情沉重，当即取出纸笔，给自明回信说：
……望弟尽家中力所能及赈济贫民，须知善无大小，能救一人，即有一人之功；能济一村，即有一村之善。勿乘人之危机以谋己利，勿藉公家之权力以济己私。当此饥馑之年，正我辈为善之日也。望我弟努力为之，勿以无力自馁也。闻上海广仁堂派委到临（清）馆（陶）一带放赈。吴越之人尚能见义勇为，况我桑梓之地，遇此凶年，何忍坐视不救？
由这封信，我们可以对张自忠的为人、品德略知一二。
模范连（这种编制称呼至第十六混成旅扩编为第十一师即结束，此后改称为学兵连和学兵大队及学兵营属学兵队）每日两课两操，综合军事课由张自忠讲授，战术课则由旅参谋长刘郁芬讲授。下午5点钟后组织全连做游戏。每逢修马路、挖壕沟、栽树等劳动，张自忠总是甩开膀子带头干，从无例外。开饭时，他同三个排长、一个司务长和一个文书，用两个小桶领来与士兵同样的粗米饭，就着盐水，吃得津津有味。从这时起，张自忠注重军纪、治军严厉的风格已十分明显。遇有违犯军纪者，初则说服教育，再则厉声训斥，三则军棍伺候。士兵们为此编了一首歌谣：“教你学好不学好，鸭嘴军棍挨上了。”
功夫不负苦心人。三个月以后，张自忠的模范第二连便在全旅各连军事考核中夺得第一，成为第十六混成旅的“模范连”。模范连是冯玉祥治军的样板，张自忠得此殊荣，干得更加起劲了。后来在张维玺部任旅长的王赞亭回忆：“仅张自忠在1920年当学兵连长时的一百二十六名学兵中，即出了五个军长，五个师长，旅长、副官长、团营长更多了。五个军长是：刘振三（在张自忠部当军长），刘汝珍（在刘汝明部当军长），张人杰（在抗日同盟军当军长），李九思（在冯治安部当绥靖区副司令官），吴化文（在韩复榘部当军长）。五个师长是：展书堂（在韩复榘部当师长），王志远（在张维玺部当师长），安克敏（在张自忠部当师长），宋铁林（在抗日同盟军中当师长），张国武（在刘汝明部当师长）。旅长是：李致远、葛开祥、彭秉信、孙厚禄、李继成、季振同、魏书琴、王丕襄。这个连可以说人人成才，这是张自忠连长的成功。”笔者考证，以上人员中刘振三为第五十九军军长，刘汝珍为第六十八军军长（还是第三绥靖区副司令、第八兵团副司令），张人杰为抗日同盟军第一军军长、新编第七军军长，李九思为第十三兵团副司令，吴化文为整编第九十六军军长兼整编第八十四师师长，季振同在中原大战结束时已升任孙连仲部第十四师师长，宁都起义后又任红五军团总指挥，加上季应为六位军长。一个连的学兵，成才率如此之高，实属罕见，这虽不能完全归功于张自忠，但其带兵善训之功实不可没。
直系军阀曹锟、吴佩孚在直皖战争中取胜后，掌握了北京政府。他们将皖系陕西督军陈树藩罢免，任命第二十师师长阎相文为陕督，但陈树藩抗命不从，曹锟遂命阎相文率第二十师、第七师和冯玉祥之第十六混成旅入陕武力接收。至此，冯部总算解决了军饷来源问题。1921年2月，第十六混成旅进驻阌乡、灵宝，取道渑池、陕州直入潼关，连战皆捷，陈树藩败逃陕南。经北京政府同意，第十六混成旅于8月5日扩编为第十一师，兵力达3.5万人。冯治安由学兵队长升任第二十二旅第四十三团第一营营长，张自忠升任骑兵第十一团第二营营副兼学兵队长。副营长为虚职，张自忠实职仍在学兵队，下辖两连，第一连连长鲁崇义，第二连连长汪益静。
张自忠早期自填履历表
8月23日，新任陕督阎相文因军饷无着，服鸦片自杀。不久冯玉祥继任陕督，乃组建卫队团，团长由冯自兼，下辖3营：第一营营长李向寅，第二营营长石友三，张自忠任第三营营长。第三营辖第九、第十、第十一、第十二4个连，其中第九、第十连为学兵连，第十一、第十二连为普通连。部队由咸阳开入西安，负责护卫督军署。
冯玉祥接任陕督后，不愿住在旧督军署的深宅大院内，决定拆掉旧督署，在旧皇城兴建新督署。冯自任大工头，张自忠任二工头，率领士兵自己动手盖房子。旧皇城位于西安城东北角，原为清朝满人居住。民国建立后，这里的满人被逐被杀，房屋被毁，瓦砾遍地，荆棘丛生。张自忠带领大家用大刀把荆棘清除，将碎砖破瓦收拾干净，把凹凸不平的地面填平，然后将旧督署拆下的砖瓦木料车推肩扛运到旧皇城，在雇来的两个泥瓦匠指导下动工建房。两个月下来，他们盖起了200多间房屋，左右各16排，中间为客厅及督署，两边为各科办公室。堂堂督署看去一如营房，极不美观，但房屋采光好，不潮湿，很适用，冯玉祥很是满意。在艰苦的劳动实践中，张自忠学到了实实在在的本领，也培养了自力更生的精神。后来他自己带兵，凡遇兴房建屋之事，都是自己动手，从不雇请专人。
1922年的春天，北方原野上又弥漫起军阀纷争的战火。直皖战争后，奉系势力进一步扩张，逐渐与直系形成对峙。4月29日直奉两军终于干戈相见，在直隶（今河北省）北部爆发大战。吴佩孚急调第十一师东下驰援，并任命冯玉祥为后方总司令，率部进驻河南。当冯部进抵郑州时，河南督军赵倜佯示附和直系，阴与奉系勾结，于5月5日派兵偷袭郑州。第十一师遂与赵军展开激战。赵军约有3个师的兵力，超过冯军数倍，但冯军训练有素，士气高昂。战场枪弹如雨，炮火轰鸣。冯玉祥亲临前线督战，张自忠则率第三营护卫左右。战至5月8日，赵军渐露败兆，冯玉祥不失时机地把张自忠、李向寅两营精锐兵力调遣上前，向敌发起猛烈冲锋。赵军招架不住，一溃而不可收拾。张自忠属下一位叫李致远的副班长，在这次战斗中不仅表现勇敢，而且将缴获的1支步枪、1块怀表和30块大洋主动交公。这在旧军队中是新鲜事。冯玉祥为树立“缴获归公”的好军风，特将此事通报全军予以嘉奖，并将李致远破格提升为排长。从此，全军上下都知道有个“拾金不昧的李致远”。李后来升至旅长，成为张自忠的重要部将。
直系军阀战胜奉张后，论功行赏，5月10日冯玉祥被任命为河南督军。张自忠相随移驻开封。
按冯玉祥规定，凡营以上军官可以带随营家眷。张自忠见局面较为安定，开封距山东又近，便写信让夫人李敏慧带着长子廉珍、次子廉静来到开封，全家团圆。这时，廉珍12岁，廉静仅5岁。此后，张夫人除1926年南口大战时暂回临清躲避外，一直随张自忠辗转各地。
冯玉祥就任豫督后，利用良机广募新兵，很快编成3个混成旅，使手中兵力扩充至5个旅，总兵力达5万人。序列如下：
第十一师 师长冯玉祥
第二十一旅 旅长刘郁芬
第二十二旅 旅长鹿钟麟
第七混成旅 旅长张之江
第八混成旅 旅长李鸣钟
第二十五混成旅 旅长宋哲元
以上5位旅长便是冯玉祥麾下的“五虎上将”。此外还新编两个补充团和一个学兵团。补充团每团2000人，门致中、佟麟阁分任团长。学兵团团长由冯玉祥自兼，石敬亭为团副。这个团不仅是培养下级军官的摇篮，而且是冯玉祥治军的样板。凡有阅兵，皆以学兵团为前列。全团共8个连，前4个连为步兵连，组成第一营，张自忠任营长；其他4个连分别为骑兵、炮兵、工兵、辎重连，组成第二营，张凌云任营长。因冯军务繁忙，石敬亭尚兼第十一师参谋长和军官教导团团长，也无暇顾及学兵团，张以营长之身兼管全团8个连的训练，实负学兵团训练全职。本期成才的学兵也为数不少，如张宗衡在临沂大战时任张军独立第二十六旅旅长；池峰城更是血战台儿庄时的主力师长，后成为孙连仲部三十军军长；还有洪进田、杜国邦、傅鸿恩、马贯一、郑万良等。
学兵团驻扎于开封南关演武厅，传说中这就是岳飞枪挑小梁王的地方。附近有一个开阔宽敞的大操场，是练兵习武的好处所。
1922年9月10日，梁启超先生由北京南返广东路经河南时，应冯玉祥之邀赴开封观操。操练在演武厅大操场举行。鹿钟麟率领营以上军官表演器械体操，总部副官长张允荣带领军佐队表演实弹射击，张凌云带领手枪营表演劈刀，张自忠则带领学兵营表演刺枪。只见演武场上枪声大作，刀光闪闪，杀声震天，好不威武，看得梁先生不住点头。
阅兵后进行分列式，以营为单位，依次列队，以豪迈、整齐的步伐通过阅兵台，当学兵营通过阅兵台时，只见该营先头有两位骑马军官，前面的一位，四方脸，浓眉大眼，身材魁梧，英气逼人，头戴金箍帽，佩黄色少校领章，腰束子弹带，左手按辔，右手握刀，雄赳赳、气昂昂，马蹄嘚嘚一溜小跑从阅兵台前掠过。梁先生兴奋地问身边的冯玉祥：“冯将军，这前面的一位是谁？”“他叫张自忠，学兵营营长。”“哦，威武不凡，威武不凡！”……
1922年10月，冯玉祥因结怨于吴佩孚，被免去河南督军职，调北京任陆军检阅使。11月，冯部离豫抵京，驻南苑、通州一带。陆军检阅使是个有职无权的闲差，冯玉祥为此满腹怨恨，不过这反倒使他又获得一次专心练兵的机会。南苑练兵成为冯部继常德练兵之后又一个练兵的黄金时期。
学兵团起初驻北京城里，1923年移驻南苑。这时冯玉祥已不再兼任学兵团长，遗职由十一师参谋长石敬亭接任。石敬亭字筱山，山东利津人，生于1884年。早年在东北武备学堂学习时，即与冯玉祥相识，深得冯的赏识。冯玉祥称赞他“为人肝胆义气，勤勉惕励，对主官真心实意，处同僚上和下睦，言行有定则，事事有计划”，“是国家有用的大材”。在石敬亭的领导下，张自忠以全部精力抓紧练兵，使学兵团成为训练有素、军纪严明，且富有生气的样板部队。石敬亭对张的治军能力极为赏识，并与他结拜为兄弟。本期学兵中涌现出了吉星文等人。吉是吉鸿昌的侄子，在卢沟桥事变中大显身手，后任旅长、师长等职，1958年金门炮战中阵亡后被国民党当局追赠二级陆军上将。
吉星文将军
那时，卫队团第一营与学兵团同住一个营地。该营官兵举止粗野，纪律不严，亟须整顿。石敬亭请示冯玉祥后，决定调张自忠任第一营营长，加以整顿。学兵团官兵听说张自忠要调走，一个个痛哭流涕，依依不舍。
张自忠到任后，即按照治理学兵团的办法对卫队团第一营进行严厉整顿，重点整饬军容风纪，要求士兵遵守纪律，注意礼节，若有违犯，轻者训斥，重者棍责。不到一月，该营的面貌迅速好转。但卫队营毕竟与学兵团不同，士兵全是没有读过书的老粗，对张自忠的严厉约束很不习惯，甚至故意抵触。一天夜里，冯玉祥来到卫队团第一营微服私访，向站岗的士兵问道：“新来的营长如何？”
“张营长打人不好！”
“你说哪个营长好？”
“冯治安营长好，他不打人。”
次日，冯玉祥即下令调第八旅第二团第一营营长冯治安为卫队团第一营营长，张自忠回任学兵团第一营营长。
实际上，张自忠治军并非一味惩罚。一次，过之纲第四十四团一位弟兄患了严重的败血病，被送往协和医院抢救，院方要求冯玉祥派一个排的士兵供给输血。士兵们多来自乡间，没有文化，更缺乏医学常识，误以为一输血就会大伤元气，危及生命，因而异常恐惧，畏葸不前。冯玉祥见状，赶忙带头要求抽验自己的血。这时，张自忠赴讲堂听课恰好路经此地，目睹这番情景也毫不迟疑地伸出了自己的胳膊。在他俩的带领下，士兵们争相献血，终于挽救了那位士兵的生命。这件事使张自忠感到十分快活。冯玉祥的一番话道出了他内心的感受：“这件事使大家都觉得官长与士兵不但共着甘苦，而且是同着生命的。彼此间的感情便越发不同了。”
1924年春，张自忠被任命为学兵团团长。他觉得，以自己的才能、经验只能勉强当个营长，因而上书恳辞，结果未获批准，只得从命。学兵团仍辖两营，第一营营长由踏实肯干的连长鲁崇义升任，第二营营长武宝善是张自忠任营长时的营副。
不久，雨季来临。鉴于永定河丰台西南段曾于上年决口，给当地百姓生命财产造成巨大损失，冯玉祥请来专家进行规划设计，打算疏浚旧河床，使河水回归故道。任务交给了学兵团，要求赶在春泛之前完成疏浚工程。
张自忠率领学兵团立刻开赴永定河畔，开始了艰苦的劳动。他除了往来奔走、督导指挥外，还同士兵们一同挖土、抬筐，手破肩肿，毫不在意。官兵们为之感动又为之鼓舞，工程进展很快。不料，就在工程即将告竣之际，洪水却提前到来，官兵们不知如何是好。张自忠急忙指派一部分人突击挖掘导水沟，一面叫人堵住水头。可是水势凶猛，撂下去的土块石块在水中翻几个跟头，就被冲走了，眼看整个工程就要功亏一篑。危急关头，张自忠振臂一呼，几步冲进水里，官兵们也跟着跳了下去，排成一道人墙。为使这道人墙更坚固，张自忠又抽出身来，“扑通”一声躺倒在人墙背后，这一举一动犹如无声的命令，又有许多人跟着躺倒。这样，一道人体堤坝筑成了，凶猛的洪水被挡住；与此同时，那边的导水沟迅速挖通，一场水患终于免除。
这是张自忠治军带兵身先士卒的一个场景。
是年秋，冯玉祥将学兵团与卫队团合编为卫队旅，孙连仲任旅长，张自忠任第一团团长，冯治安任第二团团长。
9月17日，第二次直奉战争爆发。吴佩孚任命冯玉祥为第三军总司令，令其出古北口经赤峰进击开鲁。吴大帅没有料到，在此之前冯玉祥已与北洋陆军第十五混成旅旅长孙岳及陕西陆军第一师师长胡景翼密谋倒直。战斗打响后，冯玉祥佯装服从命令，暗中却于23日令部队“班师回京”，与驻防北京的孙岳部里应外合，囚禁了直系首领曹锟，并将其收支处长李彦青逮捕。这就是有名的“北京政变”。直系因此在第二次直奉战争中惨遭败绩。在此过程中，卫队旅第二团随冯回京，张自忠第一团则受命由古北口直趋长辛店，截击吴佩孚的交通兵团，迫其缴械投降。
不久，张部奉命移驻丰台。当时丰台已为英军盘踞多年，驻扎着一个营的英国军队。张自忠率部到达丰台车站时，蛮横的英军竟不准他们进入，双方发生争执。那个时候的许多中国军人，在外侮的积威之下，对于洋人不免是“闻鸣镝而惊心，对穹庐以屈膝”的，但张自忠不管三七二十一，硬是派一个连强行进驻车站。英方派人前来交涉，张自忠说：“丰台车站是中国的领土，中国军队在自己的领土上执行任务，外国人无权干涉！”英军又上告北京政府外交部，无结果，便从军营中开出一个连的兵力，武装包围了丰台车站。张自忠当即命令车站守军：“他不犯我，我不犯他，他若犯我，坚决消灭他！”英军完成包围后，开始向我军射击，气焰猖狂。守军连长根据张自忠的命令，一面从正面还击敌人，同时派出一个班突袭敌后，实行两面夹击，英军不支，被迫撤退。但守卫铁道的英军仍不准我军执行任务的士兵携带武器，致使双方再起冲突。这次英军派遣一位中国人为代表前来谈判，要求中国军队撤兵。张自忠义正辞严：“这是中国的领土，不是英国的地盘，撤退的应该是他们！”几句话说得来人哑口无言。英军见碰上强硬对手，被迫撤回了岗哨。从此，被英军侵占多年的丰台车站重新回到了中国人手中。
“勇于私斗，怯于公战，内战内行，外战外行。”这是对那些热衷于国内混战，而惯于对外妥协的军阀们的生动写照。而张自忠第一次与洋人接触，便显示了铁骨铮铮、不畏强暴的本色。后来有人就此事评论说：“张将军以他平时的人格的修养，独能以不屈不挠的态度，应付他们，较之当日的统兵大员，已觉出人头地一等。”
北京政变后，冯玉祥同胡景翼、孙岳在北苑举行会议，决定成立国民军，冯任总司令兼第一军军长，胡、孙二人为副总司令并分兼第二、第三军军长。冯部编制由此进一步扩大。孙连仲由卫队旅长调任炮兵旅长，遗职由冯治安接任。张自忠仍任第一团团长，所部移驻北京旃檀寺，负责看管被扣押的皖系军阀张敬尧、被俘虏的直军旅长潘鸿钧和被逮捕的李彦青。后来，张、潘均获释；李彦青因曾克扣冯部军饷和枪支，被押赴天桥枪决。
10月下旬，直系残部向国民军反扑。京汉线固城方面以孙岳第三军庞炳勋团防守，迎击从保定北犯的曹士杰第十六混成旅。由于曹旅装备较强，庞炳勋部伤亡甚重，力渐不支，吁请孙岳急电冯部求援。冯玉祥遂以张自忠之第一团与赵席聘部一个步兵团合编为一个旅，前往增援，第一团任援军前锋。张自忠受命后，以机智果敢的挺进，神速迂回至敌后，迫使固城曹军全部投降，为庞炳勋解除了危机。张自忠一生当中，曾两次为庞氏解围，是为第一次。
- 江庸，别号翊云，福建长汀人。
- 《张自忠将军自传》，《北碚文史》第2辑，第3页。
- 引自吴组缃：《张自忠的故事》，上海教育书局1948年版。
- 2 旧省名，1954年并入内蒙古自治区。——作者注
- 3 1914年6月30日，袁世凯下令裁撤各省都督，改称将军。
- 冯玉祥：《痛悼张自忠将军》，《新华日报》，1940年7月12日。
- 引自吴组缃：《张自忠的故事》，上海教育书局1948年版。
- 王赞亭的回忆，见《抗日名将张自忠》，第45页。
- 此时，骑兵第十一团团长为韩复榘，第二营营长李治富。——作者注
- 西北军将才如云，故有“前五虎”“中五虎”“后五虎”之说。“前五虎”即上述五人；“中五虎”为孙良诚、孙连仲、刘汝明、韩复榘、石友三；“后五虎”为张自忠、冯治安、赵登禹、吉鸿昌、郑大章。——作者注
- 2 见张宗衡的回忆，《抗日名将张自忠》，第29页。
- 冯玉祥：《我的生活》，黑龙江人民出版社1984年版，第544页。
- 冯玉祥：《我的生活》，第375页。
- 中国国民党中央宣传部主编：《抗战英雄传记》，国民图书出版社民国32年5月版，第4页。
