在思想教育上，冯玉祥特别注重爱国与爱民的一致性。每逢检阅部队，他总要高声提问：“你们从哪里来？”士兵答：“从农村来。”问：“你们的父母是什么人？”答：“老百姓。”问：“你们吃的、穿的是什么人给的？”答：“是老百姓供给的。”他还亲自编写了《爱国精神》、《军纪精神》等小册子，强调“我不以死救国，则我国必做敌之奴隶”、“人无命脉必死，军无纪律必亡；饿死不取民食，冻死不取民衣”等等。
冯玉祥的这种教育思想，早已浸润到赵登禹等众多将士们的血液之中。
南苑附近的永定河，因多年淤塞，每逢暴雨辄泛滥成灾。冯玉祥派部队轮流施工，疏浚治理，先派学兵团、手枪营做先锋，由参谋长石敬亭督率。官兵不畏劳苦，不向商民要一钱一米，及时完成任务。
冯玉祥强调官兵一致。营以上军官才允许开小灶，营以下一律与士兵同锅吃饭，不得例外。他自己也常常和士兵在一起边吃边谈，以便更多地了解下情。有时还悄悄趁夜进入士兵宿舍，躺在大炕上偷听士兵闲谈。一次听到士兵们编的歌谣：“石友三的鞭子，韩复榘的绳，梁冠英的扁担赛如龙，张自忠扒皮更无情！”第二天便把石、韩、张几位找来，问清事实大加训斥，告诫他们不许用残酷的体罚进行训练。张自忠时任学兵营长，正值严冬，有次训练时他自己先脱去棉衣鞋袜，命令士兵也照他的样子脱光衣服在凛冽的寒风中训练。冯玉祥正巧看见，问他为什么这么训练，张说为锻炼吃苦精神。冯玉祥挖苦说：“喝马尿更苦，难道让我们的士兵喝马尿吗？”张自忠虽认了错，但“张扒皮”这个绰号却由此流传开来。
