南京大屠杀，让一座拥有无数动人故事的东方古城就此变成了人间地狱。在那一刻，它就像整个中国的东部一样，既黯淡又无力。
当然还有很多人存有希望和期盼，卡尔逊在离开南京前就知道这一切都会发生，但他认为，这只是“中国发展中的又一转折阶段”，那些西撤的中国军队会变得更强大和更有生命力，中国也总有加入世界强国俱乐部的一天。
老外的勉励是好事，只是度过劫难的中国军队并不是说恢复就能马上恢复过来的。以七十四军为例，五十一师共从南京撤出了约三千人，五十八师撤出了约四千人，到蚌埠时又收容了约两千人。这就是七十四军存活下来的全部人马，至于武器装备，则损失殆尽。
骨干折损相当严重，南京一仗下来，五十一师的四个团长，程智阵亡，张灵甫、邱维达、纪鸿儒全都受了重伤，邱维达在过江前已经昏迷，当时小火轮又无法靠岸，战友只好将小火轮上抛下的绳索捆在他腰上，从冰冷的江水中把他拖上船。
幸运的是日军这时并没有立即沿江展开追击，这给了他们得以恢复的时间。不久七十四军调湖北荆门和沙市进行休整，其间除失散的官兵陆续归队外，还补充了不少新兵。
离队休养的团长们也纷纷赶回部队，其中张灵甫升任一五三旅副旅长（仍兼三〇五团团长），邱维达升任一五一旅副旅长。现在他们的主要任务，就是训练新兵，以便能够让部队尽早以全新的阵营奔赴战场。
吴起的练兵模式
这个世上，没有谁最完美，即便犯下过错，只要他知过能赎，亦不失为顶天立地的大丈夫。张灵甫正是如此，他实际上臂伤还没有痊愈，但报纸上刊登的战事消息，让他无法在医院再呆下去。
唯有练出好兵，才能重整旗鼓。张灵甫向来以练兵从严著称，淞沪战役和南京保卫战的血雨腥风，则进一步把抗日战争的艰苦和严酷性揭示得一览无余：打仗不能光靠口号和决心，平时多流汗，战时才能少流血和少牺牲。
在三〇五团，谁要想在训练中偷懒耍滑，就一定逃不过张团长的军棍。严抓训练质量的同时，军纪被着力强调，某种程度上，这也是吸取了溃退时军纪废弛，导致部队战斗力急剧下降的教训。张灵甫因此将“作战怕死、学术落伍、逃病兵多、纪律废弛”归纳为“军人四耻”。
“军人四耻”之外还有“军人四乐”。“四乐”为“救民水火、军誉日隆、精诚团结、歼敌致胜”，其中第一条就是要求官兵不得碰老百姓的一针一线，一旦触犯，按律严惩。
张灵甫的练兵法就是七十四军的练兵法，它有点像战国时吴起的练兵模式，一方面对训练和军纪抓得极严，但另一方面又强调爱兵如子。新兵胡立文到一五三旅时才只有17岁，还是个中学学生，个子又矮，张灵甫便安排他在三〇五团团部当文书。在胡立文的印象中，张灵甫私下里待士兵非常和蔼，从来没有训斥过他，有时见了面还摸摸他的头，鼓励他好好干。
1938年4月，七十四军在黄陂接受军委会的校阅，获得优良考评，三〇五团更是脱颖而出，成绩在阅后评定中名列全师第一。
到了这一步，就基本符合了上战场的初步条件。毕竟前线战局仍在不断恶化，不可能留给七十四军太多的练兵时间。
1938年5月初，七十四军被调入薛岳的豫东兵团，参加陇海沿线的兰封会战。
兰封会战是徐州会战的延续。在刚刚结束的徐州会战中，日军采取南北同时包围夹击的战术，占领了徐州，从而控制了整条津浦线。日本的报纸称之为“本世纪大会战”，日本国民全都陶醉在大胜利之中，但实际上日军取得的战果并没有他们想象中那么大。
由于日军的兵力数量不到中国军队的三分之一，他们很难在广阔平原上将中国军队完全围住。有的隐蔽在村庄里的日军明明看到中国军队在转移，但在众寡悬殊的情况下，只能眼巴巴地屏息目送着，而不敢进行追击。
