在此期间，第一集团军番号撤销，集团军直属部队分拨张自忠、刘汝明、冯治安、石友三各部。其中五十九军分得姚景川之骑兵第十三旅。至此，原二十九军各师完全被蒋介石拆散。宋哲元失去兵权，专任第一战区副司令长官，这实际是一个空架子。
4月8日，姚景川率骑兵旅（辖两个团）抵达临沂。同日，李仙洲之九十二军第十三师到临沂，归张自忠指挥。
4月13日，张自忠被任命为第二十七军团长，下辖第五十九军和第九十二军。第五十九军军长由张自忠兼任，第九十二军军长系中央军，军长李仙洲，下辖两个师：第十三师，师长吴良琛；第二十一师，师长由李仙洲兼任。该师未到临沂。
张自忠晋升为军团长，深感名位高了，责任也重了。
这时原北平市警察局长陈继淹奉宋哲元之命来到临沂，慰劳张自忠及五十九军官兵。老友相见，悲喜之情难以言表。谈到这个月来，官兵的巨大伤亡张自忠含泪沉痛地对陈继淹说：“多年患难的弟兄们为国牺牲了，这心里的难过，比油煎还狠！长官远道慰劳能不愧！但相信我领导他们走的是光明大道，虽死犹荣！军人报国，此其时也！谨请转禀宋先生，幸释远怀。”这时五十九军军部距敌人仅600米。
张自忠对陈继淹坦陈胸怀道：“我们受国家多年培养，值此大敌当前，国家民族存亡之际，我们只有三条路可走，第一条是逃，第二是当和尚，第三是死。但是一、二两条路，不是我们走的，那么，只有走第三条路以死报国了！我的心愿如此，你以为怎么样？”
听了这番悲怆的话，陈继淹颇为感动，他诚恳地回答说：“目标选得再好没有，只是当死再死，鸿毛泰山，全在时间与事实的选择。目前责任重大，生死事小。”
老朋友郑重劝勉，张自忠得到不少安慰。
台儿庄方面，汤恩伯、孙连仲、孙桐萱等部于4月3日开始向日军反攻。6日，残敌一万余人向北溃退，我军跟踪追击。7日，台儿庄之敌全部肃清，台儿庄大捷，战役基本结束。
临沂方面，日军却源源增兵，战局仍然十分紧张。
14日，板垣已将第五师及另外两个团：第四十一、四十二团调到义堂集地区，准备再次发动攻势。
此时的五十九军，连番激战，伤亡很大，减员严重，已残破不全。尤其是三十八师，伤亡大部，几不成军。为了维持战斗力，张自忠将部队进行了编并，三十八师所剩兵力，全部并入一一二旅，由旅长李九思指挥；黄维纲师长带领部分干部到徐州以西黄口增募新兵；一八○师仍维持两旅四团建制，但缺员也多，每团只有800人左右。全军可战之兵力只有七、八千人。庞炳勋四十军可用之兵仅2000人左右。两军的分工是，五十九军在城外出战。
16日，日军第四十一、四十二团在第九旅旅长国崎登少将的指挥下，向临沂发起猛攻。我军以久战残破之师对新锐强悍之敌，战斗极为艰苦。18日，临沂城西北角被日军炮火轰塌数处，日步兵乘机在坦克掩护下，突入缺口，攻进城内，情况紧急万分。张、庞两军拼死反击，才将日军击退。但日军凭借其强大火力，连续攻击，临沂城岌岌可危。
19日上午，张自忠电报报告李宗仁战况。
当面之敌，自愿（14日）晨以来，猛烈犯我，着着进逼，迄未停止。啸（18日）晚继续彻夜激战，在敌炮火猛烈轰击下，我阵地全毁，房屋均着火，炮弹已渐达城垣，我官兵于枪林弹雨中流血抵抗，前仆后继，伤亡累累，而干部伤亡尤重，陷于苦战状态。现援军仅到一部，二十一师尚无消息 。现时情况二十一师今晨不能到达，危险堪虑。职已严饰所部，无论伤亡如何，即余一兵一弹亦须拼其全力苦撑到底，以实现保卫临沂之任务。
蒋介石对临沂战局十分关注。19日下午，他致电李宗仁指出：“于学忠军应星夜开临沂，先击破该方面之敌。”
可惜此决定太晚了。19日，日军由西北两面对临沂城发动大规模进攻，五十九军奋力苦战，守住了城郊多数阵地，但右翼大柳园（临沂西北）还是被日军攻陷。守卫临沂城的庞军也未能阻止日军从西关、南关突破。下午5时，攻进城内日军近2000人，庞军与日军展开巷战，双方伤亡惨重。
张自忠指挥五十九军从城外猛攻日军侧背，以图解救庞军之急。正攻击中，庞军已奉李宗仁电令，于午夜由东门突围而出。临沂陷于日寇手中。
临沂失守，张自忠十分痛心，他在给老朋友、军令部次长熊斌电报中道：“职部此次转战临沂，为时月余，激战四次，逐次伤亡，力量削弱，而敌陆续增加，志在报复。职部以兵员疲惫、器械残缺之余，当生力增援机械化之敌，预料必危。今日徒以国势至此，分属军人，义无反顾，是以激励部属，奋斗到底，而在援军未到前，守城庞军退出临沂城垣，战局顿挫，是所痛心，……职忝绾军符，以身许国，救国有心，杀敌无力，殊觉俯仰疚心。”
其实临沂之失，并非守军作战不力，而是战区指挥不当之咎，最大的失误，便是可围歼坂本支队而令五十九军撤军去滕县，致日军第五师这一主力得以死里逃生并窜援台儿庄。且对敌情始终估计不足，以久战疲惫之五十九军往来奔波，更增疲惫且影响士气，在坂本支队西窜后又将临沂援军撤走，只留已疲惫不堪且伤亡严重的五十九军及已完全丧失战斗力的庞军留守临沂，对敌势估计不足，使临沂守军力量不足，以兵疲器钝之张、庞残余之师当日寇精锐之旅，又无援军，虽尽全力，也难挽回败局。
