第三次长沙大捷，第十军声名鹊起，军长李玉堂荣升第九战区兵团司令，第十军军长由原黄埔三期生、该部预十师师长方先觉接任，方的第十师师长一职由葛先才继任。此次守卫衡阳，正是方先觉统领的第十军。
此时的第十军因此前参加常德保卫战遭到日军重创，原四师（第三师、第一九○师、预备第十师、暂编第五十四师）已折半，仅相当于两个师的兵力，共有1.7万余人，属于久战疲惫之师。而日军围攻衡阳部队除第十一军4个师团，另有直属炮兵、化学部队等共计11万人，中日兵力比值为1‥6.4，如此悬殊的兵力对比，在整个抗日战争属首次出现，正因了这诸多的因素，为这场战争增加了一系列悬念并涂上了悲壮色彩。
按照国民党军事委员会原定计划，国军主力布置在衡阳外围，以方先觉部万余人吸引日军倾全力前来攻城，只要方部扼守衡阳10天，最多两周，即有外围主力部队增援并成铁桶合围之势，里应外合，一举围歼来范之敌。
日军大本营的作战方案是，倾第十一军团全部兵力围攻，于一日之内可攻陷衡阳。就在这作战命令下达时，老谋深算的第十一军团司令官横山勇，识破了中国军队高层的战略意图，未敢轻易发兵，只调集两个师团部分兵力3万余人作前锋，分波次向衡阳围攻，其他部队则负责阻击外围的国民党援军并伺机围歼国军主力。用横山勇的话说：“只要将敌人外围主力击破，衡阳守军得不到援军，在无补给之情况下，至其战力耗尽时，则不攻自破矣。”[6]既然中国原有的战略部署被日军破解，战争的进程也就出乎双方军事高层预料之外了。
6月23日凌晨，衡阳攻防战正式打响，双方均以火炮为主猛击对方，日军主用重炮与野山炮，中方主用迫击炮，中间伴有其他武器交火与小范围、短时间的肉搏战。中国守军士气高涨，日本方面“负责攻城之两师团，鉴于长沙之攻占，已被他人捷足先登，功震全国，乃欲急起效尤，一时战志如云”。[7]两支强军狭路相逢，各怀战志，死拼硬磕，战斗持续了近一个月，双方伤亡重大，未分胜负，攻防双方皆拼全力支撑。多少年后，据方先觉对日本《产经新闻》记者古屋奎二说：“由于长期作战，医药品和食品缺乏，极感困苦。没有止血药剂，没有绷带，负伤官兵的伤口有发炎生蛆的现象。本来可以救治的官兵，很多都死亡了。我们给予敌人的打击也非常之大，每天可以望到敌阵在举行火葬的烟焰。整个衡阳城被死尸臭气所笼罩，实在是很悲惨。”[8]
衡阳交战前，日军大本营拟定在一日之内攻占衡阳的战略成为泡影，事后被日军军史专家斥为“其必胜之信念，诚属可嘉；其庙算之粗率，罪无可逭”。[9]日军如此，中国军队同样陷入了因高层庙算不周而导致在旋涡中不能自拔。在苦战中勉力支撑的国民党守军日夜盼望的增援部队，因受日军外线阻击，行驱艰难，始终未能抵达衡阳城门。经过如此长时间的消耗，衡阳已成为一座内无粮草、外无救兵的孤城。而日军自7月下旬起，设在外线的兵站每夜仍可向衡阳前线官兵输送30～40吨的给养。面对此情，亲自指挥此次会战的中国最高统帅蒋介石意识到局势严峻，严令外线各军迅速攻击前进，以解衡阳之危。但在日军强大炮火与兵力阻击下，7月20日，国民党第六十二军进展至衡阳西南约7公里处，由西北增援之第七十九军亦距衡阳不过8公里处，受到敌人猛烈炮火的压制，而第十军于19日夜间派出向第六十二军方向接应的特务营也遭到日军伏击，全部阵亡。蒋介石预计穷一日之力，两军各向前推进5公里即可解衡阳之围，但这短短的5公里路程却如万水千山，计划始终未能贯彻，援军被迫停止。衡阳面临弹尽粮绝、城破有日的险恶处境。
生死已到紧要关头，最后的决战即将开始。中日双方皆倾全力投入这场关乎国家存亡的攻守战。大海那边的日本天皇翘首以待，密切关注着这场千里之外的战事。日军大本营命令第十一军全力投入攻城之战，并调集炮兵、化学部队配合，以尽快拿下衡阳。正身患痢疾、身体衰弱、焦躁不安的日军横山勇中将认为时机已到，不再犹豫，集结第十三、四十五、五十八、六十八、一一六共5个师团，外加五十七旅团和重炮、化学部队共11万余众，向衡阳城围攻而来。面对日军的强悍攻势，国民党军事高层人员更加焦虑不安，皆以悲壮的心境注视着这场关乎民族安危的攻防战。
