蒋介石与唐生智的关系十分微妙且错综复杂，他们彼此并不真正信任对方，事实上，在他们人生的许多重要关头，两人既是并肩作战的伙伴，又是相互竞争的死对头。比如，在北伐战争期间，当国民党试图统一整个中国时，唐生智曾经站在蒋介石一边讨伐各路封建军阀。但是，唐生智从未对蒋介石表现出特别的忠诚，两人之间的权力斗争曾经导致唐生智两度流亡海外：一次是去香港，另一次去了日本。然而，1931年中日两国在东三省爆发危机后，蒋介石又召唤唐生智回国任职，以增强中国的国防力量。唐生智在中国军队中的地位蹿升，到1937年，他已成为国民党训练总监部的总监。
1937年11月，在事关保卫还是放弃南京的几次高层军事会议上，唐生智几乎是蒋介石的顾问中唯一支持坚守南京的人。他认为，保卫南京的同时可以减缓日军向前推进的速度，并给其他地方的中国军队喘息和休整的机会。
但是，当蒋介石问及谁愿意留下来指挥南京防御战时，唐生智和其他军官都一言不发。最后蒋介石点了唐生智，并将了他一军：“不是我留下，就是你留下。”在其他同僚面前，唐生智显然别无选择，他说：“我们怎能让委员长留下？”他答应留守南京，并誓死抗敌。
将保卫南京的重任委托给唐生智的决定是一个重大新闻。11月27日，为鼓舞士气，唐生智举行了一次记者招待会。在与会记者面前，他发表了振奋人心的演讲——发誓将与南京共存亡。他的演讲慷慨激昂，结束时记者们报以雷鸣般的掌声。
然而，有些记者注意到，唐生智似乎也显得极为焦虑。实际上，他刚刚大病初愈，用一位外国记者的话说，唐生智看上去“如果不是被麻醉，就是有点儿神情恍惚”。他大汗淋漓，有人递给他一块热毛巾擦拭额头。
也许蒋介石早就知道，唐生智根本无力指挥军队与经验丰富的日军作战，任命他为南京卫戍司令长官不过为了掩人耳目，显示中国军队将会坚决抗日的决心罢了。也许蒋介石处事谨慎，所以准备了第二套方案以防不测。我们所确知的情况是，在11月的后半个月，第二套方案已经付诸实施。首先，蒋介石命令大部分政府官员转移到南京以西的长沙、汉口和重庆三座城市，这使得谣言在为数不多的留守官员中迅速传播：他们已遭抛弃，政府将任由日本人对他们进行宰割。几天之内，装满行李的官方轿车挤满了大街小巷；很快，这些汽车就全都消失了。随着政府官员的撤离，公共汽车和黄包车也都消失了，南京城里不再有任何公共交通工具。事实上，几乎所有的卡车也很快消失了，甚至那些主要用于从乡下往南京运送大米的卡车也都踪迹全无。随后，到了11月中旬，5万中国军人取代离去的政府官员，来到南京城。他们来自长江上游的港口，先是在江边卸下一箱箱武器弹药，然后随意挑选并占据早已人去楼空的政府大楼。截至12月，约有9万中国军人驻扎在了南京地区。
