在下午4~6点之间，日军将这些战俘分成四个纵队，带他们向西行进，绕过几座小山后在江边停下来。“在经过了三四个小时的等待之后，战俘们都不知道发生了什么事，也没看到任何准备过江的迹象。”栗原吏一写道，“天色渐渐暗了下来。他们并不知道……日本士兵已经沿江对他们形成新月形包围圈，许多机关枪已经对准了他们。”
当处决行动开始后，中国人想逃已经来不及了。栗原吏一写道：“突然之间各种枪支同时开火，枪声和绝望的呼喊声交织在一起。”中国人在绝望中痛苦地挣扎，1小时后，人群终于变得悄无声息。之后日本士兵开始用刺刀逐个砍刺尸体，从夜晚一直持续到天亮。
如何处理尸体对日军来说是个难题。在幕府山大屠杀中，死亡人数只占日军在南京城内外屠杀人数的一小部分，但清理尸体的工作也持续了好几天。
将尸体掩埋是一种办法，但中岛将军在日记中抱怨很难找到可供掩埋七八千具尸体的巨大壕沟。将尸体火化也是一种办法，但日军通常缺乏足够的燃料。例如，幕府山大屠杀之后，日军在尸堆上浇了几大桶汽油想将其焚化，但还没等到尸体化为灰烬，汽油就用完了。“结果是剩下一大堆被烧焦的尸体。”一位日本下士写道。
于是，许多尸体被直接抛入长江。
屠杀平民
当中国士兵全部投降之后，实际上已经没有人保护这座城市的平民。日本人很了解这一点，于是12月13日，日军蜂拥入城，迅速占领政府大楼、银行和仓库，并在大街上肆无忌惮地开枪杀人。许多人在逃跑时从背后遭到射杀。日军使用机关枪、左轮手枪和步枪，向聚集在中山北路和中路以及附近巷弄的伤兵、老妇和儿童开火。日军还在城市的各个角落屠杀中国平民：无论在大街小巷、在防空洞和政府大楼，还是在城市广场上，他们到处杀人。一个个受害者尖叫着倒在日军铁蹄下，痛苦地呻吟着，这座沦陷之都的大街小巷处处血流成河，其中许多鲜血来自那些奄奄一息、无力逃跑的人。
当日军在南京挨家挨户地搜寻中国士兵时，他们也有组织地屠杀了这座城市的居民。除此之外，他们还屠杀南京市郊和附近农村的中国人。无论在城墙外、在长江边（江水已被鲜血染红），还是在池塘或湖边、在山丘上，到处尸体成堆。在南京附近的村庄，日军会因怀疑路人曾经当过兵，而向任何年轻男子开枪。日军还杀害那些不可能是中国士兵的人，如老人和妇女，只要他们对日军用日语发出的“这边走”或“那边走”的命令表示犹豫或不解，就会惨遭杀害。
