驻齐齐哈尔日军虽未受到苏军正面进攻，但城内日本人面临的局势并不比前线城市乐观。
8月12日以后，齐齐哈尔日军外围防线屡屡发生兵变，龙江县城的关东军骑兵下士官教导队受到抗日民主联军的攻击，几乎被全歼；昂昂溪伪满军杀死两名日本军官后哗变……整个城市已被抗日民主联军包围。
一到夜晚，城郊四周信号弹频频升起，枪声时断进续。苏军的飞机不时飞来，向市区投弹轰炸，在震耳欲聋的爆炸声响过之后，被炸弹击中的建筑物燃起冲天大火，人们忙着抢救被炸伤者，或从瓦砾中拖出一具具尸体。哭叫哀号之声不绝于耳。
驻守齐齐哈尔的关东军第四军，10日夜接到关东军总司令部向齐齐哈尔转移的命令，已于12向哈尔滨转移，仅剩下一百余名宪兵与部分伪满部队守城。
宪兵队的装备全是轻武器，根本无法抵抗苏军重型坦克的进攻。他们深知苏军一旦打来，凭着数百兵力，齐齐哈尔难以坚守一天以上。
8月10日，一列满载日侨的闷罐货车从海拉尔开抵齐齐哈尔。接着， 又有一些满载妇女儿童的卡车从满洲里开来。这些逃难的日侨不断带来恶噩：
“海拉尔被苏军的坦克群包围，危在旦夕。”
“满洲里宪兵队已被苏军全歼。”
……
这些消息使齐齐哈尔日军和日侨感到惊恐不安。
继海拉尔和满洲里的逃难日侨之后，滨洲沿线的日侨不断撤到齐齐哈尔，宪兵队宿舍挤满了日军家属。那些日侨只得被安排在一些中、小学校和伪满政府机关内。
苏军飞机的轰炸次数越来越多。宪兵队附近的兵工厂成为苏军的重要轰炸目标，剧烈的爆炸声惊天动地，浓烟随风而来，弥漫市区上空。齐齐哈尔已岌岌可危。
为了把家属送往哈尔滨避难，宪兵队准备了一列火车。13日夜，齐齐哈尔火车站月台上挤满了日本人，他们大部分是妇女和孩子。一些日本宪兵赶来与亲人告别，在这很可能成为永别的时刻，不少人泣不成声。
宪兵队土屋中尉的妻子怀里抱着刚满三个月的婴儿，手里拉着三岁的长子，面对就要离别的生死难卜的丈夫潸然泪下。
土屋觉得眼下是哭涕话别的时刻，安慰妻子说：
“只要活着，我们或许还能见面。希望你们能安全回到日本。”
