由于这种自发的抗日武装存在许多弱点，队伍很快被打散了，张逸仙又重新回到哈尔滨生活。生性豪爽的张逸仙在这里结识了很多朋友，这些人经常在他家聚会，一起谈论抗日救亡话题，不久，回哈尔滨养伤的杨奠坤也加入了他们的行列。
“九·一八”事变后，日军侵占中国东北的行为，直接威胁到了苏联远东的安全，日军是否会进一步北上进攻苏联，这是苏军非常关心的问题。
为获取日军的情报，苏军总参谋部决定扩大在中国的情报组织，并请中国共产党选派一部分人员参与工作。
张晓宏(共产国际情报史研究者)
其中提出两个条件，一个是要有过战斗经验，有过军事经历，第二个就是要懂俄文，因为这样一来他们联络起来比较方便，我们党按照苏军的这个要求在东北地区有所选择的为他们选择了一些人。
因我俄语较好，能会话和通讯，又有实际革命斗争经验，适合做共产国际的情报工作，我接受了组织的分配，从此开始了我10年的第二条战线——国际情报的工作。
——杨佐青自述
1932年冬天，杨奠坤开始了他的情报生涯。他一方面根据上级的指示收集日军的分布和调动情报，一方面发展成员，送往苏联受训。报国无门的张逸仙在这里终于看到了革命的曙光，在杨奠坤的引导下，很快就投入到对敌斗争的秘密战线上来。
此时的张逸仙，已年届不惑，是三个孩子的父亲。他毅然把妻子和孩子送回山东老家，请求去苏联学习。
张以谦(张逸仙之子)
到苏联去学习了以后回来抗日嘛？到苏联去学习什么东西他并不知道，只知道到苏联去学习，他为了去苏联就把我们送回来了。我母亲肚子里还怀着一个弟弟，她带着我们姊妹三个，一个4岁，一个5岁，一个7岁，带着10多件行李回到山东。
1934年的春天，在组织的精心安排下， 张逸仙和杨奠坤越过边境，踏上了苏联的国土。他们乘坐火车在西伯利亚大铁路上奔驰了整整15个昼夜，到达莫斯科，随后，被送往郊区的情报学校，开始接受正规而严格的训练。
校长是德国人，40多岁，少将军衔。每天从莫斯科来一个教官，教一天晚间回去，我们每隔5天休息，除政治秘密工作外，讲授的皆注重实际工作。
——张逸仙自述
