这个时期，隐居泰山的冯玉祥，也不断给宋哲元、张自忠、冯治安、刘汝明等几位老部下写信，鼓励他们抗日救国。
二十九军基层广大官兵，更是抗日热情高涨。
在这种形势下，日寇已感到“抗日的空气駸駸乎弥漫京津一带。总之已是大祸临头。”日寇要想控制冀察及华北，便要想法“如何使宋哲元逃不出我们的掌握。”（日驻北平特务机关辅佐官寺平忠辅语）他们使出的一招，便是邀请宋哲元访日。
这时冀察当局虽然逐步趋向中央化，人尚未发展到与日本决裂的程度，所以宋哲元、张自忠等人仍力图避免与日方发生正面冲突，以求延长华北的稳定局面。
对于日方的邀请，冀察集团考虑，如果宋哲元亲去，对于日方提出的要求，就没有回旋的余地。所以最后研究决定，宋哲元不去日本访问，改由张自忠率团出访日本。
1937年4月，张自忠为团长、河北保安司令张允荣为副团长，团员有三十七师一○九旅旅长何基沣、三十八师一一二旅旅长黄维纲、一三二师参谋长徐廷玑、一四三师独立二十九旅旅长田温其、冀察政务委员会外交委员会主席陈中孚、委员张季垣、天津市政府首席参事边守靖等，及随行亲属共20余人，组成访日代表团。
在抗日空气浓厚的形势下，张自忠将率团访日的消息传出，引起舆论界的种种猜测。人们怀疑张与日有秘密交涉的使命。因而张自忠的政治面貌在当时国人眼中也随之变得模糊不清。
有好心的朋友劝他：“为什么要到日本呢！？你知道这于你的名誉将会发生不良影响的呀。”
张自忠答道：“我知道。但是在和平未绝望前，我希望能够打开一个局面，维持一个较长的局面，而使国家有更充实的准备，其他毁誉我是不计较的。”
张自忠以及包括宋哲元等在内的二十九军将领，当时主要从二十九军生存出发，与日寇委曲求全，以求得和平和争得华北稳定，但对日寇的侵略本质却认识不足、不够深刻。所以张自忠低估了这次访日的负面效应，对他人生所造成的严重后果，差一点毁却他已闯下英名不说，而最终也致使他成为一个虽然悲壮、但却悲剧的人物。这是他未曾料及的。
4月23日，张自忠率团启程去日本访问。5月23日离日返国，历时一月。
在日期间，特别应该一提的是，将于27日在名古屋开幕的泛太平洋博览会，竟将冀察陈列馆列入日本殖民地，与“满洲”、“冀东”两个伪组织混在一起。此前虽屡经中国驻日大使馆抗议，始终无效。张自忠知悉当即致电在名古屋的冀察代表纪华，限于观光团到达之前，将冀察陈列馆退出博览会。凡未开箱物品，一律运回；已开箱物品，限期装箱，停止展览。纪华遵命于4月27日关闭了冀察展览馆。
到达名古屋，张自忠接到中国大馆电报，说中国大使许世英回国述职，拟请张自忠代许参加名古屋泛太平洋博览会揭幕剪彩。张自忠得知日本人有意在中国馆对面开办了伪满洲国展览馆，并悬挂了伪满国旗。张自忠当即命英文秘书翟维祺、日文秘书卢南生与日方交涉，并交代说：“你们跟他们讲，东北是中国的领土，我们只有一个中国，不晓得什么满洲国。博览会把一个所谓‘满洲国’展览馆与我国展览馆放在对面，是对中国的侮辱，必须立即降下伪满洲国旗，撤除‘满洲国’展览馆。”
开始，日方拒不解决。张自忠强硬表示：“如果明天上午伪旗不下，我们就立即回国。日本的‘天长节’也不参加了。终于迫使日方答应降下伪满国旗，撤除伪满展览馆招牌。
在日期间，尽管日方提出了所谓“经济提携”事宜，但张自忠坚持不作承诺，日方见不得要领，便转而在北平对宋哲元施加压力，一再要求由日方修建津石铁路，开采龙烟煤矿，并在平津及北宁路沿线扩充军事设施。
到5月中旬，日方交涉日繁，压力更甚。宋哲元则百般拖延，不作答复，双方关系日趋紧张，在此形势下，宋哲元认为张自忠一行已不宜继续在日访问，遂电促其提前回国。自己则以扫墓之名回山东乐陵，以避日寇之纠缠。
5月28日，张自忠率领的访日代表回到天津。他们在回国途中，绕道青岛、济南，27日在济南接记者采访，张自忠就此次访日经过发表书面谈话，于张自忠回到天津的当天，发表在天津《大公报》上，全文为：“本人此次蒙冀察政委会宋委员长之允许，赴日本游历，因职务关系，不便作长时间之视察，所以在日本各地略作一旅行，即行返国。所到者为东京、西京、大阪、神户、日光、箱根、别府、博多、奈良、名古屋等处，其中惟东京、大阪两处，因参观工业，停留之日较多。在一般看来，日本工业确有一种努力求进精神，尤其是纺织工业与航空工业，进步更速，市政与军事方面，此次亦略有视察。此外，在东京、大阪各处与日方军政实业界要人晤面，亦仅系普通应酬。本人因韩主席系旧长官，阔别多时，又久慕山东、青岛政绩，故于归国之时，绕道一游，日内即行返京。”
尽管张自忠访日，根据各方面的资料证实，他并没有作出一点对不起国家民族的事，也没有签订任何一个协议。但是日本却利用他的访日抓住大肆渲染，大作文章。这样一来，张自忠的政治面目更为国人所误解。
