后来，刘湘反攻成都，吕汉群败退，父亲回到了家乡。然后，他又去了上海。在上海，他又见到了吕汉群，吕汉群建议他再次入川。“宣汉事变”后，父亲一路历经千辛万苦，再次回到了家乡巢县。
经历了两次入川、两次出川的打击后，他的思想发生了重大的变化：没想到四川的情形是如此的复杂，根本摸不清楚川军的一切勾结和阴谋，自己差点在里面搭上了性命。
说来也怪，父亲的求学之路非常曲折，好不容易上了保定军校，可自1916年保定军校毕业后，他仍然长期郁郁不得志。在滇军、桂军、川军中，他先后担任连长、营长、师参谋长等职，奔走于粤、闽、川之间七八年，苦头吃得不少，经验也增加好多，但仍然未逢际遇。
在家乡休养了两三个月后，他先去了福建，后来去了上海，在上海大学选课学习，主要是学习俄文。
当时教俄文的是著名的共产党员瞿秋白。父亲曾经找瞿秋白谈了一次话。那时候，“上大”是染着红色的，校长是于右任、副校长是邵力子。
在上海，父母带着大弟弟一真租住在法租界的一个楼里，每月的租金是16元。他把一间小房子用布隔开成两间，一间是卧室，一间是书房兼客厅。在这里，连学费和交通费在内，一个月要花费50元左右。
但是，父亲在上大并没有读到毕业。
此后，他两度入闽。
1922年6月16日，陈炯明在广东发动叛变，围攻总统府。直到1923年1月，革命军才将陈炯明的叛军击退。父亲说：“第一次入闽是正在许崇智、黄大伟进入福州的时候；第二次入闽是随着他们会师广东，讨伐陈炯明的时候。”③
就在这时候，我的曾祖父张邦栋去世的消息传来了。父亲回家奔丧，办完丧事后，经济上已经是捉襟见肘了，无法再回到上海大学继续学业，他受邀请去广东帮桂军办军官学校。
在广东东莞虎门，父亲创办了建国桂军军官学校。这是他着手从事军事教育的开端。1924年，学校从虎门搬到广州，此时，孙中山赴广州，蒋介石正任黄埔军校校长。
蒋介石从保定同学口中得知张治中善于用兵，勇于作战，是不可多得的军事人才，便邀请他到黄埔出任第三期入伍生总队代理总队长，授衔上校。从此，父亲步入国民党军事阵营，而蒋介石对他可谓有知遇之恩。
