西南联大由张伯苓、蒋梦麟、梅贻琦三位校长共同管理，历经九年，直到抗战结束。三校师生团结合作，使得西南联大成为战火中高等学府的奇迹。
1937年10月17日，是南开中学成立32周年纪念日，在重庆举行的校庆纪念会上，张伯苓告全国的南开校友，自己将本着南开的苦干精神，在最短时间内实现南开学校的复兴。
1938年，在校友会的建议下，“南渝中学”更名为“南开中学”，成了西南地区的重要学府。张伯苓把西南联大的主要事务交与其他两位校长主要管理，自己在重庆专心建设这个在战火中涅槃重生的“新南开”。在创办南开之初，曾有人说“南开”发音读上去就像“难开”，张伯苓则说“南开、南开，越难越开”。只用了几年，重庆南开中学的校园面貌便焕然一新，很多人都说张伯苓是个魔术师。张伯苓说：“我不是魔术师，我是个不倒翁，日本人摧毁了南开校园，但摧毁不了南开的精神。”
中国私立大学的拓荒者
张伯苓不但像不倒翁一样处事乐观，而且做事坚毅，有决心。张伯苓在重庆回顾自己四十年南开生涯时曾说：“四十多年来，我好像一块石头，在崎岖不平的路上向前滚，八里台笼罩在愁云惨雾之中，甚至每个小树好像在像我哭，我也还咬紧牙关未敢稍停一步。一块石头只须不断地向前滚，至少沾不上苔霉，我深信石头会愈滚愈圆，路也会愈走愈宽的。”
抗日战争胜利后，南开大学于1946年在天津复校，张伯苓继续出任校长。开学典礼上，张伯苓难掩激动的心情，说南开还要更长久地办下去，自己还能再为南开服务五年，此时张伯苓已是古稀之年。这一年张伯苓到美国做手术，恰好度过自己的七十大寿，旅美华人与张伯苓的美国朋友都写了贺词为其祝寿。老舍与曹禺写了一首祝寿诗《贺张伯苓先生七十大庆》，开头便是“知道有中国的，便知道有个南开。这不是吹，也不是捧！真的，天下谁不知，南开有个张校长?１后来这些贺词被汇集成书，美国人司徒雷登在导言中称张伯苓具有远见卓识、诚挚热情和洁白无瑕的道德修养，赞扬张伯苓是中国办私立大学的拓荒者。
半年的做官
1948年，国民党改组，考试院院长职位空缺，国民党各派系对于院长人选争论不休。蒋介石想把张伯苓请出来当考试院院长，用张伯苓在教育界的资历平息纷争。张伯苓接到蒋介石的电报，称自己只会办教育，难当考试院院长重任。蒋介石又发来电报邀请，张伯苓难以推辞，勉强上任。很多人都不主张张伯苓去做官，张伯苓自知前路艰难，只能迎难而上。上任前，张伯苓在家设宴，其间南开大学秘书长黄钰生问他：“先生，您一人能挽回颓局吗？”张伯苓叹了口气，说：“蒋先生要我去跑龙套，我只得去跑。”
最终，一向不参与政治的张伯苓只跑了半年龙套，因为耳闻目睹官场丑态，以“体弱需静养”为理由，辞去考试院院长一职，离开南京，返回重庆深居简出。
1949年，蒋介石离开大陆时，想要张伯苓一起走，但张伯苓不愿意。蒋介石无奈，给张伯苓留下飞机，告知随时可飞，但张伯苓称自己“不愿离开南开，也不想离开大陆”，以身体欠佳为由，留在了重庆。
中国强盛，有我
1950年，张伯苓回到了天津。然而这一年南开大学举行校庆时，张伯苓却因为曾经出任考试院院长的原因，被南开大学拒之门外。张伯苓知道自己无法参加校庆后，心中黯然神伤。1951年2月17日，张伯苓突发脑溢血，临终前由张伯苓的学生黄钰生代写了遗嘱。2月23日下午，张伯苓去世。
张伯苓去世60年后，2011年，他当年的学生齐邦媛出版了一本叫《巨流河》的书，专门一章来写南开中学。这一章的题目叫“中国不忘，有我１而21世纪的一位读者读到这本书，被这一章感动到涕泪不止，在读书博客里写道“中国强盛，有我１张伯苓先生留下的一切，可见一斑了。
