除政府明令拨发的南迁文物，中博筹备处自成立之始，就有建成一个名至实归的国家乃至世界级博物院的构想，于是开始从私人收藏家手里征集文物。 1933年10月 ，在蔡元培、叶恭绰、李济等人的共同努力下，以3.4万元的价格，购进了闽侯何叙甫绘园古物2000余件。再后来，随着不断收购、拨交和派员主动到田野进行考古发掘，中央博物院筹备处很快集中起全国第一流珍品约三十万件，其中包括绘画中的《历代帝后像》、《唐明皇幸蜀图》；铜器中闻名中外的《毛公鼎》等稀世珍宝。1934年7月，中博筹备处主任傅斯年因兼职过多，决定辞职，由李济继任，原安阳考古发掘队队员郭宝钧任总干事，工作人员有王振铎（天木）、赵青芳等。
也就在这一年，开始成立中央博物院建筑委员会，特聘中国营造学社梁思成为专门委员，进行初期筹备建设规划，并向全国建筑界人士征集建筑方案。建筑委员会成立以及梁思成的介入，是李济继与梁启超、梁思永共事之后，又一次与梁氏家族成员密切合作。1935年，著名建筑师徐敬直设计的方案当选，后徐氏会同梁思成将方案稍加修改，建筑外部仿辽代宫殿式，内部结构则中西合璧，使整个建筑群具有独特风格和磅礴的气势。按照国民政府“把中博建成亚洲乃至世界一流博物馆”的规划和设计方案，1936年第一期工程开工，以中博筹备处为代表的业主与德国著名的西门子公司签定合同，由对方提供建筑材料，并负责安装电梯、电话及排气扇等通信、通风等当时世界博物馆中尚属珍稀的一流高科技设备。意想不到的是，1937年7月，由于卢沟桥事变爆发及日寇大举入侵上海，南京告急，第一期工程刚刚完成四分之三（人文馆）即被迫停工，所有人员连同收藏的稀世珍宝，开始了又一次历史上最为悲壮的大迁徙。
卢沟桥事变爆发当天，中央博物院筹备处人员在李济领导下，把一部分书画等珍品密存于上海的兴业银行。上海战事兴起后，李济负责押运史语所六十余箱中西文杂志及善本书安全运往南昌农学院，迅速返回南京，同故宫博物院院长马衡等人一起，商讨由北平迁来南京大批文物的转移办法。协商的结果是，文物分三批运往川、陕、甘等地。根据各自的分工，这年10月中旬，李济奉命押运中央博物院筹备处保存的一百余箱国宝级文物，乘船沿长江赴重庆密藏。工作人员随船撤离南京迁往重庆沙坪坝暂住。当一切安排妥当后，李济又急如星火地赶往长沙与史语所同仁会合。此时已是11月下旬，中央研究院迁来的史语所、社会学所等几个所基本已安顿下来。当得知梁思成一家从北平迁往长沙后，李济决定登门拜访，在梁思永带领下，二人来到了梁思成一家的临时住处，自此便有了离别后再度相会的机缘。
此时，主客双方都没有意识到，随着这个机缘的重新聚合，梁思成一家与李济一家及其所在机关，一起度过了漫长的九年流亡生活。
