抗战胜利后，蒋介石调陈诚为东北行辕主任。由于军政各端诸多失措，国民党在东北战场上一败涂地，各方视陈诚为罪魁祸首。很长一段时期，国民党内部“杀陈诚以谢国人”之声不绝于耳。谤议腾腾之际，1948年6月5日，也是陈诚离开东北行辕主任职务三个星期后，他进入上海陆军总医院动胃溃疡手术。术后，陈诚情绪低落，遂以养病为由，不复仕出。
思来想去，陈诚认为台湾气候温和且交通便利，环境清幽，物价便宜，较适合养病，遂于10月6日偕妻眷乘飞机抵达台北。从这天到1965年3月5日身故异乡，陈诚与台湾结下不解之缘。
陈诚赴台养病两个月期间，为前线战局焦头烂额的蒋介石，下野压力愈见沉重。1948年12月29日，时任台湾省主席魏道明（字伯聪）忽登门求见，魏氏告知陈诚，接获总统密电，电文内容仅称：“决任弟为台省主席，望速准备。”第二天，《中央日报》登载中央社电讯，称“行政院”会议决定改组台湾省政府，并任陈诚为省主席。
东北挫败的阴影挥之不去，陈诚虽间接接获蒋介石指令，但心态似仍冷淡消极，故而在魏道明辞出后，随即去电蒋介石，称：“魏伯聪有远见，应仍请其主持台政，职可在军事上以个人关系予以协助??”蒋介石正为陷于胶着之淮海战役殚精竭虑，得知陈诚犹未到任，即急电催陈速速到任：“如何不速就职，若再延滞，则夜长梦多，全盘计划，完全破败也！”紧接着，又去一电催促：“命令业已发表，应照伯聪兄之意从速交接??总以勿再游移为第一要义。”1949年1月6日，陈诚仅带随从人员一名匆匆就任。蒋介石得知后急电称许：“闻昨已就职，甚慰，自主台命令发表后，反对者对弟攻讦复起，所可痛者，我同学干部，亦受影响，革命环境，至此险恶极矣。”
蒋介石的任命，主要着眼于陈诚可以忠诚落实他的撤退台湾计划。陈诚心里明白，他的任务除了继续在台推动政务，革新省政，更为艰巨者，是要做好一切准备工作，让军队与机关人员以及随之而来的难民潮，能从容不迫、平平安安地从大陆撤运到台湾。
于是，陈诚到差的第二天，就召集台湾各方在基隆港举行会议。陈诚到基隆后，才发觉事态严重。他这样在回忆中描述：中央军政机关迁台单位数量激增，战后还有一批来自日本的赔偿机器赶运至台湾，上海商人也不断从大陆进口货物到台，均集中于基隆、高雄两个口岸码头。基隆港原有码头18座，陈诚视察时进港船只已多达41艘，把狭窄的基隆港挤得水泄不通。据当时的统计，那时一条船要装卸货物，有的需时40天以上，外港还有船只因不耐久候，原船开往其他地方者。
陈诚明白这副担子极其沉重。他原想远离是非圈，避居台岛，没想到如此夤缘之下，蒋介石却挑中他作肩负大撤退计划的主事者。
戎机紧急，陈诚上任之初，疏运港口成为他最重视的工作之一，目的就在于便利大陆物资运台。在陈诚及所辖干部的努力下，战后百废待兴的基隆、高雄等港口又恢复了战前的活力，大陆撤退的军民、物资均能大体接运抵台。
在国民党政权岌岌可危的年代，陈诚成为危急存亡关头蒋介石最倚重的“镇山之宝”。在案头便条纸上陈诚写下这么一段话：“生于斯死于斯，离此一步即无死所，不可再有如在大陆上尚可撤退之念。”
