进入1965年后，陈诚的病情恶化，生命开始走向最后的终点。肝部疼痛一天天加剧，但他绝不喊叫，医生看到他皱着眉头的时候，就给他打一针止痛针。2月28日，台湾当局发表了陈诚的病情公报，宣布他的真实病情。此时，即使没人告诉他，陈诚也知道自己不久于人世了。他先给家人写了一个遗嘱：“陈死火葬，以不占地为原则。”
3月3日，家人问陈诚有什么话要说，陈诚叹了口气说：“国家搞到这个地步，还有什么好说的。”过了一会儿，他叫来陈履安，口授了他的政治遗嘱：
一、希望同志们一心一德，在总裁领导下，完成国民革命大业；
二、不要消极，地不分东西南北，人不分男女老幼，全国军民，共此患难；
三、党存俱存，务求内部团结，前途大有可为。
1965年3月5日晚7点零5分，陈诚的生命走到了终点，享年68岁。当天，谭祥心脏病发作，躺倒在床。
陈履安口述了父亲的最后时刻：“他一直就维持着，决不让别人操心的感觉。最后帮他上氧气，张光璧医师决定拿开氧气，他很安详地就过去了。”
陈诚去世后，尽享哀荣。蒋介石于当天发布“总统令”，派“总统府秘书长”张群、“行政院长”严家淦、“立法院长”黄国书等台湾政要，以及何应钦、顾祝同、周至柔、薛岳等国民党元老组成治丧委员会，“敬谨治丧，以示优隆，而昭崇报”。台湾全体军政机关、部队、学校、团体等，3月6日至16日，一律下半旗致哀。公祭及殡葬之日，民间一律悬挂半旗，“国防部”下令三军，为陈诚服丧。
公祭之日，蒋介石亲率文武官员，在台北殡仪馆和墓葬地泰山乡两次向陈诚致祭；蒋经国声泪俱下地对记者说：“‘副总统’的逝世，对党国来说，是一件无可比拟的重大损失；对我个人来说，乃是失去了一位追随近30年的导师。”
8月30日，陈诚灵柩安葬于台北县泰山乡同荣村墓园。
陈履安回忆说，他父亲去世之后，他看到父亲留下来的一份“特支费”分配名单，上面有33个人。这笔费用是陈诚作为“副总统”的特别开支，用来资助随同他从大陆逃到台湾的困难人士。后来陈履安一一去拜访了他们。“其中有一个在大陆溃败前做过省主席的，绝不求人，一生的傲骨。就一个人单身到了台湾，在卖烧饼，任何人给他帮助，都不接受，我父亲给，可以。所以他这些部下对他没话讲，后来他没有这个力量，有些人保不住，他也没办法，心里很痛苦。”
据说，台湾当局对陈诚的政治遗嘱不太满意，因为通篇没有“反共”或反攻大陆的字眼，征求谭祥的意见，想修改后再发表，但谭祥不同意修改，说要改就不发表。最后经蒋介石同意，遗嘱原文发表。
1993年8月，陈履安召集弟妹商量决定，遵照父亲生前遗愿，将父亲的遗骸从墓穴取出火化，安放于高雄佛光山灵光塔，捐出陈诚的墓园，由台湾当局另行处理。
