1962年2月24日，台湾中央研究院在蔡元培纪念馆召开第五次院士会议，许多长期滞留海外的科学家特意赶回台北参加这个盛会。在下午的酒会上，海内外学人齐集一堂，主持人胡适难以抑制欢乐和兴奋。在关于台湾的科学文化建设和言论自由方面，与会的院士和学者有一些意见相左的发言。因此，胡适先生忘记了夫人江冬秀在会前的提醒，多喝了一些酒，并且说了许多情绪激动的话。下午6点20分，酒会刚宣布散会，就在他还笑着和客人谈话的时候，心脏病突然复发，不禁倒地，就此与世长辞。
晚年的胡适曾跟吴颂平说过：“如果我没有忧虑，我不会有心脏病，也不会有十二指肠溃疡的毛病。我在二十七年（1938年）接任驻美大使之后，汉口是丢了，我的心脏病发了。那时唯一的海口是广州，二十九年（1940年）广州也丢了，我的忧虑不能摆脱，心脏病又发了。我还是有忧虑的，我不能做到完全没有忧虑的地步。”
去世前两天，胡适嘱咐秘书王志维：“我太太打麻将的朋友多，这里是台湾大学的宿舍，南港我住的也是公家宿舍，傅孟真①先生给中央研究院留下来的好传统，不准在宿舍打牌。今天我找你来，是要你在我出国期间，在和平东路温州街的附近，帮我买一所房子，给我的太太住。”（《记胡适先生去世前的谈话片段》）这段话无意中点出了一个克己复礼的人在这个俗世的最后一点麻烦。
胡适猝然而逝的消息，立刻从台北传播出去，举世哀悼。蒋介石除颁赠“智德兼隆”匾额外，还亲自题写挽联，挽联上写道：“新文化中旧道德的楷模，旧伦理中新思想的师表。”台湾中央研究院为胡适墓碑撰写的碑文是：“这是胡适先生的墓，生于中华民国纪元前二十一年，卒于中华民国五十一年。这个为学术和文化的进步，为思想和言论的自由，为民族的尊荣，为人类的幸福而苦心焦思，敝精劳神以致身死的人，现在在这里安息了！我们相信，形骸终要化灭，陵谷也会变易，但现在墓中这位哲人所给予世界的光明，将永远存在。”
在公祭典礼当日，来自全台湾约30万人向胡适先生作最后的告别。这些胡适之的朋友里，有达官显贵，有文人雅士，更有许多布衣白丁，大家自发地走在一起，送别这位能使庶黎哀伤的伟人。面对如此感人的送殡和路祭场面，胡适夫人江冬秀忍不住向长子胡祖望长叹一声：“祖望啊，做人做到你爸爸这样，不容易哟。”
（为本文提供内容者：金雯、熊培云、唐德刚、余世存、许知远、陈丹青、潘光哲）
