1962年2月24日上午，中央研究院舉行第五次院士會議。會議結束後，當時擔任院長胡適主持了下午的酒會。
在酒會上，胡適興奮地說：「各位朋友，今天是『中央研究院』遷台十二年來，出席人數最多的一次院士會議。令人高興的是海外四位院士也回國參加這次會議。『中央研究院』第一次院士是在大陸上選出來的，當時被提名的150人，選出了81位;現在一部分是過去了，有的淪陷在大陸，只有廿多位在自由地區。『中央研究院』在此恢復時，只有十九位活着在台灣。」緊接着，他回顧了這些年來的困難情況之後又興致勃勃地說：「我是一個對物理學一竅不通的人，但我卻有兩個學生是物理學家。一個是北京大學物理系的饒毓泰，一個是曾與李政道、楊振寧合作證驗『對等律之不可靠性』的吳健雄女士。而吳大猷卻是饒毓泰的學生，楊振寧、李政道又是吳大猷的學生。排行起來，饒毓泰、吳健雄是第二代，吳大猷是第三代，楊振寧、李政道是第四代了。……這一件事，我認為生平最得意，也是最值得自豪的。」(《胡適之先生晚年談話錄》第277-278頁)
隨後，他請著名考古學家李濟和物理學家吳大猷講話。二人講完以後，他好像意猶未盡，又接着說道：我去年在「亞東區科學教育會議」講了二十五分鐘的話，引起某些人的不滿，對我進行文字「圍剿」。我對這件事的看法是：「不要去管它，那是小事體，小事體。我挨了40年的罵，從來不生氣，並且歡迎之至，因為這是代表了自由中國言論自由和思想自由。」說到這裏，他的情緒有些激動。緊接着他強調說：「海外回國的各位：自由中國，的確有言論和思想自由。各位可以參觀立法院、監察院、省議會。立法院新建了一座會場，在那兒，委員們發表意見，批評政府，充分的表現了自由中國的言論自由。監察院在那個破房子裏，一群老先生老小姐聚在一起討論批評，非常自由。還有省議會，還有台灣二百多種雜誌，大家也可以看看。從這些雜誌上表示了我們言論的自由。」(《胡適之先生晚年談話錄》第281頁)
說到這裏，他好像感到有些不適，才把話頭打住。
酒會結束後，與會人士也在歡笑中陸續離去。沒想到胡適突然面色大變，他的頭在桌角上撞了一下之後摔倒在地上。在場的人十分驚慌，甚至有些手足無措。這時有人打電話報警，向醫院求救。醫生趕到後雖然實施搶救，但是胡適始終沒有甦醒過來。晚上7點10分前後，他的心臟停止跳動。
第二天一早，胡適的遺體被移入台北極樂殯儀館的靈堂。隨後，王雲五、張群、王世傑、羅家倫、莫德惠等政界要人或生前好友前往殯儀館弔唁。26日，胡適長子胡祖望從美國趕回台北，蔣經國代表蔣介石到殯儀館瞻仰胡適遺容之後，還到福州街慰問胡夫人江冬秀女士，勸她節哀保重。這時，胡適的二兒子胡思杜已於1957年反右運動中在大陸自殺身亡，但他的父母並不知道。
下面是關於胡適去世後的一些報道，從中可以看出巨星殞落、天地同悲的場景：
廿七日是故胡先生移靈極樂殯儀館，設靈供人弔唁的第三天。台北市一直落雨的天氣顯然沒有阻礙了國人對胡先生的崇敬。
廿八日，胡先生前友好和從未晤見過的民眾，仍自朝到晚絡繹不絕地到靈堂，弔唁這位一代哲人。
三月一日廣大民眾的人潮冒雨湧進台北市南京東路的極樂殯儀館，瞻仰一代學人胡先生的遺容。
這個廣大的人群，包括各階層的人士，以及少數的外國友人。估計人數超過三萬人。
一日雖然整天陰雨，並沒有影響這些人對胡適之先生的敬愛與瞻仰他遺容的熱誠。尤其是傍晚時，瞻仰遺容的人們擁塞在靈堂前的竹棚里，一分鐘進入靈堂的達七十人以上。(《紀念胡適之先生專集》第8頁)
大家看到，靈堂大廳的中央懸掛着胡適69歲生日的巨幅照片。遺像上方是蔣介石親筆書寫的「智德兼隆」挽額，兩旁掛着陳誠的輓聯。上聯是「開風氣而為之師，由博涉融合新知，由實驗探求真理」;下聯是「瘁心力以致於學，其節慨永傳寰宇，其行誼足式人群」。胡適躺在佈滿鮮花的靈台上，善良、智慧、和藹、慈祥……，與外面陰沉沉的天氣形成顯明對照。
直到3月2日舉行公祭的時候天氣才由陰轉睛。公祭從上午8點開始，美國、日本、越南、韓國、菲律賓、泰國、土耳其、約旦、秘魯、哥斯達黎加等國都派代表參加。公祭時，許多人悲痛欲絕，泣不成聲。公祭結束以後，大家在胡適的靈柩上覆蓋北京大學的校旗，向南港緩緩駛去，並下葬在中央研究院對面的小山坡上。
2009年，我去台北參加「胡適與近代中國的追尋——紀念五四運動九十周年學術研討會」時，曾拜謁了胡適墓園。我看到在墓碑上鐫刻着這樣的文字：
這個為學術和文化的進步，為思想言論的自由，為民族的尊榮，為人類的幸福而苦心焦慮、敝精勞神以致身死的人，現在在這裏安息了!我們相信形骸終要化滅，陵谷也會變易，但現在墓中這位哲人所給予世界的光明，將永遠存在。
我相信，這些話表達了兩岸民眾的共同心聲和共同願望。
