切除有癌的肺葉之後，柯慶施的身體已很虛弱。1965年3月23日前往成都。4月5日清明節，李井泉設宴招待正在成都的朱德、賀龍、柯慶施。席間，柯慶施夫人坐到女賓桌去了。柯慶施大笑：「今天解放了！」本來，柯慶施有病，只能吃清淡飲食，忌油膩。那天，柯慶施盡興而食，臨睡前又吃了一把炒花生米。不久，柯慶施腹痛，清晨六時，病情加重。經過幾天的搶救無效後，柯慶施去世。
1958年，柯慶施陪同劉少奇在安徽農村視察
柯慶施的溘然而逝，對於張春橋來說，憂喜各半：柯慶施一向是張春橋的強有力的支持者。他的死，使張春橋失去了背後的支柱；但是，也正因為失去了柯慶施，江青「建設」上海「基地」，就倚重於張春橋了。於是，張春橋取代了柯慶施，以至後來藉助於「一月革命」成為上海的「第一把手」。
柯慶施的死，非常突然。
1965年4月10日清晨，中央人民廣播電台新聞節目。播音員低沉沉的聲音，在全國成萬上億部收音機里響着：
中國共產黨中央委員會訃告——
中國共產黨中央委員會沉痛地宣告：中國共產黨中央委員會委員、中央政治局委員、國務院副總理、中共中央華東局第一書記、南京軍區第一政治委員、上海市委第一書記、中共上海市市長柯慶施同志患重病治療無效，於1965年4月9日下午六時三十分在成都逝世，享年六十三歲。
在這裏，需要插敘一句的是：1976年10月，在張春橋被逮捕前，他所擔任的職務，竟與柯慶施去世時的職務一模一樣！其中，只是因為「文革」中取消了「中共中央華東局」，故張春橋沒有中共中央華東局第一書記之職；另外，「上海市市長」則改換為「上海市革命委員會主任」，其餘一字不差。正因為這樣，說張春橋取代了柯慶施，這「取代」兩字是非常準確的。
就在中央人民廣播電台播發柯慶施去世消息的當天，《人民日報》頭版，刊登了柯慶施遺照和中共中央訃告。
此後，新華社連日報道為柯慶施舉行的隆重的追悼儀式：
11日中午，一架專機載着柯慶施骨灰盒，由成都飛抵北京。
13日上午，首都各界一萬三千多人在勞動人民文化宮，舉行公祭柯慶施大會。中華人民共和國主席劉少奇主祭。
同日下午，上海萬人追悼柯慶施。大會照片上，最醒目的地位站着當時正在上海的林彪。他脫掉帽子，露出沒有一根頭髮的禿頭。在林彪右首，隔着好幾個人，站着滿臉哀容的張春橋。
同日，華東六省——山東、安徽、江蘇、浙江、江西、福建分別在各自的省會，為柯慶施舉行追悼會，出席者有中共山東省委第一書記譚啟龍、中共安徽省委第一書記李葆華、中共江蘇省委第一書記江渭清、中共浙江省委第一書記江華、中共江西省委第一書記楊尚奎和中共江西省委書記處書記方志純、中共福建省委第一書記葉飛。
可以說，柯慶施的追悼儀式，夠隆重的了。
1965年5月8日，柯慶施之子柯六六在《人民日報》發表了《憶爸爸，學爸爸，做堅強的革命接班人》一文，是當時報刊上唯一透露了柯慶施之死點滴情況的文章：「您這次得病，來勢非常厲害。當您處在昏迷狀態時，說話已很不清楚了，但您還是關心着國家大事，還在斷斷續續地詢問工作情況……」
其實，柯慶施在1964年已發現患肺癌，在上海華東醫院動了手術，切除了有癌的肺葉。不過，當時柯慶施的病作為「絕密」消息，連「柯辦」的幾個工作人員都不知道！
切除肺癌之後，柯慶施的身體已很虛弱。1965年春，嫌上海太冷，他到廣州療養，然後又應中共中央西南局書記李井泉和正在成都休養的賀龍之邀，於3月23日前往成都。
1965年4月5日，正值清明節。中共四川省委李井泉、李大章、廖志高等在晚上設宴招待正在成都的朱德、賀龍、柯慶施。
席間，有人提議，男賓、女賓分桌，夫人們另開一桌。於是，柯慶施夫人於文蘭坐到女賓桌那邊去了。柯慶施大笑：「今天解放了！」本來，柯慶施有病，只能吃清淡飲食，忌油膩，夫人遵醫囑，很注意「管制」他的飲食。那天，柯慶施一「解放」，盡興而食，從晚六時入宴，至晚九時才回招待所臥室。
柯慶施回屋後，看了些文件。臨睡前又吃了一把炒花生米。
夜十二點多，柯慶施腹痛。柯慶施保健醫生胡某馬上前來診治。
凌晨二時多，胡某掛長途電話給上海高幹醫院——華東醫院院長薛邦棋，通報了柯慶施的病情。
清晨六時，因柯慶施病情加重，柯慶施秘書打長途電話給中共上海市委書記處書記陳丕顯，要求火速派上海醫護小組前來診治——雖然四川醫生已守候在柯慶施床前，但柯慶施寧肯相信上海醫生。
當天中午，一架專機載着第一流的上海醫療小組，由中共上海市委書記處書記王一平率隊，飛往成都。
經過幾天的搶救無效，柯慶施於4月9日下午六時三十分去世。
衛生部部長錢信忠和中國醫學院副院長吳階平教授專程從京飛往成都，主持搶救工作。在柯慶施死後，又主持了柯慶施屍體解剖和病症研究。經北京、上海、四川三方醫師共同論定：
柯慶施死於急性出血性胰腺炎。
「文革」中，紅衛兵的傳單說什麼「柯慶施被『走資派』謀害而死」，純屬子虛烏有之談。張春橋曾派專人調查過柯慶施之死，欲加罪於參加搶救的上海醫生，也因查不到任何真憑實據而罷休。
