1964年8月16日，国防部副部长、空军司令员刘亚楼随李先念副总理出访罗马尼亚。8月31日至9月3日，刘亚楼又率中国代表团出访巴基斯坦。
　　回国后，刘亚楼感觉疲惫，腹泻不止。10月15日，他又抱病率工作组到广东，研究如何打掉入侵的高空无人侦察机的战术。直到11月9日，刘亚楼才到北京协和医院检查。之后，他仍坚持工作。11月22日，刘亚楼向中央军委呈交《关于调查研究对付美制无人驾驶飞机的办法的报告》。
　　11月26日，毛泽东在报告上批示：“亚楼同志：此件已阅，很好。闻你患病，十分挂念。一定要认真休养，听医生的话，不可疏忽。”
　　刘亚楼病情恶化，生命垂危
　　11月27日，空军安排一架专机，将刘亚楼和夫人翟云英，以及保健医生、秘书、警卫人员一起送到上海。上海市委第一书记陈丕显安排刘亚楼住在华山路一座花园小楼里，还派来一位高级厨师。国家卫生部和总后勤部卫生部组成以消化病学专家张孝骞教授为首的医疗组，随后也来到上海。
　　刘亚楼卧病在床仍惦记着工作。1965年1月7日，他在病床上签发《关于再次击落美制无人驾驶飞机向罗总长、杨副总长的报告》。1月9日，他对空军贯彻中央军委有关安全问题的指示提出意见。
　　1月18日，林彪给病中的刘亚楼写信：“亚楼同志：据确实的医生消息，你的病已证明无危险性，因此你可大大放心疗养，定能全好的，但一定要好好疗养一段时间才行。”
　　2月24日，刘亚楼给毛泽东写信报告病情好转。中央警卫局负责人汪东兴回信：“主席听完报告后，很高兴，认为你的病已查出结果，可以进行治疗，并又把我手上的信接过去看了一遍，看完后嘱示：‘有病就要安心休养，不要发急，要待病好再工作，当成任务来执行。’上述的话主席要我转告你……”
　　实际上，专家们想尽了一切办法，但刘亚楼的病情不仅不见好转，反而越来越坏。春节期间，刘亚楼看见空军政委吴法宪陪同总参谋长罗瑞卿来了，出于礼貌勉强坐起来和罗瑞卿说了几句话。在吴法宪看来，刘亚楼面容憔悴，脸色蜡黄，几乎连说话的力气都没有了。即便这样，刘亚楼仍在病床上坚持工作。3月9日，他与各军区空军政委，就干部的团结等问题进行交谈。
　　4月7日，经专家确诊，刘亚楼患的是肝癌，吴法宪将此消息报告林彪和周恩来。林彪命令刘亚楼立即停止工作，接受治疗。周恩来指示：“要尽最大的努力，挽救刘亚楼同志的生命。”吴法宪回忆：“对刘亚楼隐瞒病情是无益的，经大家研究，同意由我直接告诉他，要他立即停止工作，安心休养，进行彻底治疗。”刘亚楼对吴法宪说：“还是你对我坦率和真诚，谢谢你直接告诉了我，这样，我心里就有了底，思想上也好有个准备。”
　　4月中旬，刘亚楼的病情开始恶化。4月23日，周恩来代表党中央和毛泽东到上海探望刘亚楼。极少探视病人的林彪也从苏州赶到上海，直接来到刘亚楼的病床旁，主持刘亚楼的治疗工作。罗荣桓于1963年12月16日病逝，这才一年多的时间，“林罗刘”中的刘亚楼又昏迷不醒。林彪在刘亚楼病床旁坐了50多分钟，不断叹息，而刘亚楼一直没有苏醒。
　　经医生劝告，林彪只得回去了。他没有吃午饭，也没有午睡，一直等着刘亚楼苏醒的消息。两个小时后，听说刘亚楼醒过来，林彪又立刻来到医院，对刘亚楼说：“我刚从毛主席那里来，主席和中央领导同志非常关心你，希望你好好休养，把病养好。”林彪对刘亚楼的保健医生说：“他对空军功劳巨大，要尽量挽救。”
　　1965年5月初，刘亚楼生命垂危。5月3日，总参谋长罗瑞卿、副总参谋长杨成武、空军政委吴法宪飞往上海探望。薄一波、谭震林、叶剑英、陶铸等中央领导同志也都前来探望。这时，刘亚楼开始便血，神志也模糊起来，躺在病床上翻来覆去说：“毛主席重要，101（林彪在东北解放战争时的代号）重要。”第二天，刘亚楼昏迷了，仍断断续续在说这两句话。
　　林彪出任刘亚楼治丧委员会主任委员
　　1965年5月7日15时45分，中共八届中央委员、中华人民共和国国防部副部长、中国人民解放军空军司令员刘亚楼上将在上海华东医院逝世，享年55岁。
　　仅过去一小时，刘亚楼夫人翟云英就收到林彪唁电：“惊悉刘亚楼同志病逝，不胜悲痛。谨致沉痛的哀悼。刘亚楼同志的逝世，是我党我军的重大损失。他的战斗一生和忘我劳动精神，是全军同志的学习榜样。请忍痛节哀，保重身体，努力工作，化悲痛为力量，培养和抚育儿女，为继承刘亚楼同志未竟事业而奋斗。”林彪同时题写“刘亚楼同志永垂不朽”，题词被镌刻在刘亚楼的骨灰盒上。
　　5月8日，《人民日报》第一版发表国防部讣告，并刊登加黑框的刘亚楼大幅照片。中央决定，林彪出任刘亚楼治丧委员会主任委员。
　　5月8日上午，上海龙华殡仪馆的工作人員将刘亚楼遗体抬上“克里斯”遗体接送车，移送到丁香花园小礼堂，陈丕显等上海市领导前来告别。
　　当天下午3时.刘亚楼骨灰由吴法宪等人护送，乘专机从上海运到北京。林彪、彭真、贺龙、聂荣臻、罗瑞卿等人右臂佩戴黑纱.在机场站成一排等候迎灵。他们身后还有周荣鑫、萧劲光、王树声、杨成武、李天佑、王新亭、杨勇、李聚奎、刘震、苏振华、陈士榘、李志民、杨至成、陈锡联、赖传珠、杨得志等二三百人。
　　覆盖着中国共产党党旗的刘亚楼骨灰盒被移置中山公园中山堂。中山堂是党和国家领导人举办葬礼的地方，刘亚楼的葬礼享受中央政治局委员的待遇。
　　从5月9日开始，首都10万军民前来吊唁。中共中央副主席、中华人民共和国主席刘少奇，中共中央副主席、国务院总理周恩来，中共中央副主席、全国人大常委会委员长朱德，中共中央副主席、国务院副总理陈云，中共中央副主席、国务院副总理兼国防部部长林彪，中共中央总书记、国务院副总理邓小平，以及在北京的元帅、副总理，军委各总部、各军兵种的主要负责人，一一在签到簿上签字。据吴法宪回忆：“这本签到簿是党和国家领导人签名最全的一本.这样隆重的追悼会是少有的。”
　　5月11日10时，首都各界2500多人在中山堂举行公祭大会，林彪主祭，刘少奇、周恩来、朱德、邓小平、彭真、贺龙、李先念、康生、罗瑞卿、聂荣臻、郭沫若、徐向前、杨明轩、刘宁一、张治中、叶剑英、傅作义、蔡廷锴、徐冰陪祭。追悼会，除毛泽东外在京的中央领导同志都来了。
　　灵堂正面墙上是刘亚楼遗像.黑底白字的巨幅横联“悼念中国人民的忠诚战士刘亚楼同志”。4名全副武装的士兵护卫着刘亚楼骨灰盒，灵堂内外放满了花圈。中央军委敬赠的挽联是：“国失干城，三军挥泪;功在社稷，百世流芳。”军乐团奏哀乐后，林彪双手捧着一个花圈恭恭敬敬地放到刘亚楼遗像前。中共中央书记处书记、国务院副总理兼中国人民解放军总参谋长罗瑞卿大将在公祭大会上致悼词。
　　公祭大会后，灵车由刘少奇、林彪护送，前往八宝山革命公墓。灵车行进途中，路两旁的军人立正敬礼，这是很少见到的庄重场面。中央和地方媒体都作了大量报道，几乎占据了各大报纸第一版，从宣传力度上说不亚于国葬。