林彪与罗瑞卿长期是上下级关系。罗比林大一岁，但林一直是罗的上级。林任红四军军长时，罗是其手下的第十一师师长。林任红一军团军团长时，罗任军团保卫局长。红军长征到陕北后，林任红军大学校长，罗任教育长。抗日战争和解放战争时期两人没有在一个地区工作。1959年庐山会议后，林彪取代彭德怀任长，原总参谋长黄克诚因被打成“彭德怀反党集团”成员而被免职，经林彪向提名，罗瑞卿由长职位调任总参谋长。
罗瑞卿在家乡与乡亲们交谈
起初，林、罗工作上相处尚可，但从1961年起就有点矛盾。1964年以后，林彪在几个重要问题上逐渐对罗瑞卿心怀不满。1965年秋，林彪对陶铸说：1960年，罗瑞卿对我的合作是好的。但是从1962年起，就开始疏远我、封锁我，到1965年便正式反对我了。
是什么原因导致林彪对罗瑞卿不满呢？林彪垮台后，罗瑞卿曾在一份材料中写道：“那么，在什么一些事情上，我触怒了他呢？因为他总是有什么病，经常不在北京，有些事我就请示办了，或者有什么指示，我就布置执行了。有些重大一点的事情，事后报告了他。有些事当时因为照顾他的病，也没有告诉他，我想，这样办，我在上、组织上都没有错误，因为不仅是党的，而且是党的军委。他对我不经过他就直接向请示决定问题，表示不满，但又说不出口，我是感到了的。”
林彪对罗瑞卿表露出明显的不满，是从1964年的全军大比武开始的。
1964年6月15日和16日，、、刘少奇等检阅北京部队和济南部队的比武表演。对这次比武活动评价很高。但这并不符合林彪“第一”的治军思路。林彪起初采取的是静观的态度。后来觉得有文章可做，就派叶群等人到广州军区当年他参加南昌起义时所在的连队等基层单位搞调查。调查中发现有些单位军事训练占用的时间多了一些，比武中个别单位有锦标主义、形式主义等问题。于是，林彪、叶群抓住这些问题不放，指责大比武是单纯军事观点，冲击了。
罗瑞卿陪同视察海军
罗瑞卿不同意林彪对大比武的批评，他多次提出：“如果单纯把搞好，别的都不好，垮下来，这种恐怕不能算好，是空头，哪里有这种！”“军事训练搞不好，浪费事小，打起仗来就要亡党亡国”。
在大比武这件事上，林彪就认为罗瑞卿不听话，同他有二心，产生了要将罗整下来的想法。
1964年5月，提出培养革命事业接班人的问题，要求每个人都要准备接班人，还要有三线接班人。在贯彻执行指示的过程中，罗瑞卿曾就新老干部交替问题向林彪作过汇报，并曾讲过有些老干部应当主动“让贤”之类的话。一向多疑的林彪听了，认定这是罗瑞卿要他让贤，更坚定了打倒罗瑞卿的决心。
从1965年下半年起，林彪就授意李作鹏等人写揭发罗瑞卿的材料。1965年11月30日，林彪写信给说：“有重要情况需要向你报告，好几个重要的负责同志早就提议我向你报告。我因为怕有碍健康而未报告，现联系才知道杨尚昆的情况，觉得必须向你报告。为了使有时间先看材料起见，现先派叶群呈送材料，并向做初步的口头汇报。如找我面谈，我可以随时到来。”
同一天，叶群坐专机到杭州，单独向作了几个小时的汇报。
在叶群来杭州前几天，罗瑞卿也到了杭州。11月28日，罗瑞卿离开上海去苏州看望林彪，行前将他这一想法报告了。鼓励说：“去看看好，去看看好。”
罗瑞卿与
林彪、叶群的诬告显然产生了作用。12月2日，在兰州军区第55师的一个报告上写了如下一段批示：“那些不相信突出，对突出表示阳奉阴违，而自己另外散布一套折中主义(即机会主义)的人们，大家应当有所警惕。”
12月8日至16日，在上海主持召开扩大会议。叶群在会上分三次作了近十个小时的发言：
“罗长子反对突出，他胡说既要突出，也要突出军事，军事都重要。搞折中主义。”
“翟月英(刘亚楼夫人)对我讲，刘亚楼在病重时要她把罗瑞卿的四条意见转告我叶群。四条意见是：
一、一个人早晚要退出舞台，林总也是要退出舞台的；
二、要我照顾好林总身体，劝林总多管一管的工作；
三、部队的事情让他罗瑞卿负责；
四、这件事办好了，罗瑞卿不会亏待我叶群。
我当时就把她的话顶了回去，没想到后来刘亚楼又找101(林彪代号)当面谈。
“还有一次，罗长子到林总这里汇报工作，林总身体不好，没有听完就让走了。他在走廊里大吵大嚷：‘病号嘛！还管什么事！病号！让贤！不要干扰，不要挡道呢！’这完全是逼林总交权、让位。他这是存心折磨林总，气林总。”
叶群声色俱厉，心情激动，使别人听起来似乎都是真的。
时，罗瑞卿正在云南昆明巡视部队。会议进行到第三天，才通知他来上海出席会议。
罗瑞卿于12月11日下午到达上海，没能住进大多数到会人员住的锦江饭店，而是住到建国西路618号一个小院子里，一进小院实质上就被看管起来了。
当时给罗瑞卿列的“罪状”，概括起来有三条：一是反对林彪，封锁林彪，对林彪搞突然袭击；二是反对突出；三是向党伸手。
林彪在会上宣布：撤销罗瑞卿的各项职务。
12月16日，、向罗瑞卿传达的谈话：“对林彪讲，反对你，还没有反对我呢。就是反对我到长江里游泳，那是一片好意。这是一。第二，说，如果没有这三条，可以把问题先挂起来，中国有很多问题都是挂起来的，挂几百年不行，还可以挂一万年。有什么就检查什么。还说，瑞卿的工作是有成绩的。讲，这个事，我们也有责任，没有发现，及时教育。然后就说，告诉罗总长回北京，回北京再说吧。”由此可见，当时还没有想到完全打倒罗瑞卿。
1964年大比武时罗瑞卿为刘少奇（右）讲解
罗瑞卿听了、的传达后，很想不通，给打电话，要求去见，去见林彪，希望把问题解释清楚。告诉他不能同见面后，罗瑞卿又马上给林彪打电话要求见面。见此情景，感慨地说：“太天真，你太天真了。”
1966 年12 月24 日，罗瑞卿被批斗后，由四个戴着红卫兵袖章的大汉用箩筐抬着，左脚缠着厚厚的绷带。
会后，罗瑞卿即遭隔离审查。随后又成立了一个“工作组”，于1966年的3月4日至4月8日在北京开会，揭发批判罗瑞卿，被指定为会议的主持者之一。会议开始后，就把会议交给彭真一人去主持，自己与李富春等前往西北，视察三线建设。
