由于1960年底国家面临经济困难时期，根据中央精简机构的指示，农业部决定将原属中国农业科学院建制的部分研究所下放归所在省、市、自治区直接领导。当时根据1960年12月发出的（60）党发第210号文关于下放大豆等十一个所在省建制和直接领导的决定的精神，蔬菜所以整建制完全下放到北京市由北京市农业科学院领导。
1960年后，所内结构设置有行政办公室、技术办公室、品种研究室、栽培研究室、植保研究室、生理研究室和试验农场。朱明凯任副所长。 1962年党中央、国务院根据国家科委农业组扩大会议呈报的《关于大力加强农业科技工作促进生产的若干紧急建议》，发出了[62]519号文《关于充实和调整农业科学研究机构的通知》，根据形势发展需要，1962年8月本所下放到北京市的原华北所12名科技人员从北京市彰化村迁回中国农业科学院，并于1962年12月经农业部（62）农原震字第41号文批准蔬菜所正式归回中国农业科学院建制，重新成为中国农业科学院的一个直属研究所。所址设在中国农业科学院内前植物检疫室旧址。1962年至1965年，研究所有很大发展，职工队伍人数逐年增长，尤以1963年增长最多。1962年底，全所职工仅28人，1963年增加45人，1964年增加21人，1965年增加11人，截至1965年统计，全所职工已达到105人。
未任命所长，由朱明凯和张继增任副所长，朱明凯主持工作，1966年5月又任命陈静夫为副所长。该所机构设4室1组。由行政办公室总管全所人事、党务、文书、基建和总务以及科研业务；由育种研究室、栽培贮藏研究室、植保研究室和生理生化研究组开展有关科学研究。
1966年5月文化大革命开始，1967年1月后，所领导机构被群众组织代替。 1970年8月中国农业科学院进行体制改革，并精简机构。同年11月执行农林部（据农业部档案1970～1970.7至1979.1中央农业部撤销，成立农林部下同）（70）农林办字第11号文，蔬菜所再次以整制下放北京市，并经北京市革委会研究决定与北京市农业科学研究所蔬菜研究室合并（注：1962年7月北京市农业科学院建制撤销，成立北京市农科所）。当时中国农业科学院蔬菜所下放人员共80人。下放前期仍维持蔬菜研究室的建制，隶属北京市农科所领导，并开始恢复科研工作。研究室临时负责人为李树德（主管业务）和王勇、张立志、徐玲珍（主管政工）。1973年成立室领导小组，成员有马熙彩、张光荣、李树德、陈杭和陈淑英。1975年3月北京市革委会批准恢复北京市农林科学院建制，同时也恢复了蔬菜研究所的建制。所址位于双清路原北京林学院内森工楼。所领导成员有贾俊林、朱明凯、李树德、陈杭。
机构设置：办公室、政工组、科研生产组、资料组以及引种及品种资源室、育种及良种繁育室、栽培室及农村基点组和实验室。 1976年10月党中央一举粉碎了四人帮，长达10年之久的文化大革命即告结束，蔬菜所也在整顿、调整中逐步恢复业务工作。
1978年2月农林部、国家物资总局、财政部联合发出（78）农林（科）字第15号、（78）物计字第47号、（78）财农字第9号文关于加强农林科教工作和调整农林科教体制的函，决定将原下放北京市的中国农业科学院蔬菜所归回中国农业科学院（注：1970年8月～1978年2月中国农业科学院建制撤销，成立中国农林科学院）。由此，蔬菜所恢复原建制，成为中国农业科学院的一个直属研究所。所址开始仍在林学院，1980年迁至中国农业科学院东门外。
1978年12月党的十一届三中全会胜利召开，开始了拨乱反正的进程，决定将工作的重点转移到社会主义经济建设上来。随着党和国家对科学事业的重视和关怀，对知识分子政策的落实，蔬菜所的科技队伍不断壮大。1978年从北京市回中国农业科学院时该所共有职工73人，1981年6月发展至182人，1987年12月增加达240人。
1979年4月任命朱明凯为所长，曹维政、李树德、张纪增、刘红、朱德蔚为副所长。1979年8月任命宋法明为副所长。1983年2月任命李树德为所长。1984年12月任命王德槟为副所长。1985年3月任命赵清源为副所长。
机构设置：领导机构设党委会、所务会；管理机构设党委办公室、人事处、科研处、行政处办公室；研究室设品种资源研究室、育种研究室、栽培研究室、植物保护研究室、中心实验室和情报资料室；学术评议和科研工作决策、咨询机构是学术委员会。 1987年12月3日，根据国家科委（87）国科发综字0806号，农牧渔业部（1987）农（人）农函字第17号批文关于同意中国农业科学院蔬菜所更名的复函，中国农业科学院蔬菜研究所更名为中国农业科学院蔬菜花卉研究所，原隶属关系不变，除承担原有蔬菜研究任务外，还承担花卉研究工作。
蔬菜所自更名为蔬菜花卉所以来，科研、开发、精神文明建设逐年稳步发展。1997年12月，全所职工为223人。
1987年李树德仍为所长。1988年5月任命朱德蔚为所长，赵清源、方智远为副所长。1991年1月任命张松林为副所长。1995年2月任命方智远为所长，张松林、蒋淑芝为副所长。1997年3月任命屈冬玉为副所长。
机构设置：领导机构设党委会、所务会；管理机构设党办和人事处、科研处、行政处、科技开发咨询服务部（1996年后改为科技成果开发处）、温室农场管理处；研究室设蔬菜遗传资源研究室、蔬菜遗传育种室、蔬菜栽培和储藏加工研究室（1996年后称蔬菜栽培及采后技术研究室）、植物保护研究室、花卉研究室、生理生化实验室和文献信息编辑室；学术评议和科研工作决策、咨询机构是学术委员会。
2000年11月任命屈冬玉为蔬菜花卉所所长，蒋淑芝为所党委书记兼副所长，杜永臣、孙日飞为副所长。
2001年为适应农业科技发展的需要，对该所研究室的设置进行了调整，按学科分为：生物技术研究室、种质资源研究室、十字花科育种研究室、茄科育种研究室、葫芦科育种研究室、栽培与采后技术研究室、植物保护研究室、花卉研究室。
2002年12月任命杜永臣为所长兼党委副书记。
2003年10月，对该所的管理及服务机构进行了整合，调整后的机构设置为：科研处、综合处、财务处和服务中心 。
