中共中央监察委员会的诞生有着深刻的历史背景。中国共产党创建之初，就注意到党内监督问题，但当时尚未建立起民主集中制，同时在迅猛发展的革命形势下，比较重视党员发展工作，对党员的质量问题有所忽略。随着党组织的日益壮大，从党的全面建设着想，中央领导人和广大党员都亟盼着解决这个问题。曾出席中共五大的陆定一回忆：在革命受挫的情况下，首先必须纯洁党的队伍，严格党的纪律，加强党的团结，增强党的战斗力。为此，迫切要求成立党的监察机构，用严明的党纪维护党的集中与统一。（参见陆定一：《回忆大革命前后——陆定一谈中共党史》，《中共党史研究》2000年第2期。）
中国共产党自1921年7月成立至1925年的第四次全国代表大会这一段时间，对集体领导、少数服从多数这个问题一直没有很好的认识。党的二大虽然明确提出了“少数服从多数”，但由于受国内条件的限制和国际共运领导体制的影响，这个问题没有引起足够重视。党的一大至四大期间，我们党基本上采取“委员制”的中央级领导方式，赋予委员及委员长以很大的权力。在组织上，中央委员会在大多数情况下只有一个中央委员在工作，其他委员都分派到各地。当时党的总书记陈独秀在右倾思想的影响下，对国民党反动分子妥协退让，给党和革命造成了严重挫折，对大革命的失败负有一定的领导责任。
中国共产党在初创时期，因为人数太少，十分重视党员的发展工作，讲求数量。对于如何搞好监督，党在一大制定的第一个纲领第十条就提出：“工人、农民、士兵和学生的地方组织中党员人数多时，可派他们到其他地区工作，但是一定要受地方执行委员会的严格监督。”（《中国共产党组织史资料》第8卷（上），中共党史出版社2000年版，第2页。）在建党初期，中央和地方没有设置专门的党内监督机构，党内监督权由中央及地方各级执行委员会直接行使，但党内的监督工作一直随着革命形势的发展而有所进行。
中国共产党第一次代表大会之后，党的组织开始蓬勃发展。1925年1月召开的中国共产党第四次代表大会，就如何加强党对日益高涨的国民革命运动的领导，以及在宣传工作、组织工作和群众工作方面如何迎接大革命的高潮等方面进行了讨论。大会决定在全国范围内建立党的组织，加强党的建设，要求必须扩大党员的数量。在五卅运动中，中共党组织有了进一步的发展。到1925年9月，党员人数发展到3164人，不少原来没有党组织的地方建立了党组织。1925年10月，中共中央在北京召开扩大的执行委员会会议，会议指出，对于当前的中国革命，党肩负着有极大历史意义的责任，为此“第一便要扩大自己的党”（《中共中央文件选集》第1册，中共中央党校出版社1982年版，第407页。）。到1926年7月，中共党员发展到18526人。随着1926年7月北伐战争开始，中共党员发展更快。陈独秀于1926年10月17日给各级党组织写了一封公开信，强调扩大党组织的重要性。信中写道：“我们现在已经喊出‘从研究的小团体到群众的政党’这一口号了；可是怎样才能够走到群众的政党呢？党员数量上的增加，乃是第一个重要问题……我们万分不应该把许多革命的工人和农民关在门外，使这些革命分子没有机会得到党的直接训练，而徘徊岐路，以致走到别的党里去。”（《中国共产党组织史资料》第8卷（上），第105页。）由于党中央重视党员的发展工作，至1927年4月底中共五大开会前，党员人数已达到57967人，又比10个月前的18526人翻了一番半。
在党员数量突飞猛进的同时，党员的质量却出现了一些问题。一些党组织在发展党员过程中忽视了对要求入党人员的考察和教育，一些投机分子乘机混入党内，破坏了党在群众中的声望。1926年12月下旬，时任中华全国总工会秘书长的刘少奇，针对当时一些工会组织工会干部的问题，在武汉撰写了《工会基本组织》、《工会代表会》和《工会经济问题》这三篇工会论著，疾呼加强工会组织的纯洁工作。
针对党员质量问题，中共中央于1926年8月发出了《坚决清洗贪污腐化分子》的中央扩大会议通告。这是中国共产党发布的第一个反贪污腐化的文件。通告主要是针对当时少数党员中的“贪官污吏化”倾向发出的，指出：“在这革命潮流仍在高涨的时候，许多投机腐败分子，均会跑到革命的队伍中来，一个革命的党若是容留这些分子在内，必定会使他的党陷入腐化，不特不能执行革命的工作，且将为群众所厌弃。所以应该很坚决的清洗这些不良分子，和这些不良倾向奋斗，才能巩固我们的营垒，才能树立党在群众中的威望。”（《中国共产党组织史资料》第8卷（上），第99—100页。）从通告的字里行间可以看出中国共产党当时对党员质量问题尤其是投机腐败问题的高度重视，敢于揭露并认真坚决加以清除，决不姑息养奸。这个通告不仅深刻分析了贪污腐化分子的危害因素，还表明了中国共产党坚定的斗争立场和方针。此通告发布后，各地加强了对党员的教育，对党组织进行了整顿，有力地推动了大革命的发展。