1927年4月12日，蒋介石在上海发动反革命政变。“白色恐怖”下，一些信仰、意志不坚定的共产党员纷纷登报退党甚至公然叛变投敌……面对这急剧变化的革命形势，进一步加强党组织建设，保持党的先进和纯洁，建立起一个维护党性党纪的专门机构，已成为紧迫任务。
1927年4月27日至5月9日，中国共产党第五次全国代表大会在武汉召开，大会选举产生了党内维护和执行纪律的专门机关——中央监察委员会。中央监察委员会由10 人组成，主席由王荷波担任。这是党的历史上第一次成立中央党内监督机构。
同年6月，中央政治局通过的《中国共产党第三次修正章程决议案》中，专列了 “监察委员会”一章。该章规定：在全国代表大会、省代表大会上选举中央及省监察委员会。中央及省监察委员必须参加中央及省监察委员会议，只有发言权而无表决权。但中央及省监察委员会之决议，必须得中央或省监察委员之同意，方能生效执行。这是党内第一次建立监察制度。
事实上，从诞生之日起，我们党就把纪律庄严写在自己的旗帜上。一大党纲明确纪律内容，二大党章首设“纪律”专章，最早于1925年在中共广东区委成立地区性监察委员会，这些生动实践都为中央监察委员会的成立奠定了基础。而中央监委的成立，又深刻影响了后来党内监督机构的建设、党内监督工作的开展，在党史上留下了光辉的一页。
