1921年7月，中国共产党第一次全国代表大会通过的《中国共产党第一个纲领》，第一次对保守党的秘密作出明确规定：“在党处于秘密状态时，党的重要主张和党员身份应保守秘密。”在次年召开的党的二大通过的党史上第一个《中国共产党章程》中再次规定：凡“泄漏本党秘密”的党员，“地方执行委员会必须开除之”。

保守党的秘密关系党的安危。大革命后期，由于叛徒出卖党的核心秘密，使党一度遭受惨痛损失。为提高全党保密意识，1927年8月7日，党中央紧急召开的八七会议通过的《党的组织问题决议案》指出，党在工作中还存在“对于党的秘密工作尤不懂得需要经常地有系统的注意”的缺点，“致常常因一隅之事失败影响到整个党的安全与发展”，因此，“党应严重注意秘密工作”。

会议提出：“任何一个党员，在他被敌人捕去后，不管是有无证据，他对于革命对于党对于无产阶级唯一的忠诚与责任，便是：不供出任何党务，不承认任何关系，不指出任何同志。”

抗日战争爆发后，为适应抗战需要，党中央对保密工作的整体要求作了重大调整，其基本原则即“公开工作与秘密工作相结合”“保密工作与群众工作相结合”。这一时期，党对保守党的秘密的要求更加具有灵活性和现实性。但对党员的保密要求依然十分坚定。1939年1月25日，陈云撰写了《发展党员问题》的讲话提纲，论述了党员入党誓词，其中第三条是“遵守党的纪律，永远不叛党（秘密）”，第六条是“保守党的秘密”。此后，以这一讲话提纲为蓝本，中央组织部颁布了抗日战争时期标准的入党誓词。随着中国共产党正式入党誓词的诞生，保守党的秘密成为党的铁的纪律，延续至今。

在入党宣誓词中强调保守党的秘密，是党进行党员保密纪律教育的重要方式。解放战争时期、新中国成立初期，党曾对入党宣誓词进行两次微调，但保守党的秘密都具有重要地位。以入党宣誓的方式为起点，保守党的秘密逐渐融入到党员的血液之中，成为党员进行工作的基本遵循。

改革开放以来，党的十二大对入党宣誓词作了修改，并首次把包含保守党的秘密的入党誓词写进了党章。新时期党对保密工作非常重视，尤其要求高级干部更要注意保密。1990年12月，中共中央转发《中央保密委员会关于高级干部保守党和国家秘密的规定》，对高级干部保密工作作出了明确规定。至今，保密依然是每一位共产党员必须遵守的基本要求。