1927年蒋介石策划的“四•一二”政变和7月汪精卫宣布“分共”，标志着国共两党合作的破裂和大革命的失败。由于蒋介石对共产党和工农运动的屠杀和镇压，使共产党的组织及工会、农会组织遭到极大破坏，共产党员及工会、农会会员人数急剧下降，共产党的活动被迫转入地下，大规模的工农运动基本趋于停止，革命斗争已处于低潮阶段。

盘踞北方的奉系军阀虽然与以蒋介石为代表的新军阀矛盾重重，但其反共反人民的方针政策却是一致的。张家口在奉军的统治之下，到处笼罩着血腥屠杀的白色恐怖气氛。由于奉系军阀搜捕杀害共产党人，封闭工会、农会组织，使张家口的革命力量受到极大推残。共产党在张家口的领导机关以及部分基层支部先后遭到破坏，所有工会、农会组织均遭查封，一批党的领导干部以及党员、工农运动的领袖和骨干分子被抓捕，有的惨遭杀害。共产党的组织，除铁路个别支部和电灯公司党支部仍在坚持活动外，其余支部或遭敌破坏，或因领导人被捕、转移而消失或停止了活动。原有数百名党员中，有的已随国民军撤走，有的转移他处，有的被敌人逮捕或杀害，也有胆小怕事者不敢再参与革命活动，还有少数人成为可耻的叛徒。这些情况使党员队伍受到极大削弱，公开的、大规模的革命活动难以开展，共产党的各项活动完全处于秘密状态。张家口的革命斗争同全国一样，也处于低潮时期。

1927年下半年，国民党内部争权夺利的争斗越来越激烈，以致相互反目，兵戎相见。10月，国民党内部爆发了第一次战争即宁汉战争，李宗仁、何应钦与汪精卫、唐生智撕破脸皮，打得不可开交。在南方新军阀混战的同时，北方的奉系军阀张作霖和山西军阀阎锡山也因争夺地盘而反目成仇，大动干戈。10月，阎锡山下令向奉军展开全线进攻，两军在京汉、京绥铁路沿线展开了激战。10月3日，晋军击败京绥沿线的奉军。10月5日，晋军第十五师、第五师占领张家口及万全、宣化等地。10月8日，张作霖命令奉军开始反攻。张作相、汤玉麟率奉军第五军团沿京绥路展开攻击。晋军商震部与奉军激战后奉命撤退。10月15日，奉军汤玉麟、高维岳的部队再占张家口。10月底，京绥铁路沿线的晋军重新退回山西境内，战事暂告平息。

1928年2月，国民党召开二届四次全会。会后，蒋介石、冯玉祥、阎锡山、李宗仁四大派系出于对奉军作战的需要而暂时妥协，他们的军队分别编为国民革命军第一、二、三、四集团军，4月进行北伐，开始与奉军争夺地盘。5月，阎锡山的第三集团军左路军张荫梧部向平型关出击，迅速占领浑源、涞源、丰镇等地。25日，第三集团军挺进军总司令傅存怀部占领张家口，奉军高维岳部弃城逃跑。至6月24日，傅存怀部骑兵第七师占领多伦。自此，阎锡山的部队完全控制了察哈尔全境，察哈尔战事旋告结束。

这期间爆发的军阀混战，在一定程度上减轻了军阀对张家口共产党组织的压力。乘此时机，中共顺直省委着手对各地党组织进行整顿、恢复和重建。1927年10月以后，顺直省委先后派人到察哈尔、热河、绥远等地巡视，并指示中共顺直省委第三特支筹建张家口市委。12月，顺直省委在《顺直省委组织问题决议案》中，又督促南口、张家口等地工人党部“皆应重新改组和发展组织”。根据顺直省委的指示，第三特支积极进行张家口市委的筹建工作。1928年1月，经顺直省委批准，中共张家口市委正式成立，书记由陈儒仁担任，李泽、李振庭分别担任组织、宣传部长，郑秀荣为青年委员。市委直属顺直省委领导。下属电灯公司和铁路两个基层支部，共有党员20余名。1928年2月，顺直省委与铁路总工会商议，决定建立中共察哈尔临时省委，设常委5人，管辖口北道、察哈尔及大同一带铁路工会的党组织，机关设在张家口，与张家口市委同属顺直省委领导。稍后，张家口市委根据顺直省委《关于改组各级党部》的第五号通告精神，将张家口市委改为张家口特别委员会。特委由顺直省委指派的张树珊、杨洪涛、李怀才等人组成。但由于多种原因，特委未能有力开展工作，只有李怀才坚持工作了一段时间。特委于6月撤销。

1928年6月初，中共顺直省委在天津召开党委工作整理会议，整顿各地党组织。张家口由中共顺直省委第三特支派杨洪涛、郑秀荣赴天津参加了会议。会上，省委委员王仲一专门听了张家口的情况汇报。省委决定恢复张家口市委，并指示郑秀荣在张家口设置秘密通信联络点，以接受上级党、团组织的信件。根据省委指示张家口市委于当月组建完毕，市委书记陈儒仁，秘书长裴子敬，组织部部长李泽，宣传部部长李振庭，青年委员郑秀荣。8月，郑秀荣因生活腐化，挥霍组织经费和暴露党的机密文件等问题，被开除党籍。9月，顺直省委派吴廷祯到张家口传达省委指示，并对部分市委成员任职作了调整。市委组织部部长李泽改任宣传部部长，宣传部部长李振庭改任组织部部长，吴廷祯任青年委员。同时，根据省委作出的《察哈尔工作暂由张家口市委指挥》的决定，中共察哈尔临时省委撤销。11月，中共中央特派员刘少奇、陈潭秋、韩连惠主持顺直省委工作。他们为了详细了解和掌握张家口的各方面情况，特意召张家口市委书记陈儒仁、宣传部部长李泽到天津汇报工作。12月，省委决定，将张家口、唐山、石家庄等地列为中心区域。至1928年末，张家口市委下属基层支部4个，重新登记的党员30余名。

1929年1月，由于郑秀荣、傅国忠的背叛出卖，张家口市委遭到敌人破坏。市委成员裴子敬、杨会森和蒙委成员杨洪涛、杨凤楼等七八人先后被捕。河北铁路总工会特派员肖明、蒙委书记郑丕烈、复任市委组织部部长的李泽被迫转移至天津。4月，顺直省委指示由常占安、陈儒仁、李振庭等人组织张家口临时市委，常占安任书记。而后又根据顺直省委《关于中心工作及改进各级关系》的12号通告，重新组建张家口中心市委，领导康庄、大同、绥远、包头、平地泉等地党的组织及张家口本地的铁路、电灯公司、电话公司、孤石村东湾子农林试验场等支部。1930年夏，由于在天津的顺直省委与各地党组织秘密联络站被敌侦破，致使张家口市委再次遭敌破坏，市委书记常占安被捕牺牲。不久，省委指示陈廷振、陈儒仁、李振庭等组建张家口市委，陈廷振任市委书记。8月，顺直省委执行李立三“左”倾路线，指示张家口党、团、工会组织合并，并组成了以陈廷振为首的行动委员会。按照省委要求，各地要组织游行集会，举行中心城市暴动，夺取政权。省委的这一体现着“左”倾冒险主义错误的指示，遭到了陈儒仁、李振庭以及铁总特派员张树棠等人的反对，因而陈廷振出走，行动委员会解体。此后，张家口市委未能再行重建，与上级党组织失去了联系。

自1928年1月张家口市委组建以后两年多时间，其斗争对张家口的共产党人来说是极为残酷和严峻的。由于奉系军阀以及后来的国民党新军阀对共产党采取了严酷的镇压措施，仅短短的两年多时间，市委就遭到多次破坏，一些共产党的领导干部和党员先后被捕，其中不少人为张家口的革命事业贡献出宝贵的生命。敌人的镇压虽然疯狂，但是，张家口的共产党人并没有被敌人的嚣张气焰所吓倒。从共产党的组织遭受破坏后又迅速恢复起来，继续坚持斗争的事实中，充分显示了张家口共产党人坚韧不拔、无所畏惧的革命精神和高昂的斗志。张家口的共产党组织在遭受敌人的连续破坏之后力量已经很弱小，但是共产党人深深懂得，只要党的组织存在，就表明张家口依然飘扬着革命的红旗，这就给广大人民群众以无限的希望和巨大的信心。所以，无论斗争如何艰难，环境如何险恶，敌人如何残暴，他们都坚定革命必胜的信念。而正是这一信念，支持着他们百折不挠、顽强不屈地同敌人展开斗争。