察哈尔民众抗日同盟军这支抗日军事力量的崛起并不是一蹴而就的，这是中国共产党和国民党将领冯玉祥经过密切接触、达成共识后，经过长时间的酝酿由中国共产党积极协助，冯玉祥出面组织，在日本侵略军大兵压境的关键时刻揭竿而起的，其中的经历曲折而复杂。

冯玉祥自1926年9月17日在绥远五原誓师就任国民军联军总司令一职之后，由于得到了中国共产党和苏联的大力支持，使濒于崩溃的国民军又重振军威，实力迅速扩大。在中国共产党人和苏联顾问团的帮助下，冯玉祥率军进陕西、占河南，势如破竹。国民军成为当时一支声威并重的军事力量。但是，随着国民军实力的壮大，冯玉祥的个人野心也有所膨胀。1927年6月，冯玉祥应蒋介石之邀，赴徐州参加会议，经蒋介石的利诱拉拢，冯玉祥赞同了蒋介石的“宁汉合一”、“清党”反共的主张。此后，冯玉祥解除了苏联顾问乌斯马诺夫的职务，将军中的共产党人刘伯坚、邓小平等“礼送”出境，将在各部工作的共产党员集中到郑州禁闭审查一个月之后，用专车送往其辖区之外的鸡公山，并在全军实行了清党，由此走上了同蒋介石同流合污的反共道路。冯玉祥同蒋介石合作，本意是想在政治上、经济上得到一些好处，进一步扩大自己的实力。但蒋介石拉拢冯玉祥却只不过是利用他，以增加自己与汪精卫讨价还价的筹码；而当宁汉合流，汪精卫走上反共道路，蒋介石的地位得以巩固之后，冯玉祥的利用价值随即失去。此时，蒋介石排除异己的本性便立刻显露出来。他利用整编部队的机会，对冯玉祥的部队大加裁减，使其实力大大减弱。自此，冯玉祥与蒋介石就心存芥蒂，面和心不和了。1930年，冯玉祥联合阎锡山发动了征讨蒋介石的中原大战，但作战期间，其部队被蒋介石拉拢利诱、挑拨离间所瓦解，数十万大军在短短的时间内便四分五裂，导致失败。冯玉祥不得不跑到山西汾阳过起了隐居的生活。

尽管受此严重打击，但冯玉祥仍不甘落寞。由于对以前的行为有所反思，对过去反共的错误有了一定的认识，所以，他再度寻找中共，希望同共产党人重新合作。1931年，他通过其派驻北平的代表赵彦卿与中共华北政治保卫局进行了接触。中共华北政治保卫局即中共中央北方特科，由中共中央特科领导。华北政治保卫局明确向赵彦卿表明，冯玉祥值不值得信任，“得先看一看冯先生的表现才行。”对此冯玉祥说：“我过去不好，是需要有点表现才行。”于是，他接连不断地向中共华北政治保卫局提供了有关情报，其中包括冯玉祥与当时一些反蒋政治势力及与蒋介石的来往信件和密码，以此表达自己与中共合作的诚意。随着双方接触和了解的加深，冯玉祥主动提出与中共华北政治保卫局的负责人见面的要求。

1931年11月，中共华北政治保卫局派萧明为代表，赴山西汾阳与冯玉祥会谈。面谈中，萧明严肃指出他1927年反共的严重错误，强调其今后只有与共产党合作，在共产党的帮助下做抗日工作，才会有出路。冯玉祥则对自己过去的行为作了深刻反省，为自己对共产党人的伤害深感悔恨。双方谈得十分融治。通过这次会谈，冯玉祥进一步坚定了与中共合作的信心。

1932年“一·二八”事变后，冯玉祥在南京多方奔走，呼吁抗战，并向政府提出议案，要求收复失地，支持第十九路军。但冯玉祥的活动和努力，均因蒋介石顽固坚持不抵抗政策而付之东流。为此，冯玉祥愤而离京，在泰山小住一时后，听从中共华北政治保卫局的建议，于1932年10月离泰山移住张家口，开始直接筹划组建抗日武装的活动。

冯玉祥到张家口后，在积极活动的同时，派人到北平与中共华北政治保卫局联系，要求中共派人协助筹划建立抗日武装的工作。为此，中共华北政治保卫局先行派出中共党员张存实、武止戈、许权中等前往张家口协助冯玉祥做发动和组织工作。1933年1月，为领导日益高涨的抗日民主运动和开展兵运工作，中共华北政治保卫局（中共中央北方特科）与中共河北省委商定，派张慕陶（张金刃)、武止戈等人成立中共张家口特别委员会，驻张家口，直属中共华北政治保卫局领导，帮助冯玉祥在张家口组织察哈尔民众抗日同盟军和在该部队开展兵运工作。1933年春，共产党在山西汾阳军校的地下党员赵力钧等也陆续被调到冯玉祥部开展工作。这些派去的共产党员与冯玉祥配合默契，深得冯玉祥的信任，抗日武装的筹建工作也进行得十分顺利。

当时，张家口及周围地区除第二十九军的一个留守团外，还驻有大量从东北及热河溃散而来的部队，主要是东北的冯占海、邓文、李忠义、富春、汲汉东等的抗日义勇军，还有从热河退到察省的汤玉麟的部队及姚景川的热河地方部队，同时，孙殿英的第四十一军也驻在沙城一带。由于这些部队多因溃退而来，尽管人数有十数万人，但互不统属，各行其是，处在一盘散沙的状态。经共产党与冯玉祥多方联络和耐心说服，多数部队表示拥护冯玉祥来领导进行抗日。一些爱国军人和志士得知冯玉祥组建抗日部队，便纷纷来归。原安徽省政府主席方振武率他的旧部鲍刚和张人杰的两个师，挥戈北上张家口。中共内蒙特委书记陈镜湖组织蒙汉抗日同盟军事委员会，号召蒙汉青年参加抗日同盟军。吉鸿昌变卖天津的家产携款到达张家口。冯玉祥在山西省汾阳军校的3000余名师生，在教务长、共产党员尹心田率领下也赶赴张家口，改编为抗日同盟军1个师。曾担任过骑兵师师长的张砺生从南方归来，组建起军队加入抗日同盟军。这样，汇集在冯玉祥抗日麾下的部队已达十万之众，创建抗日军队，树立抗日义旗的时机已经成熟。

1933年5月24日，侵占多伦的日本侵略军及伪军向南推进，占领沽源，察哈尔军事形势进一步恶化。当此之际，汇集张家口的各军各地代表，均感大敌当前，形势危急，应当奋起抗战。经过共产党与冯玉祥、吉鸿昌多次协商，集议公推冯玉祥为总司令，成立察哈尔民众抗日同盟军。

5月26日，张家口召开了有数千名军民参加的察哈尔民众御侮救亡大会。冯玉祥在大会上宣布察哈尔民众抗日同盟军正式成立。同时，民众抗日同盟军在张家口发出布告，表示了收复失地，坚决抗日的决心。

同时，冯玉祥还向全国发出通电，主张联合各党各派各军，动员全国一切力量，一致武装抗日，收复失地。