民国初年，军阀混战。1923年，直系军阀曹锟靠贿选当上大总统。吴佩孚也在加紧练兵，觊觎总统之位。冯玉祥在曹锟、吴佩孚等人阅兵时，命鹿钟麟率部操练大刀，以发泄不满。曹锟只好同意发放枪械，吴佩孚却提醒曹锟要多加防范冯玉祥。孙中山派特使徐谦联络冯玉祥。冯玉祥在徐谦走后为装备部队，不得不向李彦青行贿，才将枪械领回。但随后李彦青又在吴佩孚的指使下对冯部克扣粮饷，冯玉祥无奈之下令士兵劫粮。此后不久，冯玉祥与孙岳、胡景翼秘密结成反吴联盟。10月，张作霖率部进攻山海关，第二次直奉大战爆发。张作霖派人游说冯玉祥，冯玉祥提出了奉军不入关的要求，答应与张作霖联合反吴。随后，吴败逃，曹锟下台，冯玉祥入京后电请孙中山北上主政。但张作霖背弃不入关的诺言，进入津门，并劝段祺瑞出山主政。冯玉祥为救国，毅然亲赴天津。11月21日，孙中山北上，段祺瑞匆忙就任临时执政，并开始倒行逆施，张作霖又在一边步步紧逼，冯玉祥为保大局告别部属，离京而去。
