史思明经此一事，效忠唐室之心更为动摇。此时正好三司处置投敌官吏的文书也传至范阳，分六等定罪，达奚珣等主动投敌、为虎作伥的十八人斩首于市，陈希烈等七人赐死，其余或杖或流放或贬官，只要接受安禄山任命的官员全都惩处。史思明听到这个消息，对部下说“陈希烈等人都是朝廷的大臣，上皇弃之不顾，自幸蜀地，使他们沦落安禄山之手。如今他们仍不能免死，何况我们这些原本就追随安禄山造反的人”部下将领都自危恐惧，劝他拥兵自立。史思明此时已有这样的念头，但苦于没有冠冕堂皇的理由反叛，只得按兵不动见机行事。
没过多久，这个机会便自己送上门来，诱得他顾不上名义脸面公然叛唐了。
史思明降后，叛军仅剩安庆绪一支力量占据相州，与蔡希德等会合后慢慢又扩充到周边七州六十余城。皇帝回京后正式得到太上皇加冕，先后立皇后、太子，处置降官整顿朝政，势力已经稳固，这时终于下定决心要彻底铲除安庆绪。为此皇帝先将亲女宁国公主下嫁回纥可汗，以争取回纥兵力支持；七八月间先后召郭子仪、李光弼入朝，分别加中书令、侍中，商议讨伐安庆绪之事。
九月二十一日，皇帝令朔方节度使郭子仪、淮西节度使鲁炅、兴平节度使李奂、滑濮节度使许叔冀、镇西及北庭节度使李嗣业、郑蔡节度使季广琛和河南节度使崔光远，共七名节度使及平卢兵马使董秦，率领步、骑二十万前往讨伐安庆绪，旋即又命河东节度使李光弼与关内及泽潞节度使王思礼率兵助战。
而安庆绪那边，不仅兵力大不如官军，内部更是一团糟乱。安庆绪此人可说是昏庸无能、鼠目寸光到了极点。他被官军大败逃到相州，刚一安顿下来，立刻就把心思都花在了享乐上。他大兴土木建造宫室，日夜纵酒放歌，醉生梦死，朝政全都扔给高尚和张通儒处理。偏偏这两个人又不和，争权夺势，政令不通纲纪不存。此时安庆绪麾下最有才略的大将当属蔡希德，所部也是最精锐的兵力。此人性格直率，喜好直言，在安庆绪面前揭露高张二人夺权乱政，被高张忌恨，张通儒便进谗言杀了他。蔡希德部下数千人纷纷离军而逃，其他将领也心怀怨怒不愿给安庆绪卖命。安庆绪又命崔乾祐为天下兵马使，总领兵权，但崔乾祐刚愎好杀，治军严酷，兵将离心。
官军一下派出九名节度使、二十余万大军，对付一个只有数万残兵的安庆绪，可说是不在话下。十月初，郭子仪先引兵自卫州杏园渡过黄河，于获嘉破叛将安太清。安太清走保卫州，郭子仪进而包围卫州城。鲁炅、季广琛、崔光远分别从阳武、酸枣渡河，与李嗣业所部一起，到卫州和郭子仪会师。
卫州紧邻相州之南，相距仅一百五十里，安庆绪岂能让卫州失落。于是发全部兵力六万，分为三军，崔乾祐率上军，田成嗣率下军，安庆绪自己亲自率领中军，前往卫州救安太清。两军交战，郭子仪来了一招以彼之道还施彼身，学叛军常用的请君入瓮之计，先佯装退却，引叛军来到弓箭手埋伏的军垒之下，伏兵起而射之，箭如雨下，杀得叛军大败。郭子仪俘获了安庆绪的亲弟安庆和，斩于阵前，士气大振，遂攻下卫州。
安庆绪连连败退，郭子仪等一直追到相州，许叔冀、董秦、王思礼等也相继领军而至。安庆绪兵败如山倒，前后折损三四万兵马，只剩两万多残