至德元年(756)正月初一，安禄山暗中唆使洛阳耆老、僧道，搞了一场假劝进之后，遂粉墨登场，登上宝位，自称大燕皇帝，改元圣武，并任命达奚珣为侍中，张通儒为中书令，高尚、严庄为中书侍郎，组成了伪朝廷。
安禄山称帝之时，原济南太守李随进至睢阳。玄宗为了加强东南部的抗敌斗争，任命李随为河南节度使，前高要尉许远为睢阳太守兼防御使。濮阳客尚衡也自动组织起来，起兵讨伐安禄山，任命同郡人王栖曜为衙前总管，并攻破了济阴城(今山东定陶西),杀死了安禄山部将邢超然。
二月，玄宗又任命吴王李祗为灵昌太守，河南都知兵马使，在河南北部组织官民抗敌，与南部的李随呈掎角之势。这时，贾贲杀死了张通晤之后，进至雍丘(今河南杞县),拥有二千人马。
投降了安禄山的谯郡太守杨万石逼迫真源令张巡为本郡长史，命他西去迎接叛军。张巡到了真源，率吏民到玄元皇帝庙哭祭，决定起兵讨叛，吏民纷纷响应，很快达到数千人。张巡从其中精选了千余人，遂率领着这支队伍去雍丘与贾贲会师。