痛骂杨国忠误国，只恨自己官小职微，不能杀敌报国。
此时接到知府杨万石劝降檄文，如何不气？于是骂走信使，复率县中吏民，大哭于真源玄元皇帝祠，然后出布告，宣布起兵，对抗燕军。
县中百姓鼎沸，一日间响应者便有千余人众。
此时吴王李祗为灵昌太守，河南都知兵马使，统合河南兵马，抗击安禄山叛军。
又有单父县尉贾贲、阆州刺史璇之子等领兵而起，遥尊吴王旗号，对宋州展开反攻。
燕将张通晤孤军无援，遂败走襄邑，被顿丘令卢韺所杀。
贾贲便领兵至于真源县，与张巡会合，共得两千余兵，商议恢复中原，先夺雍丘。
当时雍丘县令乃是令狐潮，早举全县投降燕军。
闻张通晤兵败襄邑，遂率兵向东驰援。
军至襄邑之时，方知张通晤已死。
令狐潮遂击败唐军，俘虏百余官兵以归，皆命囚于雍丘。
燕军大将李庭望南来，令狐潮前去朝见，唐军俘虏便趁机越狱，杀守斩关，迎接贾贲、张巡进入雍丘。
其后未久，安禄山攻克潼关，唐明皇玄宗西狩，叛军声势涨天。
唐肃宗至德元年二月，令狐潮又率燕军一万五千，意图夺回雍丘，杀死贾贲、张巡，以报前番夺城之恨，同时为燕国建立战功。
当时雍丘城内，唐军总共不过三千余人。
贾贲闻报，遂请张巡守城，自己奋勇出城交战。
因兵力悬殊不敌，最终兵败而死。
张巡在城上看到，不由目眦尽裂，遂开城来救，驰骑决战。
从早至晚，张巡身上被创无数，但仍奋然力战，直到敌人恐惧而退。
张巡带伤回城，积极整顿防备，全城军民遂推张巡为主将，兼领贾贲所部。
张巡为便于号召诸郡，共抗燕兵，遂自称河南都知兵马使，奉吴王李祗为河南兵马大元帅，自任先锋使之职。
自此张巡便以雍丘为治所基地，指挥带领诸县军民，先后击退燕军多次攻击，累计杀敌近万人，拖住数万燕军在此，使其不能南下半步。
而十数阵下来，城内唐兵也死伤一千余人，损折近半。
令狐潮无计可施，只得退兵。
张巡抗敌事迹终为吴王李祗闻之，于是表奏肃宗，举荐张巡为河南巡院经略，自此名正言顺，可以调动河南诸郡共抗叛军。
但燕军在河北及关东一带势力正盛，唐军勤王之师未集，中原有何兵力调配？说不得只是凭依孤城，独自抗敌而已。
至德二年三月，令狐潮会同燕将李怀仙、杨朝宗、谢元同等，率大兵四万余人蜂拥而来，志在必得，企图一举攻下雍丘。
人上一万，无边无沿。
雍丘吏民闻说令狐潮引四万燕军大举来攻，而城内仅有两千守军，无不大为恐惧。
张巡浑然不惧，乃升厅聚将，当众分析道：敌军主将令狐潮原是本县之主，自然深知我城中虚实。
但亦正因其知我城中虚实，则必有轻我之心，自谓万无一失，不复为备。
而敌军远来，又不复为备，取败之道也。
我可出其不意，趁其立足未稳出城袭之，敌可惊而溃。
乘胜逐而击之，则敌势必折。