武德三年（620）四月二十五日，唐军与刘武周集团在河东展开决定性战役。秦王李世民亲率精锐于汾水之畔大破宋金刚部，铁骑所过之处敌军望风披靡。眼见主力溃散，宋金刚仅率轻骑仓皇北遁，其麾下骁将尉迟敬德临危受命，在残军败退之际收拢八千余众，退守河东重镇介休（今山西介休市）。这座扼守雀鼠谷要冲的坚城，就此成为决定河东战局的关键据点。
尉迟敬德本名尉迟融，字敬德，朔州鄯阳（今山西朔州）人，出身鲜卑族军人世家。隋末天下动荡之际，他早年以骁勇闻名乡里，初为隋朝地方军府队正，因善使马槊、精于骑射而崭露头角。
三年前，大业十三年（617年），隋炀帝遇弑后，尉迟敬德投奔马邑豪强刘武周，因其在雁门关保卫战中屡破突厥的勇猛表现，被擢升为偏将。武德二年（619年），刘武周联合突厥大举南下，尉迟敬德作为先锋率精骑三千突袭太原，以夜袭战术击溃唐将李仲文部，三日连破七寨，助刘武周攻占李唐发祥之地太原城。此战中他亲斩唐军骁将张达于阵前，其槊挑敌将铁甲、马踏拒马桩的悍勇之姿令敌军胆寒。
到了次年（620年）春，他率部沿汾水南下，在晋州（今山西临汾）会战中大破唐军独孤怀恩部，生俘唐将秦武通，迫使唐军退守绛州。同年夏，又在浍州（今山西翼城）战役中以五百轻骑迂回敌后，配合宋金刚主力合围唐军，致使唐将裴寂十万大军溃散，创造了以少胜多的经典战例。这些战役不仅巩固了刘武周集团在河东的统治，更直接威胁到关中核心地带，迫使李渊一度考虑放弃河东。
直至（620年）四月，李世民在柏壁之战中击溃宋金刚主力，尉迟敬德方从浍州前线回师救援，退守介休城时仍保有八千精锐，其部队以\"玄甲重骑\"为骨干，成为当时河东地区最具战斗力的残余武装力量。这段经历既展现了尉迟敬德作为乱世名将的崛起轨迹，也为其后来归唐后成为李世民麾下\"玄武门之变\"核心战力的命运埋下伏笔。
李世民面对困守介休的尉迟敬德时，首先在军帐中召集了长孙无忌、房玄龄、杜如晦等心腹谋士。他推开案上地图，指着重兵驻守的介休城道：\"此城依雀鼠谷天险，若强攻必折损精锐。然尉迟敬德非宋金刚之流，观其浍州之战以五百骑破裴寂十万众，此等良将当收为己用。\"
房玄龄立即补充道：\"此人出身寒微却屡建奇功，刘武周大势已去，正是攻心之时。\"
屈突通却拍案反对：\"此獠月前尚在晋州斩我骁将，岂能轻信？当以火弩焚其粮道！\"
李世民听后，摆手制止争论，目光扫过帐中诸将，坚定的说道：\"昔年马援归汉，光武亲解战袍相赠。今我若得敬德，何惧窦建德三十万大军？\"
次日黎明，李世民特召宗室名将任城王李道宗与心腹宇文士及至雀鼠谷前哨。指着介休城上飘扬的\"尉迟\"大纛，李世民解下腰间玉带递予二人，叮嘱道：\"任城王以宗室身份担保其爵禄，士及持我佩剑以示诚意。若其提及晋州杀将旧怨，可如此这般解其心结\"
宇文士及心领神会接道：\"臣必言'当日各为其主，秦王在美良川亦放过寻相部众'。\"
临行前，李世民更密嘱：\"可透露刘武周已向突厥