戴。但李存勖称帝后，因为猜忌李嗣源，一直没有重用他，还多次听信伶人的诬告，对李嗣源加以斥责。李嗣源对此十分不满，心中渐渐产生了反叛的念头。
同光四年（926年）正月，后唐的贝州（今河北清河）发生兵变，士兵们因为不满军饷被克扣，杀死了贝州刺史，推举将领赵在礼为领袖，反叛后唐。赵在礼率领叛军攻占了邺都（今河北大名），随后向周围的州县发起进攻，各地百姓纷纷响应，叛军的势力越来越大。
李存勖得知邺都兵变的消息后，十分震惊，他下令让大将元行钦率领大军讨伐赵在礼。但元行钦率领的军队大多是临时拼凑起来的，士兵们士气低落，根本不是叛军的对手，几次进攻都被叛军击退。元行钦无奈，只好向李存勖请求援军。
此时，李存勖身边已经没有多少可用的将领了，他只好任命李嗣源为统帅，率领大军讨伐赵在礼。李嗣源虽然心中不满，但还是接受了任命，率领大军前往邺都。
当李嗣源的大军抵达邺都城外时，他的军队中也发生了兵变。士兵们对李存勖的统治早已不满，他们对李嗣源说：“主上宠信伶人，杀害功臣，克扣军饷，我们就算平定了邺都之乱，也迟早会被主上处死。不如我们跟随将军一起反叛，打进洛阳，另立明君！”
李嗣源本来就有反叛之心，听了士兵们的话后，更是下定了决心。他率领军队进入邺都，与赵在礼的叛军汇合，随后发布檄文，列举李存勖的罪状，号召天下各州郡起兵反叛。
李存勖得知李嗣源反叛的消息后，惊慌失措，他连忙召集大臣们商议对策，大臣们有的主张逃跑，有的主张投降，只有少数将领主张抵抗。李存勖只好亲自率领大军，从洛阳出发，讨伐李嗣源。
但此时的后唐军队已经人心离散，士兵们根本不愿意为李存勖作战。大军出发后，不少士兵纷纷逃跑，有的甚至投靠了李嗣源。李存勖见状，只好下令撤退，返回洛阳。
返回洛阳后，李存勖的处境更加艰难。李嗣源率领的叛军已经逼近洛阳，洛阳城内的士兵也开始哗变，大臣们纷纷逃离，就连他宠信的伶人，也有不少人偷偷投靠了李嗣源。
同光四年（926年）四月初一，洛阳城内的禁军发生哗变，叛军冲进皇宫，四处烧杀抢掠。李存勖得知后，亲自率领侍卫们抵抗。他虽然骁勇依旧，但此时的他已经众叛亲离，身边只有几十名侍卫。
在混乱中，一名叛军士兵向李存勖射出了一支流矢，正好射中了他的胸部。李存勖倒在地上，鲜血直流，他挣扎着对身边的伶人善友说：“快，拿水来！”善友连忙去拿水，但等他回来时，李存勖已经奄奄一息，没过多久就去世了，年仅四十二岁。
李存勖死后，善友害怕叛军会侮辱李存勖的尸体，便找来一些乐器，堆在李存勖的尸体旁，点火将尸体焚烧了。曾经叱咤风云、灭亡后梁、平定前蜀的后唐庄宗，最终尸体还被乐器焚烧，结局凄惨至极。
几天后，李嗣源率领大军进入洛阳，他派人找到了李存勖的骨灰，以皇帝之礼将其安葬在雍陵（今河南新安）。随后，李嗣源在洛阳称帝，史称“后唐明宗”，后唐的历史翻开了新的一页，但李存勖的传奇人生，却永远地落幕了。
《新五代史》中对李存勖评价道：“存勖骁勇绝伦，常冲锋陷阵，出入万众