事成之后，李存勖命周德威班师返回晋阳。李克用在临死时李存勖说：“李嗣昭忠孝没有二心，不会负我，但他与周德威有点矛盾，等周德威回来以后，你把我的意思告诉他，希望他和李嗣昭共同破敌。如果这次不能解潞州之围，我死不瞑目！”
在周德威回到晋阳之前，由于他在外面长期掌握兵权，而李存勖又刚刚继位。人们担心他趁机叛乱。周德威赶到后，让军队驻守城外，自己一人骑马进城奔丧。
他伏在李克用的灵柩前恸哭不止，悲痛欲绝。李存勖劝住周德威，又将李克用临终时的话转告于他。周德威更是感动异常，决心不惜死战以报李克用的重望。
李存勖跟将领们商议说：“上党是河东的屏障，没有上党，也就没有河东，朱温怕的只是先王，现在听说我刚刚继位，
一定认为我是个毛头小子不足为虑，也就一定会骄傲懈怠，我们现在应该挑选精锐部队日夜兼程，出其不意。则一定可以打败他们。成就霸业，就在此一举了。”于是率领大军从晋阳出发，前往潞州。
这时梁军因久攻潞州不下，士卒疲惫不堪，将校引兵逃亡者数以万计。朱温怀疑李克用诈死，欲诏大军返还。
908年三月初十，朱温抵达泽州，遣使至潞州与诸将商议进退，诸将皆认为：潞州被困已过一年，粮草无法补充。援兵也已撤离，攻之必克。朱温于是采纳众议，又换匡国节度使刘知俊为潞州行营招讨使，并遣使招降潞州守军。
刘知俊。字希贤，徐州县人，最早在感化节度使时溥手下当小校，因有勇力，甚为时溥器重，但后来又因太有智谋而受到猜忌。大顺二年（891年）。刘知俊怕被时溥所杀，率所部二千人投奔朱温，被任命为军校。
刘知俊披甲上马，轮剑入敌，勇冠诸将，朱温又把左右义胜两军配属给他，任命为左开道指挥使，当时人谓之“刘开道”。
以后，跟随朱温讨伐秦宗权，攻打徐州，都有功劳，补为徐州马步军都指挥使。天复初年，参与消灭平卢节度使王师范，以功授同州匡国节度使。
当时城中弹尽粮绝，但为了迷惑梁军，李嗣昭与部将登城宴饮，并斩杀招降来使，以示拒降。朱温见状，命刘知俊率军攻城，偶获小胜。
刘知俊请求留在潞州，朱温却以为潞州已为自己囊中之物，拿下它是早晚之事，但现在关中空虚，万一李茂贞率军入侵同华一带就不好了，于是命令刘知俊在长子休息十天，然后撤军到晋州驻扎，朱温也随后返回京师，留在夹城的军队也认为胜利在望，便不再设防。
就在梁军自以为胜利在望之际，李存勖率精兵急行军6天，悄然从太原南下奔袭潞州。908年五月初一，李存勖所部潜行至潞州城外三垂岗。
二十年前，李克用破孟方立于邢州之时，还军上党，置酒三垂冈，伶人奏《百年歌》，至于衰老之际，声甚悲，坐上皆凄怆。时李存勖在侧，方五岁，克用慨然捋须，指而笑曰：“吾行老矣，此奇儿也，后二十年，其能代我战于此乎！”
这里的《百年歌》是一首写于魏晋时期的乐府诗。全诗分为十段，以每十年为一段，讲述人生百年。全文为：
一十时：颜如蕣华晔有晖。体如飘风行如飞。娈彼孺子相追随。终朝出游薄暮归。六情逸豫心无违。清酒将炙奈乐何。清酒将炙奈乐何。
二十时：肤体彩泽人理成。美目淑貌灼有荣。被服冠带丽且清。光车骏马游都城。高谈雅步何盈盈。清酒将炙奈乐何。清酒将炙奈乐何。
三十时：行成名立有令闻。力可扛鼎志干云。食如漏巵气如熏。辞家观国综典文。高冠素带焕翩纷。清酒将炙奈乐何。清酒将炙奈乐何。
四十时：体力克壮志方刚。跨州越郡还帝乡。出入承明拥大珰。清酒将炙奈乐何。清酒将炙奈乐何。
五十时：荷旄仗节镇邦家。鼓钟嘈囋赵女歌。罗衣綷粲金翠华。言笑雅舞相经过。清酒将炙奈乐何。清酒将炙奈乐何。
六十时：年亦耆艾业亦隆。骖驾四牡入紫宫。轩冕婀那翠云中。子孙昌盛家道丰。清酒将炙奈乐何。清酒将炙奈乐何。
七十时：精爽颇损膂力愆。清水明镜不欲观。临乐对酒转无欢。揽形修发独长叹。
八十时：明已损目聪去耳。前言往行不复纪。辞官致禄归桑梓。安车驷马入旧里。乐事告终忧事始。
九十时：日告耽瘁月告衰。形体虽是志意非。言多谬误心多悲。子孙朝拜或问谁。指景玩日虑安危。感念平生泪交挥。
百岁时：盈数已登肌内单。四支百节还相患。目若浊镜口垂涎。呼吸嚬蹙反侧难。茵褥滋味不复安。
当年父亲李克用的预言竟然成真，故地重游的李存勖不禁感叹，“此先王置酒处也！”是夜，李存勖全军潜伏于三垂岗，静待至次日凌晨，而梁军并未察觉。
这时天降大雾，李存勖亲率大军在浓雾的掩护下直抵夹寨。梁军麻痹大意，未曾设置岗哨，当时将士们还没有起床，在睡梦中突然遭到攻击，顿时惊慌溃乱。
攻入夹寨后，晋军兵分两路，周德威攻西北角，大太保李嗣源攻东北角，填沟烧寨，擂鼓呐喊。
梁兵大败，向南逃去，大将符道昭坐骑栽倒，被杀。逃失