战役打响后，李陵主动要求率领五千步卒，出居延海，向北深入单于王庭，三十天后，李陵部队与匈奴八万铁骑相遇于浚稽山。李陵屯兵两山之间，下令以大车结为军营，出战时“前行持戟盾，后行持弓弩”，当匈奴军逼近时，“千弩俱发，应弦而倒”。获得首战胜利。匈奴调集援军，连续进攻，李陵以“连弩”射单于，使单于差点中箭。以一当十，连战连捷，十天之内共斩杀匈奴骑兵一万余人。按照事先的部署，他且战且退，一路将匈奴单于引向正南方的汉匈边界，在那里，将军路博德负责率军接应。
但是就在距离汉朝边塞遮虏障仅剩下一百多里的时候，汉军被匈奴阻断退路，弹尽粮绝，最后匈奴将汉军围困于山谷，万箭齐发，而汉军矢尽粮绝，只剩随身携带的短刀、车辐做武器的，无法有效还击。而就在此时，李陵苦等的援军却一直迟迟不至，眼看苦守无望，李陵只能选择绝死突围。
当时李陵仰天长叹约“复得数十矢，足以脱矣”，可惜上天没有给李陵翻盘的机会。子夜时分，李陵率领十几名壮士突围，被匈奴发现，数千名骑兵衔尾追击。突围战中，只有十几个人跟随，李陵的副将韩延年战死，最后关头，李陵大呼曰，“无面目报陛下!”于是放下武器投降了匈奴。
可以说，在前汉对抗匈奴的历史上，李陵以五千军士力抗匈奴八万骁勇之敌，坚持十余日，不可谓非奇迹，不可谓不尽力，然而李陵却最终没有实现其“吾不死，非壮士也”的诺言。
虽然浚稽山一役证明了李陵的军事才能，而最终的结局，却使他背上了“汉奸”的骂名。
得知李陵战败投降后，汉武帝大怒。群臣皆言李陵有罪，只有司马迁言道“陵事亲孝，与士信，常奋不顾身以殉国家之急。其素所畜积也，有国士之风。今举事一不幸，全躯保妻子之臣随而媒其短，诚可痛也！且陵提步卒不满五千，深輮戎马之地，抑数万之师，虏救死扶伤不暇，悉举引弓之民共攻围之。转斗千里，矢尽道穷，士张空拳，冒白刃，北首争死敌，得人之死力，虽古名将不过也。身虽陷败，然其所摧败亦足暴于天下。彼之不死，宜欲得当以报汉也。”
当然，盛怒之下的汉武帝可不管这些，将司马迁打入大牢，随后处以腐刑，又令“族陵家，母弟妻子皆伏诛。”汉武帝如此愤怒是有原因的，在他的眼中，李陵身上背负着原罪，这个原罪就是李陵的祖父李广。
汉武帝的父亲汉景帝时期，发生了著名的吴楚七国之乱，李广时任骁骑都尉，奉命跟随太尉周亚夫出兵平叛。为了嘉奖李广在梁国保卫战中的英勇表现，梁王刘武授予了李广将军的军衔。李广毕竟政治经验不足，以为梁王贵为汉景帝的亲弟弟，大汉和梁国不都是一家人嘛，于是愉快地接受了这一封赏。可是李广没想到梁王这一封赏乃是私下授受，以汉朝的将领身份去接受属国的军职，是僭越之举，更何况，汉景帝还曾想过传位于梁王!
自此之后，汉武帝对李广就有了芥蒂，元狩四年，卫青和霍去病统率大军出征匈奴，战事不利，卫青把责任推到了李广身上，李广愤而引刀自刎。此后，李广的儿子，也就是李陵的叔叔李敢又因击伤了卫青，被霍去病射死。
汉初的皇帝对功臣一向是很刻薄的，特别是刘邦为后世子孙做足了典范李家战功赫赫，却敌不过外戚的挤兑，因此李陵心里一直憋了一口气，急于立功，重振家风。汉武帝对李陵的心思极为不满，想给这个年轻人一点颜色看看，于是，在这场讨伐匈奴的战役中，汉武帝使出四招，步步紧逼，并最终把李陵逼上了绝路。
第一招，激将，汉武帝故意安排李陵给同为外戚的李广利当手下，李陵自然不愿意。为了证明自己，他向汉武帝请战，孤军深入匈奴王庭。汉武帝说“将恶相属邪！吾发军多，毋骑予女”，意思是我不会给你配备骑兵，哪怕一骑一马，李陵就说“无所事骑，臣愿以少击众，步兵五千人涉单于庭”，意思就是我不需要骑兵。李陵此举早已有张狂轻视对手的意思，然而面对李陵的冲动行为，雄才大略的汉武帝非但没有阻止，反而对路博德撒谎说本来想为李陵配备骑兵，李陵却拒绝了，汉武帝这么做，无疑是把李陵及其五千步卒拱手送给单于屠戮。
第二招，不援，如果把这五千步卒作为诱饵，在自己的大后方埋伏下精锐部队，将对方引诱进自己的包围圈，聚歼对方的主力，那么这种军事战略当然非常合理。可是预定的援军没有出现，主将路博德无疑该被送上廷尉受审。蹊跷的是，汉武帝非但没有治路博德的罪，相反，还在第二年再次派路博德出征匈奴，要他联络李陵里应外合，功成后接李陵回朝。汉武帝自己曾说路博德没有救援李陵是“老将**诈”，而他却仍然派这个“奸诈”之人去接李陵，可见不是“老将**诈”，而是皇帝本人“**诈”。
第三招，陷害，汉武帝派去接李陵的大将经过了精心挑选，除了李陵的两个死敌李广利和路博德之外，还有公孙敖。公孙敖是依附于李广利的，自然不会对李陵有任何同情之心。果然，公孙敖回师后上书言道“捕得生口，言李陵教单于为兵以备汉军，故臣无所得”，意