于是，他要部下把旌旗都砍断，把珍宝埋藏在地下，又扼腕道：“再有几十支箭，足以逃跑了，可现在无武器再战，天一亮就只有束手待擒了。不如各作鸟兽散，还可能有脱身逃回去报告天子的人。”他令将士们每人拿上二升干粮，一大块冰，约定在遮虏鄣会合。

夜半时分，李陵等击鼓突围，但鼓声最终未响，李陵与韩延年一同上马，十多名壮士和他们一道冲出。匈奴派出数千骑兵紧追，韩延年战死，李陵长叹：“我无脸面去见陛下呀！”只得向匈奴投降，他的部下四散逃命，成功逃到边塞的仅有四百余人。

兵败之处，离边塞只有百余里，边塞把情况报告了朝廷，武帝料想李陵已战死，就把他母亲和妻子召来，要相面的人来看，却说他们脸无死丧之色。

后来，得知李陵已降匈奴，武帝大怒，责问陈步乐，陈步乐自杀。文武百官都骂李陵，武帝以李陵之事询问太史令司马迁的意见，司马迁为李陵辩解道：“李陵服侍母亲孝顺，对士卒讲信义，常奋不顾身以赴国家危难。他长期以来养成了国士之风。如今他一次战败，那些为保全身家性命的臣下便攻其一点而不计其余，实在令人痛心！况且李陵提兵不满五千，深入匈奴腹地，搏杀数万之师，敌人被打死打伤无数而自救不暇，又召集能射箭的百姓来一起围攻。他转战千里，矢尽道穷，战士们赤手空拳，顶着敌人的箭雨仍殊死搏斗奋勇杀敌，得到部下以死效命，就是古时的名将也不过如此。他虽身陷重围而战败，但他杀死杀伤敌人的战绩也足以传扬天下。他之所以不死，是想立功赎罪以报效朝廷。”

起初，武帝派李广利率领大军出征，只令李陵协助运输，后来李陵与单于主力战斗，李广利却少有战功。武帝认为司马迁欺骗自己，是想诋毁李广利而为李陵说情，把他投入狱中并施以腐刑。

很久以后，武帝悔悟到李陵是无救援所致，说：“李陵出塞之时，本来诏令强弩都尉（路博德）接应，只因受了这奸诈老将奏书的影响又改变了诏令，才使得李陵全军覆没。”于是，派使者慰问赏赐了李陵的残部。

武帝派因杅将军公孙敖，带兵深入匈奴境内接李陵，公孙敖无功而返后，对武帝说：“听俘虏说，李陵在帮单于练兵以对付汉军，所以我们接不到他。”武帝听到后，便将李陵家处以族刑，他的母亲、兄弟、妻子和孩子都被诛杀，陇西一带士人都以李陵不能死节，而累及家族为耻。

此后，有汉朝使者到匈奴，李陵对使者说：“我为汉朝领步卒五千横扫匈奴，因无救援而败，有什么对不起汉朝，而要杀我全家？”使者说：“陛下听说李少卿在为匈奴练兵。”李陵说：“那是李绪，不是我。”

李绪原为汉朝的塞外都尉，驻守奚侯城，匈奴来攻便投降了，匈奴单于对他优礼有加，坐次在李陵之上。李陵恨他为匈奴练兵而使自己全家被诛，便派人刺杀了李绪，匈奴的大阏氏知道后，要杀掉李陵，单于把他藏到北方，等到大阏氏死后才放回。

单于很看重李陵，把女儿嫁给他，并立他为右校王，立卫律为丁灵王，使他们都成了匈奴掌权的贵族，其中卫律很受单于宠爱，经常侍于左右，而李陵住在外边，遇到大事才被召入计议。

武帝命李广利率七万人，出五原击匈奴，御史大夫商丘成率三万余人出西河，重合侯莽通率四万骑出酒泉千余里。

匈奴狐鹿姑单于听闻汉军重兵压境，将匈奴的辎重尽数徙往郅居水，同时则率精兵在姑且水列阵以待。商丘成向西北方向长驱直入，一直抵达涿邪径，未见匈奴军而返，单于派大将与李陵率三万余骑追击商丘成军，至浚稽山，与商丘成转战九日，汉军攻破匈奴的阵地，杀伤匈奴军很多。战至蒲奴水，匈奴军见战局于己不利，收兵而回。

武帝去世，其子汉昭帝即位，由大将军霍光、左将军上官桀等辅政，他们一向与李陵很好，就派李陵过去的好友、陇西人任立政等三人，去匈奴招李陵归汉。

任立政等到匈奴后，单于置酒款待，李陵、卫律都在座。他们虽见到了李陵，但不能私下交谈，便用目光向李陵示意，又几次把佩刀上的环弄掉，趁捡环时握住李陵的脚，暗示他可以回汉朝去。此后李陵、卫律准备牛酒慰问汉使，一起博戏畅饮，他们都穿着匈奴的服装，蓄着匈奴发式。

这时，任立政大声说：“汉朝已宣布大赦，国内安乐，陛下年少，由霍光、上官桀辅政。”他想用这些话使李陵动心，谁想李陵沉默不语，只是不经意地摸着头发说：“我已着胡服。”

过了一会儿，卫律起身更衣，任立政说：“少卿，你受苦了，霍子孟、上官少叔向你问好。”李陵说：“霍公与上官大人可好！”任立政说：“他们请少卿回故乡去，富贵不用担心。”李陵小声对任立政说：“少公，我回去容易，只怕再次蒙受耻辱，无可奈何！”

话未说完，卫律回来了，好像听到了他们最后的话，说：“李少卿贤能之人，大可不必只在一国居住，从前范蠡遍游天下，由余从西戎到秦国，今天还谈什么故国之类。”说罢告辞。

任立政接着对李陵说：“你也有这个意思么？”李陵说：“大丈夫不能反复无常，再次蒙羞。”

后来，李陵在匈奴待了二十多年，病死。