与此同时，汉朝使臣苏武被扣在匈奴多年，单于欣赏他的气节不想杀他，得知李陵和苏武是旧识，便派李陵前去劝降苏武。苏武坚定拒绝的态度令李陵很惭愧："嗟乎，义士！陵之罪上通于天！"志不同也不好再相见。此后，李陵也只能时不时派人接济苏武。
汉昭帝即位后，匈奴与汉朝言和，苏武被接回汉朝。李陵为苏武饯行时说："今足下还归，扬名于匈奴，功显于汉室，虽古竹帛所载，丹青所画，何以过子卿！陵虽驽怯，令汉室贳陵罪，全其老母，使得奋大辱之积志，庶几乎曹轲之盟，此陵宿昔不之所不忘也。收族陵家，为世大戮，陵尚复何顾乎。"临别后李陵悲歌长啸："径万里兮度沙漠，为君将兮奋匈奴。路穷绝兮矢刃催，士众灭兮名已隤。老母已死，虽欲报恩将安归！"将安归,将安归？归程阻断心已灰。为何五千人对八万人的战场那么激烈却无人增援？为何屠戮他李家满门妇孺不留？到底是天意弄人还是官场斗争？
苏武回汉以后，也曾寄书信劝李陵回归，李陵悲哀地说："远托异国，昔人所悲，望风怀想，能不依依？然陵孤恩，汉亦负德。男儿生以不成名，死则葬蛮夷中。"而辅政大臣霍光、上官桀也都是李陵的故交，他们也希望李陵能够回国，便派了李陵的老友及同乡任立政等前往匈奴接李陵回汉，但被李陵拒绝："吾已胡服矣！丈夫不能再辱！"
