听到李陵投降的消息，汉武帝很愤怒，他的认为，身为军人只能战死或是自杀，不能投降，于是召君臣议罪。满朝上下皆谄媚武帝而落井下石于李陵，建议从重处置，而只有太史令司马迁为李陵开脱。
司马迁的理由是：一、李陵用5000千对抗数万匈奴骑兵，本来就数量相差悬殊，胜利是运气，失败在意料之中；二、匈奴方面伤亡惨重，李陵虽败犹荣，可将功补过；三、李陵祖先为名将世家，注重气节，投降是不得已而为之的诈降，将来有机会必回报汉朝。
对于李陵的见解，汉武帝勃然大怒，以"非议朝政"处马迁死罪。虽然司马迁被定罪，但不一定必死无疑，因为当时武帝还立有一条规定，即可用钱赎罪。由于司马迁过于清贫，以致于凑不够免罪数额，汉武帝折中处理，免死罪，施宫刑。
