到了苦寒的北海之后苏武依旧坚持着自己的操守，吃野草籽苟活，五六年之后苏武还拥有了一大群羊。在听闻汉武帝去世的消息的时候，苏武还对着南方（长安的方向）痛哭吐血，一连数月每天都要哭武帝之死。武帝之后的汉昭帝还特意询问了单于苏武的下落，单于却欺骗说苏武已经死亡。
之后汉昭帝知道了单于将苏武放逐北海的事情非常愤怒，了勒令匈奴交出苏武。公元前81年在匈奴生活了19年的苏武终于回到了汉朝，官拜典属国，生活了21年之后去世，享年81岁。
曾经有人听闻了苏武吃草子的事迹，疑惑苏武为何不吃羊，史学专家是这么认为的："匈奴人一直在监视苏武，吃了羊就相当于侵害了他们的财产，这样就有了把柄治罪。苏武代表着大汉，肯定不想让匈奴人侮辱他的名节。"
