汉朝天汉元年，56岁的汉武帝派遣中郎将苏武持节出使匈奴，一去不还，杳无音信。苏武离开汉朝时40岁，在汉朝已经娶妻生子。据东汉史学家班固编写的《汉书》中介绍，苏武到达匈奴后，被匈奴单于扣住，逼他投降。苏武作为大汉使臣，真正做到了"富贵不能淫、威武不能屈"，面对匈奴的威逼利诱，苏武至死不降。
匈奴人没办法，把苏武流放到遥远的北海，所谓北海，就是贝加尔湖附近。苏武在这里面对严寒，只有羊群为伴19年。匈奴人还放话，只有等到公羊产仔的时候，苏武才可以回家。19年的严寒与凄凉，苏武矢志不渝，他的爱国情操被班固写的非常生动。
匈奴单于为何一定要苏武投降呢？因为苏武等人到达匈奴的时候，匈奴有个叫虞常的汉人，打算谋反，恰巧虞常和苏武手下的副使张胜认识，最后虞常谋反失败，匈奴人迁怒汉朝使臣，苏武受到牵连。可惜，在匈奴人的威逼下，副使张胜投降，匈奴单于特别希望正使苏武也投降，苏武宁死不降，甚至以自杀相抗，这才有了接下来的苏武牧羊。
苏武在北海牧羊19年，日子过得非常清苦，《汉书》曰：
廪食不至，掘野鼠去草实而食之……其冬，丁令盗武牛羊，武复穷厄
