西漢初期，北方的匈奴不斷侵寇擾邊境，燒殺搶掠，邊境的老百姓飽受其害，朝廷多次派大軍反擊匈奴，直到匈奴向漢朝納貢臣服。
匈奴的單于派使節向漢朝朝貢，希望能藉此加強彼此之間的聯繫。天漢元年（前100年），漢武帝決定派中郎將蘇武為使節向匈奴回禮，並護送匈奴的使節回去。
蘇武手中持著長長的「漢節」（邦國之間互相往來的信物），帶領著由一百多人組成的和平使團，帶著豐厚的禮物，滿載著和平的希望，出使匈奴。
但不幸的是，就在蘇武即將完成出使任務，準備回國時，匈奴內部發生了叛亂。蘇武等人被扣押在匈奴。
單于知道蘇武忠貞愛國，於是想要藉機勸他投降，就派遣衛律等人去遊說，蘇武義正辭嚴地說：如果我忘恩負義，背叛朝廷，就算是活著，也沒有顏面再回到漢朝！說罷，抽出配刀，往自己身上刺了進去。一時間，鮮血噴灑而出，他倒在了一片血泊中。衛律大驚失色，趕緊衝上前去救他，醫治了半天之久他才甦醒過來。
單于看到蘇武的志節這麼高潔，由衷敬佩，就想用高官厚祿來收買他，請他為匈奴效力，但是均被蘇武斷然回絕了。
後來，惱羞成怒的單于把他幽禁到了地牢裡，就是一個露天的大地穴，斷絕提供食品和水，希望這樣可以改變蘇武的信念，逼他投降。
在寒氣逼人的地洞中，身心交瘁的蘇武躺在刺骨的寒冰上，疲憊地昏了過去。不久，難以忍受的飢餓使他甦醒了過來，他爬到雪堆旁，將一把雪塞進了嘴裡。就這樣，渴了，他就吃一把雪，餓了，就嚼身上穿的羊皮襖，冷了，就縮在角裡與皮襖取暖。時間一天天過去，蘇武在地窖裡受盡了折磨。過了好些天，單于見蘇武沒有死掉，以為他一定有神助，否則這要換成別人，不早就死了好幾回了嗎？單于只好把蘇武放出來了。
單于見蘇武仍然沒有屈服的表示，他知道無論軟的，還是硬的，勸說蘇武投降都沒有希望，但越發敬重蘇武的氣節，不忍心殺蘇武，又不想讓他返回自己的國家，於是決定把蘇武流放到北海（西伯利亞的貝加爾湖一帶），讓他去牧羊。
臨行前，單于召見蘇武說：「既然你不投降，那我就讓你去放羊，什麼時候這些羊生了羊羔，我就讓你回到中原。」而單于只送給他幾隻公羊。
蘇武持著漢節，在風雪交加的北海牧羊，唯一與蘇武作伴的，是那根代表漢朝的漢節和幾隻羊。蘇武每天拿著這根漢節放羊，心想總有一天能夠拿著回到自己的國家。渴了，他就吃一把雪，餓了，就挖野草逮兔子，冷了，就與羊取暖。這樣日復一日，年復一年，使節上掛著的旄牛尾裝飾物都掉光了，蘇武的頭髮和鬍鬚也都變花白了。他常常撫摸著它，就像是見到漢王一樣。漢節從來沒有離開過他的手。
蘇武就憑著這股堅忍不拔的毅力，吃著野鼠、啃著野草，艱難地活下去，希望還有那麼一天，能重見曙光，返回大漢的國土。
六年過去了，有一次，單于的弟弟於靬王到北海去打獵，驚奇地發現蘇武居然還活著。在這種嚴酷惡劣的環境中，人怎麼可能活得下去呢？於靬王被他深深地感動了，他默默地送來了一些食物和牲畜，希望能改善他的生活。
但是好景不長，三年之後於靬王過世，而蘇武賴以生存的這些財物卻全部被偷走了。又回覆到從前那種艱苦不堪的日子。
艱辛的日子又過了五年，單于派李陵來勸蘇武投降。李陵是漢朝李廣將軍的孫子，也是一位驍勇善戰的將軍，一次戰敗投降了匈奴。他很敬重蘇武高尚的人格。
李陵懇切地勸蘇武說：單于聽說我與你交情一向深厚，所以派我來勸說足下，願謙誠地相待你。你終究不能回歸本朝了，白白地在荒無人煙的地方受苦，你對漢廷的信義又怎能有所表現呢？我離開長安的時候，你的母親已去世，我送葬到陽陵。你的夫人年紀還輕，聽說已改嫁了，家中只有兩個妹妹，兩個女兒和一個男孩，如今又過了十多年，生死不知。人生像早晨的露水，何必長久地像這樣折磨自己。在這種沒有人煙的不毛之地，有誰見得到你的信和義，忠與貞呢？回到漢朝的希望太遙遠、太渺茫了，你究竟是何苦呢？
蘇武長嘆了一口氣說道：做臣子的忠於他的君王，就如同做兒子的孝順他的父母一樣，是天經地義的事情，兒子為了報答父母，就算是死了都在所不惜，更不要說這樣的一點折磨了。我和父親受封於朝廷，國家曾經給予我們非常優厚的恩寵，朝廷的深恩大德是我報答不盡的。今天就算是為國家犧牲，赴湯蹈火、我都心甘情願，請你不要再勸我了。
李陵聽了之後百感交集，痛哭流涕，他讚美蘇武是一位真正的義士，並對自己的苟且偷生悔恨不已。回去之後，他送來了幾十頭牛羊，希望能改善蘇武的生活。
不久之後，漢武帝駕崩了，當李陵把這個消息告訴他的時候，蘇武滄桑的臉上乍現出深切的痛苦。他面向南方，撲倒跪地，放聲痛哭，鮮血順著嘴角流在了地上。從那以後，他終日悲慟的哭泣，誰都勸他不了。
漢昭帝登位後，匈奴和漢達成和議。漢廷尋求蘇武等人，匈奴撒謊說蘇武已死。後來漢使者又到匈奴，一次夜晚見到了以前的漢使，述說了多年來在匈奴的情況。漢使於是對單于說：「天子在上林苑中射獵，射得一隻大雁，腳上繫著帛書，上面說蘇武等人在北海。」單于十分驚訝，向漢使道歉說：「蘇武等人的確還活著。」
蘇武終於能夠回到故鄉，李陵流著淚，目送他消失在萬里黃沙中。十九年前由一百多人組成的聲勢浩大的使團，現在只剩淒冷的九個人，懷著無盡的傷感，踏上返鄉的道路。
蘇武於漢昭帝始元六年（前81）春回到長安。有感於他的志節，昭帝下令叫蘇武帶一份祭品去拜謁武帝的陵墓和祠廟。任命蘇武做典屬國，俸祿中二千石；賜錢二百萬，官田二頃，住宅一處。後來宣帝封他為「關內侯」。蘇武把財產全部分送給親朋、故舊，自己什麼都沒有留下。他的妻子早已經改嫁，後來兒子因被連坐而死，而他自己也已經白髮蒼蒼了。
蘇武高超的志節得到了天下人對他的敬仰，不但是在漢朝，在匈奴這樣的國家，也贏得了匈奴人的尊敬。
許止淨先生說，蘇武的忠義精神真的是空前絕後、光耀千古。想想看，在冰天雪地的北海中，生活所需要的「衣食住」是一無所有，他怎麼可能活得下去呢？可是憑著對故國的一片赤心，以堅忍不拔的毅力，活了下來，而且是十九年，這豈不就是因為他的忠誠和節義感動了天地，冥冥中自有神助嗎？或者說，這種綿延不絕的力量，正是源於他心中生生不息的浩然正氣。
孔子說：「志士仁人，有殺身以成仁，無求生以害仁」，又說：「使於四方，不辱君命」，這正是蘇武最最真實的寫照。
