直到‘武帝驾崩、昭帝即位后，汉才改善了与匈奴的关系，两国开始外交谈判。但匈奴一直拒绝承认苏武还活着。当时，匈奴的单于已经换了好几茬，两国和议也达成了，为什么还不愿释放苏武?
苏武牧羊的故事令古今各代的中国人感动，苏武不屈的英雄形象也起着对后来很多封建王朝对待北狄蛮族的垂范作用——对单于和酋长们“以礼谕之”、“以节斥乏”，这样的大汉使者们虽然不一定能够完成外交使命，但在声名上总会有加分，至少可以达到立言的效果。
《汉书》里，大汉的使节苏武、张胜、常惠都是好人，而匈奴一边都是恶棍和奸贼。这是后人在读《苏武传》时很容易产生的感情效果。《汉书》的编纂者班固，也正是带着这个目的对有关苏武、匈奴的史料加以处理的。
而事实上，苏武到匈奴出使时，正值汉匈战争最激烈的第一阶段刚刚结束。新即位的匈奴单于想用缓兵之计改善与汉朝的关系，争取时间巩固内部，所以就主动提出双方互相释放扣押在己处的外交使节。当时，汉武帝很痛快地答应了。为什么呢?这里边就有玄机。而且，这个派苏武出使的时机，从后来的结果看，是非常险恶的，也是苏武被扣押在匈奴长达19年的最根本原因。
因为，汉武帝当时正在策划一次对于匈奴的攻击，而且是规模空前的一次攻击，目的就是要把匈奴彻底消灭。
而这次攻击的大背景，则是当时世界上规模最大、持续最久的战争——汉匈百年战争。
匈奴是漠北一个非常古老的民族。在中原的春秋战国时代，匈奴还没有成大气候，与中原国家也没有大的交手记录。那时，北方的晋(后来是赵)、燕等国，主要对手是山戎；西方的泰国，面对的西戎也呈一盘散沙的状态。
秦朝统一天下后，着力扩张，四面出击，其中，对北面用兵最狠。秦始皇派蒙恬带精兵30万，携带当时最先进的复合兵器——弩机，把匈奴的部落驱赶出了其世代栖息的河套一鄂尔多斯一带，并在那里设郡筑城镇守。
失去了水草肥美的家园，匈奴人只好在大草原里漂泊流浪。但到后来，匈奴出现了轻骑兵大军团战术，这种战术的精髓，就是人(智慧)、马(速度)、弓箭(远程杀伤)合一，呈现出强大的机动性和杀伤力。
靠着这一当时世上最强的战术，匈奴的大英雄冒顿单于统一了北方所有的骑射民族，并组建了多达30万的人、马、箭主力兵团。
凭借此，匈奴迅速重新占据了河套故地，并伸出“右臂”，降服了西域各国，将当时占据河西走廊的月氏人赶到中亚养骆驼去了；又伸出“左臂”，消灭东胡，一直打到兴安岭以南。
