在两汉时期，中原政府面对的最大威胁就是北方的匈奴，在汉高祖刘邦在位时期，其就曾经被冒顿单于击败，这也让汉朝政府从一开始在汉匈关系中就处于相对弱势的地位。为了稳定边境的局势，汉朝政府采取了和亲的政策，并取得了一定的效果。
之后冒顿单于去世，其子老上单于即位。当时西汉政府汉文帝在位，其依然延续了之前的和亲政策。而老上单于在接受和亲的同时，依然没有放弃对于西汉边境的骚扰，给西汉政府造成了极大的困扰。由于当时西汉政府还没有足够的实力与匈奴对抗。因此在战略防守的同时只能继续依靠和亲及赠礼的方法来维持和平。
除了对于西汉的骚扰之外，老上单于还向西拓展了匈奴的疆域，击败了大月氏等国家，并扶持乌孙在西域地区的发展，稳固了其面对西汉的右翼防守，并从西域地区获得了大量的财政收入，从而维持了当时匈奴在对外关系中的优势地位。
老上单于对于西域的征伐及其在西域统治地位的建立
匈奴作为中国北方游牧民族的代表，在西汉之前一直是以松散的部落联盟状态存在的。那时的他们虽然也会对中原地区发动进攻，但是进攻的规模十分有限，而中国北方的赵国，燕国等诸侯国都能成功防御其进攻。
不过到了秦朝年间，匈奴内部的形势发生了较大的改变，当时匈奴内部出现了一位强大的首领冒顿，其先后统一了匈奴内部的多个部落，第一次将匈奴人统一了起来，这让他们的实力得到了极大的提升。虽然当时的中原地区也完成了统一，但是西汉帝国刚刚经历了长期的楚汉战争，其元气还没有得到恢复。于是冒顿单于对西汉发起了大规模的进攻。当时汉高祖刘邦决定御驾亲征，却在白登山陷入了匈奴的包围圈，最终艰难逃生。
经此一役，西汉政府首次感受到了匈奴人的强大战斗力，考虑到当时的西汉政府还处于发展期，因此西汉统治者们决定先向匈奴示弱。他们采取了和亲的手段，让汉朝的公主出嫁匈奴，并随行带上大量的礼金，以此来向匈奴求和。当时冒顿单于也接受了这一提议，毕竟当时的匈奴人还是十分传统的游牧民族，他们对于领地的扩张并不是十分重视，只要有足够的礼品就能满足他们的要求，因此在汉高祖在位后期以及吕后在位时期，虽然匈奴人依然会时不时对边境发动进攻，但都是小规模的骚扰，两国还处在相对和平的状态。
不过这样的状态随着冒顿单于的去世发生了一定的改变，在冒顿单于去世之后，其子稽粥单于即位，而在中国的史书中，这位继任者也被成为老上单于，这可能因为其即位的时候年纪已经不小了。
在老上单于即位的时候，匈奴与西汉政府的关系依然维持着相对的和平，当时的西汉统治者汉文帝将主要的精力放在了内部建设上，与此同时在冒顿单于在位的时候，匈奴已经将中国北方的少数民族征服地差不多了，因此当时匈奴的发展环境是十分稳定的。
不过老上单于似乎并不满足于这样的情形，其依然希望通过战争来进一步扩大匈奴的影响范围，并且借此攫取更多的利益。当时除了匈奴之外，最富庶国家就是西汉了，因此其也成为了老上单于的进攻目标。但是在进攻西汉之前，老上单于将自己的目光投向了当时的西域地区。
西域地区在西汉之前和中原政府并没有直接的联系，不过在西汉时期由于匈奴的存在，西域第一次进入了中央政府的视野。当时控制西域就意味着掌控了河西走廊，而这又是当时匈奴的战略要地，因此匈奴希望在进攻西汉之前稳固自己在西域地区的影响力。在老上单于即位的时候，西域最强大的国家是大月氏，为了提升自己在西域地区的影响力，老上单于毫不犹豫地向大月氏发动了进攻。