前119年，随着西汉冠军侯霍去病“封狼居胥山，禅于姑衍，登临翰海”，持续了四十余年的汉匈大战正式宣告结束，汉朝最终击溃了曾经不可一世的匈奴，成为了亚洲的唯一霸主，而被击败的匈奴彻底走向了衰落，不复往日的荣耀，无力再与汉朝为敌。此后，被汉朝赶出漠北的匈奴远遁西北，至前58年，在西汉与西域乌孙国的联合打击下，匈奴分裂成五部，各为其主，相互攻伐。

这一年，匈奴相继出现韩邪单于（虚闾权渠单于之子稽侯栅）、屠耆单于（日逐王薄胥堂）、呼揭单于（呼揭王）、车犁单于（右奥鞮王）、乌籍单于（乌籍都尉）等五位单于，陷入了五单于争位的混战阶段。而后，经过数年的混战，最终发展为呼韩邪单于与郅支单于（呼韩邪兄呼屠吾斯）两派之间的相互攻伐。

前54年，郅支单于率军击败呼韩邪单于。前53年，呼韩邪单于迫于郅支单于的压力，率部南下，依附于西汉，史称南匈奴，而郅支单于所部，则史称北匈奴（当然，此时的北匈奴，非东汉时期的北匈奴）。

前53年至前36年，在这段时间，北匈奴在郅支单于的带领下，是重现了往日强悍的匈奴的一丝荣耀。但是，曾经那么强悍的匈奴都被西汉打的丢盔弃甲，更何况是今时今日的北匈奴呢？前36年，随着北匈奴逐渐的威胁到西汉对于西域的控制，西域都护骑副都尉陈汤矫诏发西域城郭诸国兵及汉屯田吏卒4万余人，分六队击郅支单于，最终郅支单于重视而死，北匈奴遂亡。

数年后，依附于西汉的南匈奴首领呼韩邪单于见北匈奴被灭，漠北已无威胁自己的力量，于是并重新率领着南匈奴回到了漠北。

就这样，到了东汉时期。

46年，匈奴虽甚少再遭受到东汉的军事压迫，但其国内却是受到了自然灾害与贵族内讧的双重压迫。这一年，匈奴境内先是自然灾害频发，连年不绝的干旱和蝗灾，致使是赤地千里，草木尽枯，再加上瘟疫流行，人畜饥疫，是死亡大半。而后其上层统治阶级为了争夺单于之位，更是分为两派，相互间争斗不休，百姓苦不堪言。最终，在各种诱因呼促使下，匈奴又再次分裂成南北匈奴，南匈奴以呼韩邪单于之孙日逐王比为尊，北匈奴则以蒲奴单于为尊。

而其归宿，同西汉时期的南北匈奴是如出一辙，前期，南匈奴不敌北匈奴，只得是选择继续依附东汉，被安置在河套地区，而北匈奴则是继续选择对抗汉朝，盘踞在漠北地区。

此时留居漠北的北匈奴，因力量的削弱，不似鼎盛时期的匈奴，且其首领蒲奴单于也非雄主，再加上这时其盘踞之地又是天灾横行，而后周边乌桓、鲜卑等部族又接连崛起，这是的北匈奴日子可谓是十分不好过。简单的说，这时的北匈奴早就不复西汉时期的北匈奴那般的强悍，此时的它虽尚有力量，但也只是一个快走向迟暮之年的中老年。

因此，此时的北匈奴为了生存，不得已只能是在44年，遣使前往渔阳会见汉朝官吏，请求与东汉和亲，希望利用和亲来缓解自己的压力，同时挑拨东汉与南匈奴的关系。但是，英明神武的刘秀岂能不知，他断然拒绝了北匈奴和亲的要求，只答应与北匈奴互市。此后，北匈奴见东汉居然如此果断的拒绝自己的和亲请求，顿感脸上无光，因此在随后的数十年时间里，一有机会，就袭扰东汉渔阳至河西走廊北部边塞。

而最初，东汉因忙于稳固自身的统治，及恢复民生，其对于北匈奴的骚扰，多是秉持着防御的态势。但是，随着东汉的天下越发的稳固，经济越发的繁荣，一场针对北匈奴的大汉也就徐徐拉开。

73年，东汉正式对北匈奴宣战，东汉联合属国南匈奴、卢水羌胡、乌桓、鲜卑共数万人，分4路出击伐北匈奴，北匈奴呼衍王部大败，死伤千余人，并占伊吾卢城，置宜禾都尉。次年，窦固兵伐天山，在蒲类海击破北匈奴白山部，复置西域都护。75年，东汉大将窦固、耿恭率军击败北匈奴呼衍王和左鹿蠡王部，占车师。

随后，在东汉与南匈奴等国的联合打击下，北匈奴日益衰落，部分北匈奴人为了生存，开始南下附汉，北匈奴的处境越发堪忧。87年，随着北匈奴优留单于被鲜卑所杀，北匈奴开始大乱，其实力加剧衰落。89年，东汉大将窦宪、耿秉联合南匈奴，与稽落山大败北匈奴，俘杀一万三千余人，二十余万北匈奴归附。91年，耿夔率领汉军出击金微山，大败北匈奴军，北匈奴被迫西迁，远离故土，西逃乌孙与康居。

本该，随着北匈奴的西迁，北匈奴雄据漠北的历史也该结束，但是，一场变故，却让北匈奴重新焕发了近半个世纪的生机。

94年，南匈奴亭独尸逐侯鞮继承单于位，对于这位单于，北匈奴可谓是极度仇恨，因他经常率军与汉军联合进攻北匈奴，残杀北匈奴百姓，因此对于他的继位，归降于东汉、南匈奴的原北匈奴百姓自然是不服的。于是，这一年，归降的北匈奴十五部二十几万人皆叛变，拥立前单于屯屠何之子奥鞬日逐王逢侯为单于。自此，匈奴再次分裂为南北匈奴。

同年，东汉闻北匈奴叛变，遂派遣派遗大军以及属国乌桓、鲜卑兵共四万人出兵击敌，逢侯单于不敌大败。但是，因汉军疏忽，致使逢侯得以率残部出塞，汉军放虎归山。107年，逢侯单于趁东汉放弃西域之际，趁机控制西域，并胁迫西域诸国共同骚扰东汉边疆数十年，直到118年，逢侯被鲜卑击败。

119年，在逢侯归降东汉后，呼衍王异军突起，掌控残余的北匈奴。而后，在他的带领下，北匈奴攻陷了伊吾，势力一时有了复兴的迹象。不过，因班固的存在，此时的北匈奴并未对东汉边疆造成多大的威胁。但是，因呼衍王的存在，再加上东汉的国力开始衰退，不得已东汉只得是彻底的退出西域，将西域拱手让于他人。

再之后，史书对于北匈奴的记载戛然而止。据现如今的考证，留据漠北的北匈奴可能与拓跋鲜卑融合，而西迁的北匈奴则有可能到了顿河、多瑙河流域，并以南俄罗斯大草原为基地，对罗马帝国发动战争，最终导致罗马帝国灭亡。