汉元帝竟宁元年，匈奴呼韩邪单于娶王昭君，从此对汉以婿自居，约束部众，与汉交好。从此数世不见烟火之警。呼韩邪之后数十年，汉匈之间未有大冲突。直到王莽时期。

王莽是极看不起匈奴的，他上台后，就把汉帝赐给呼韩邪单于的金印给收了回来，又要强分匈奴为十五部，各立单于。这时，就引起了匈奴单于的不满了。这个时候是乌珠留若鞮单于在位，经过几十年的休养生息，部落已经渐渐强盛了。于是就公然和中国对抗，北方大受其害。乌珠留单于之后的呼都而尸单于也是一样，率部不断入塞侵扰，北方烽烟四起。

这几十年间，又正是中原内乱，征伐不休，一时之间竟然拿匈奴没办法。光武帝派了无数使者前往匈奴赐下钱物，意图休好，匈奴骄恣蛮横，关系根本就没有得到改善。甚至匈奴扶持了一个伪汉帝，割据数郡。幸好后来事情发生了转机。

这个转机就是匈奴的分裂。匈奴为什么分裂呢，因为之前匈奴都是兄终弟及。这是呼韩邪单于和自己的儿子们约好的。所以从呼都而尸以前六代，都是兄弟相及。到了呼都而尸，他要立自己的儿子做单于，就把兄弟知牙斯给杀了。这下就捅了马蜂窝。前代单于乌珠留的儿子比，当时就说了一句话：“以兄弟言之，右谷蠡王次当立；以子言之，我前单于长子，我当立。”当时呼都而尸单于听了就知道比不服，就派了亲信部众监视比。

后来呼都而尸单于死了，儿子乌达鞮侯立为单于，同年又死了，然后另一个儿子蒲奴继为单于，刚好境内连年旱蝗，赤地千里。乌桓便乘隙来攻。于是匈奴北徒数千里，漠南为之一空。此时比领南边八部，不愿远迁，又怕蒲奴对他下手，索性心一横，自立为呼韩邪单于，率部众就降了汉。这一部人，被称为南匈奴，被安置在河套地区。因为汉人待南匈奴甚厚，南匈奴从此就驻扎边地，巡逻守御，成为我们汉人的打手和卫兵。

到了章帝末年时，北匈奴益形衰弱，南匈奴就想要吞并北匈奴，于是上书汉庭请兵。文书到的时候刚好章帝崩了，和帝继位，窦太后临朝。窦太后就派了自己的哥哥窦宪出兵，大破北匈奴于稽落山，勒石燕然而还。又过了两年，窦宪派左校尉耿夔出兵，又大破北匈奴于金微山。此次出塞五千余里，为有汉以来用兵之最远。从此之后，北匈奴就远引而去，偶然侵犯西域的，都是它的分部，正支北匈奴西入欧洲，就做了后世的匈牙利人。