后来，匈奴人又分化成南匈匈奴和北匈奴两部分。卫青从此脱颖而出，并逐步成长为北伐匈奴的主帅。东汉派大将军窦宪联合南匈奴和鲜卑联军北伐北匈奴。放手让这两位将领在匈奴草原上对匈奴追亡逐北。这时候匈奴分裂为南北匈奴，南匈奴亲汉，西域各国也被班超收服，为歼灭北匈奴提供了条件，时机已经成熟。
公元207年,曹操花了1000两黄金和一对白璧将远在匈奴的蔡文姬赎回,临走时,就看漫天黄沙,就听见身后不远处,两个孩子哭得非常难过,大喊道："母亲,你真的要抛弃我们,再也不回来了吗?"蔡文姬听见孩子的话,眼泪控制不住地往下流,但她还是狠心地上了马车。
东汉窦宪是怎么一举扫灭北匈奴的？
汉和帝永元元年（公元89年）六月--永元三年（公元91年）二月，东汉窦宪率领汉军与南匈奴联合，经过三个阶段的作战，一举扫灭北匈奴。窦宪简介窦宪(?-92年)，字伯度，扶风郡平陵县(今陕西咸阳市)人。东汉名将、外戚，大司空窦融曾孙。建初二年(77年)，汉章帝册立其妹为皇后，兄弟亲幸，赏赐累积，宠贵日盛。
永元元年(89年)，派人刺杀太后宠臣刘畅，嫁祸于蔡伦。事泄获罪，囚于宫内，请求出击北匈奴，以功赎死。适逢南匈奴单于请兵，遂拜车骑将军，以执金吾耿秉为副将，联合南匈奴、乌桓、羌胡兵马三万人，会师于涿邪山。大败北匈奴于稽洛山(今蒙古国额布根山)，歼敌一万三千，俘虏无数。登上燕然山(今蒙古国杭爱山)，刻石记功，史称燕然勒石，如同霍去病故事。
拜大将军，地位高于三公。燕然山大捷，坚定了消灭北匈奴的决心。永元三年(91年)，再次领兵出塞，攻打金微山(今阿尔泰山)，大破北匈奴主力，俘虏北匈奴太后。军功日隆，权倾朝野，阴存篡位之心。永元四年(92年)，汉和帝得知阴谋后，联合中常侍郑众，逮捕亲信党羽，没收大将军印绶，封为冠军侯，迫令自杀。扫灭匈奴的起因汉和帝即位时年仅十岁，由窦太后执政，自光武中兴以来，东汉的实力也不算太差，所以想完成汉武帝以来，歼灭匈奴未果的战争，恢复汉武帝时期的强盛。
这时候匈奴分裂为南北匈奴，南匈奴亲汉，西域各国也被班超收服，为歼灭北匈奴提供了条件，时机已经成熟。扫灭匈奴的过程东汉以窦宪为主帅，拜车骑将军，执金吾耿秉为副，各率四千骑，联合南匈奴、羌胡、乌桓三万余人出击北匈奴。第一阶段窦宪命令副校尉阎盘、司马耿夔等率精兵一万多，在稽落山(今蒙古境内杭爱山)，与北匈奴作战，在此地大破北匈奴，单于逃走。
窦宪整军追击，直到私渠比鞮海(乌布苏诺尔湖)。此役，共斩杀名王以下将士一万三千多人，俘获马、牛、羊、驼百余万头，来降者八十一部，前后二十多万人。窦宪登上燕然山，在石头上勒铭纪念，史称“燕然勒功”。窦宪一面派司马吴汜、梁讽携带金帛追寻北单于，企图招降他。一面班师回国，驻扎五原。在追寻途中又招降了一万余人，北单于派人到洛阳进贡，但是窦宪认为单于没有亲自来，诚意不够，准备再次北击。
第二阶段和帝永元元年(89年)九月，窦宪被拜为大将军。北单于遣其弟到洛阳入侍，但是汉朝认为北单于不亲自来没有诚意，于是窦宪第二次出击，在和帝永元二年（90年）派遣2000骑兵进击位于伊吾地区的北匈奴军，占领了伊吾地区。第三阶段北单于因为汉王朝遣还他的弟弟，又派车谐储王等人居延塞见窦宪，请求向汉称臣，并想入京朝见。
窦宪上表请示后，派班固、梁讽前往迎接。这时，南单于上书汉廷，建议乘机消灭北单于，然后，南北匈奴合并归汉。汉廷同意，于是，南单于大败北单于，北单于受重伤逃走。班固等人走到私渠海，转头返回。窦宪认为北单于势力微弱，想乘机将其彻底消灭，于是在永元三年(91年)，派右校尉耿夔、司马任尚、赵博等率兵出居延塞，在金微山大破北单于，斩首五千余级，北单于负伤，仅存十余骑，逃亡而去，不知所踪。
南匈奴向汉称臣，匈奴遂平。个人结局窦宪以为有大功于汉，愈加跋扈恣肆。永元四年(92年)，他的党羽邓叠、邓磊、郭举、郭璜也互相勾结，有的还出入后宫，得幸太后，于是欲谋叛逆。汉和帝得知了阴谋后，但无法与外臣接触。素知中常侍钩盾令郑众，谨敏而有心机，不事豪党，于是便招来郑众，定计除灭叛党。考虑到窦宪驻扎在外，怕他兴兵为乱，谋定后忍而未发。
