이렇게 욱일승천하던 흉노의 기세는 한 무제(기원전 141~87)의 대대적인 반격으로 꺾이고 만다. 한나라는 기원전 115~73년 사이 무위, 장액, 주천, 돈황에 이르는 이른바 하서 4군을 획득한다. 흉노는 고비사막 북쪽으로 후퇴한다.
“우리는 기련산을 잃었네. 이제 가축을 먹일 수 없네. 우리는 연지산을 잃었네. 여인들의 얼굴을 물들일 수 없네.”(失我祁連山 使我六畜不蕃息 失我燕支山 使我嫁婦無顔色)
<사기>의 주석서인 ‘색은(索隱)’에 실린 흉노 민요이다. 흉노가 요충지인 기련산(祁連山)과 연지산(燕支山·감숙성 하서주랑)을 잃은 슬픔을 노래한 것이다. 여인들이 얼굴에 찍는 ‘연지’가 바로 여기서 나왔다.
이후 부침을 계속하던 흉노는 한나라의 공격과. 천재지변, 그리고 내분이 이어지면서 쇠퇴일로를 겪는다.
흉노의 서쪽 지방을 지배한 일축왕이 한나라에 투항(기원전 60)한 뒤 동서로 분열된다. 기원후 48년에는 지금의 내몽골과 화북 일부에 사는 남흉노와 외몽골에서 패권을 잡은 북흉노로 나뉜다. 남흉노는 중국의 속국이 됐다. 북흉노는 151년 이후 선비족의 추격 이후 행방이 묘연해진다.
학계에서는 북흉노를 4~5세기 동유럽 석권하고 로마제국의 쇠망에 영향을 끼친 훈족과 결부시키고 있다. 훈족은 375년 발라미르의 지휘 아래 동유럽으로 침입했던 유목민이다. 유럽인들은 공포에 떨었다.
결국 동유럽에 거주하던 게르만 민족의 대이동을 야기시켰고, 로마제국을 흔들었다. 훈족의 침략은 유럽세계를 형성시킨 민족대이동의 발단이 됐다. 볼가강과 판노니아(헝가리) 평원에서 발견되는 흉노식 유물들이 증거자료로 거론된다. 특히 삶고 끓이는 조리용기인 동복(구리로 만든 솥)은 대표적인 흉노식 유물이다.