从东汉开始，西北边疆的少数民族陆续内迁，匈奴、鲜卑、羌、氐、羯“五胡”和内地交往尤其频繁，由于汉族政权的压迫，至西晋’时，随着八王之乱的爆发，不少内迁民族的上层分子纷纷起兵反晋，建立政权，其中，刘渊、石勒就是靠反晋起家的。
刘渊是匈奴左部帅刘豹之子，曾在洛阳留居。304年，他在左国城(今山西离石)起兵，定都离石，建国号为汉，自称“汉王”，逐步占领了山西的广大地区。
石勒是羯族人，曾在司马颖的旧将公师藩手下任职，司马颖兵败后，石勒率众在河北攻打郡县城邑，召集民众，一度攻下邺城，杀晋将司马腾，后被西晋领将苟唏打败，投奔了刘渊。
八王之乱期间，刘渊、石勒势力迅速发展到山西、河北等地。 308年，刘渊称帝，定都乎阳。
309年春，刘渊接受晋降将朱诞“洛阳城内兵力单薄，空虚易攻”的建议，兵分三路向晋发动进攻：一路由灭金大将军刘景为大都督，朱诞为前锋大都督进攻黎阳；一路派石勒为安东大将军率10万大军进攻巨鹿、常山；一路由王弥、刘聪攻壶关。随后，几路大军分别攻取了黎阳、延津、巨鹿、屯留、长子。是年8月，刘聪大军进攻洛阳，打败晋军北将军曹斌，驻兵宜阳。9月，晋弘农太守垣延假降袭营，刘聪大败，率残兵逃回汉境。
10月，刘渊再派刘聪攻洛，同时命王弥、呼延冀等率精骑步兵为后援。刘聪骑兵很快进抵宜阳，西晋朝内都恐惧万分。惟名将北宫纯沉着应战，率勇士七千余人夜袭汉营，杀死汉将呼延颢，
骇退汉军，刘聪不甘失败，稍加整顿，再攻洛阳，他自率精兵攻宜阳门，令刘濯、王弥、刘景等分别攻上东门、广阳门、大夏门，晋军严阵以待，四方抵御，汉军进攻数日仍毫无进展。
刘聪性急而迷信，留下刘厉、呼延郎等在城郊，自己竟带领千余人奔嵩山求神，妄图求神鬼之赐取下洛阳，不想晋军得知后，秘密从宜阳门出去，杀死呼延郎及汉军万余人，刘厉投水而死。刘聪再次失利退却。
310年10月，汉河内王刘粲及刘濯、王弥又一次进攻洛阳，石勒率2万骑兵助阵，在渑池打败晋军后，刘粲率军从轩辕关南出，先后攻占梁国和陈留、汝阳、颍川各郡。石勒率军从成皋出击，对洛阳形成了包围之势。
京师洛阳在围困之下，粮食军需短缺，司马越急求四方救助，但只有征南将军山简派一部援兵，还被汉军击溃。11月，司马越提出集结兖州、豫州的军队抵御汉军，他率太尉王衍及将兵士4万人，出洛阳，奔许昌，妄图把战场移出洛阳。
311年2月，石勒攻破新蔡，又北上攻克许昌。此时，怀帝恨司马越不听昭令，密诏让败走高平(今山东巨野)的苟唏讨伐司马越，司马越得知，发兵讨苟，苟唏也派骑兵赴洛阳逮捕司马越的同党，3月，司马越忧愤死于项城。其部下何伦、李恽从洛阳逃走。
4月，石勒率军追赶护送司马越灵柩的晋军，在河南鹿邑县境内，和晋军10万人马决战，晋军惨败，王衍等人被活捉。
5月，刘聪再次发兵进攻洛阳，大将军呼延晏和晋军交战12次，晋军阵亡3万余人，呼延晏攻人平昌门后，放火焚烧东阳门和官府房舍。不久，王弥、刘濯、呼延晏等攻克洛阳，进入南宫，怀帝从华林门出逃时被擒，太子司马诠和3万军民全部被杀。汉军挖掘晋朝皇陵，焚烧宫殿，捣毁府庙，繁花似锦的洛阳城化为一片废墟。
313年2月，刘聪在平阳处死了怀帝司马炽。4月，司马邺即位于长安，是为晋愍帝。316年，刘濯兵逼长安，司马螂出降，西晋灭亡。
