刘曜收了羊皇后，随后把晋怀帝和六方玉玺都送到了平阳。晋怀帝被送到平阳后，刘聪任命他为特进、左光禄大夫，封平阿公。
洛阳城破，太子司马诠的弟弟、豫章王司马端一路东奔逃到了仓垣。苟晞带领手下官员拥戴豫章王为皇太子，建立了一个代表朝廷的行政机构-行台。皇太子便宜行事、以朝廷名义，任命苟晞领太子太傅、都督中外诸军、录尚书事，从仓垣移驻蒙城。司徒付袛在河阴也设立了行台；抚军将军、秦王司马业在荀藩等人保护下逃奔许昌；荀藩和其弟荀组和中护军荀崧，华荟和其弟中领军华恒共同推举琅琊王司马睿为盟主，在密县设立行台。
刘聪平定洛阳后，很快就派遣晋南阳王司马模的叛将、平西将军赵染和安西将军刘雅带领两万骑兵进攻长安。河内太守王粲、始安王刘曜统帅大军做他们的后援。赵染在潼关击败了司马模，长驱直入占领下邽。凉州名将北宫纯从长安带领所部投降。汉兵随即包围了长安，司马模出战不利，府库空虚，部下离心，士兵逃散，只好出城投降，后被王粲杀死。关西战后又爆发饥荒，白骨遍野，老百姓活下来的一百人里不到一两个。刘聪让刘曜镇守长安，任命刘曜为车骑大将军、雍州牧，改封为中山王。任命王弥为大将军，封齐公。
再说西晋这边，苟晞被豫章王任命主持行台事务，没有能担负起恢复的重任，反倒骄纵奢侈、苛刻残暴。前辽西太守阎亨多次进谏，苟晞反而把他杀了。从事中郎明预正在病中，坐着车去劝他。苟晞发怒说：“我杀阎亨，关别人什么事？你病着还要坐车来骂我。”明预说：“明公以礼待我，因此我也以礼进我的忠言。您今天生我的气，那也比远近周围的人都生您的气好!夏桀是天子，还因为骄纵残暴而灭亡，更何况明公您这样的臣子呢!希望您暂息雷霆之怒，细思明预之言。”苟晞听不进去，他一意孤行的结果，导致部下都离心离德、怨声载道。又赶上接连遇到了瘟疫和饥荒，境遇每况日下。石勒在阳夏进攻王赞，活捉了他；接着袭击蒙城，生擒苟晞和豫章