東晉時(shí)期，國(guó)力衰微，當(dāng)權(quán)者根本無(wú)法組織起像樣的軍事力量來(lái)與胡人抗衡。中原地區(qū)迅速陷落，漢人的百姓被胡人當(dāng)作豬狗一樣被屠殺，苦不堪言，慘不忍睹，在這樣的情況下，乞活軍應(yīng)時(shí)而出。

公元304年，流年不利，并州爆發(fā)了大饑荒，民不聊生，時(shí)任并州刺史的司馬騰無(wú)奈之下，只能組織并州的百姓去往山東等地乞食，這群由士族、官僚、流民混雜在一起“雜牌軍”，被稱(chēng)為“乞活軍”。