魏國鎮西將軍鄧艾管理攏右時,讓河西鮮卑往中原遷至雍州和涼州,就是今日的陝西中部及甘肅一帶,與漢人、羌人混居。
在漢人的統治下,河西鮮卑被強制徵兵、納稅,或淪為奴隸,胡漢矛盾日益深刻。
司馬家篡奪曹家政權後,河西鮮卑就牽頭帶領各族胡人,開啟了反抗鬥爭,很快其他諸族紛紛響應,攪得西晉皇帝一個頭兩個大。
經過起起伏伏的勝利和失敗,河西鮮卑首領禿髮烏孤,已經帶領部落成為涼州一霸。
他決定擺脫後涼君王呂光的控制,他先是拒絕後涼的封爵,接著自稱大都督、大單于、西平王等,然後,他於397年建立了自己了政權南涼,年號太初。
建國後,禿髮烏孤覺得隴西太小,燃起了吞併各國的鬥志,但還未等他實踐自己的抱負,他就在399年因醉酒墮馬,受重傷不治而亡。