Groto Yungang Datong dibina oleh pemerintahan Wei Utara dari Etnik Xinbei, atau dikenali Sienpi, sebuah etnik minoriti nomad yang terkenal dalam sejarah China. Tuoba, salah satu puak daripada Etnik Xianbei telah menakluk semua puak, etnik dan negeri di bahagian utara China dan menubuhkan pemerintahan Wei Utara pada tahun 439 Masihi. Bumi wilayahnya merangkumi seluruh bahagian utara China, dari kawasan sebelah timur aliran Sungai Liao di timur laut, sampai ke bahagian timur Xinjiang di barat, dan dari padang rumput serta padang pasir Mongol di utara dan Hebei, Shanxi, Shangdong, Henan, Hubei serta Jiangsu di selatan. Ibu kota pemerintahan Wei Utara terletak di bandar Pingcheng, iaitu bandar Datong pada masa ini.

Pada masa pemerintahan Wei Utara, pemerintahnya telah melaksanakan dasar perpaduan bangsa. Budaya Etnik Han dan budaya agama Buddha disanjung dan dipopularkan oleh penguasa pemerintahan itu.

Agama Buddha mencapai perkembangan pesat pada abad ke-5 hingga abad ke-6 Masihi di China, lebih-lebih di kawasan luas pemerintahan Wei Utara. Pada masa itu, baik kerajaan ataupun rakyat jelata memahat arca Buddha secara besar-besaran. Pembinaan Groto Yungang di bandar Datong ini justeru diarahkan oleh pemerintah Wei Utara.