Pada akhir abad ke-17, lebih 1,700 orang umat Islam daripada lebih 300 buah keluarga berhijrah dari Provinsi Shandong ke Bandar Chifeng, Mongolia Dalam. Penduduk Islam di bandar itu banyak yang bernama Zhang. Seiring dengan taraf hidup mereka semakin meningkat, keluarga Zhang telah mengundang imam dari Provinsi Shandong untuk menguruskan hal ehwal agama di bandar tersebut. Pada tahun 1801 Masihi, keluarga Zhang menyediakan tanah seluas lebih tiga ribu meter persegi dan mengumpulkan derma daripada umat Islam untuk membina masjid.

Pada tahun 1802 Masihi, masjid itu mula dibina dan selesai pada tahun berikutnya. Oleh sebab masjid asal di bandar itu terletak di bahagian utara dan masjid yang baru dibina itu terletak di bahagian selatan, masjid itu dikenali sebagai Masjid Selatan Chifeng. Masjid Selatan Chifeng amat memudahkan umat Islam untuk beribadat dan berperanan penting dalam hal ehwal penyembelihan serta sektor pendidikan Islam di bandar tersebut.

Pada tahun 1958 Masihi, Masjid Selatan Chifeng diubah suai menjadi sebuah taman.

Pada tahun 1980-an, jumlah umat Islam di Bandar Chifeng meningkat kepada lebih 15 ribu orang. Sebuah masjid sahaja tidak dapat menampung begitu ramai umat Islam untuk beribadat.

Dengan usaha bersama umat Islam dan pihak berkuasa tempatan, Masjid Selatan Chifeng telah selesai dibina semula pada 26 Disember 1997. Kawasan masjid baru luasnya 2,300 meter persegi. Bangunan yang bercirikan seni bina Asia Barat ini luasnya 900 meter persegi. Pada masa ini, Masjid Selatan Chifeng menjadi pusat agama di bandar tersebut dan juga menarik ramai pelancong dari dalam dan luar negara.

------Andika