Pada tahun 1840-an, tentera Britain mencerobohi China yang diperintah oleh kerajaan Dinasti Qing pada masa itu. Kerajaan China terpaksa melepaskan Hong Kong kepada Britain menerusi satu perjanjian yang ditandatangani. Britain yang khuatirkan tindakan balas penduduk tempatan terhadap orang-orangnya, telah membawa masuk ramai orang India dari negara jajahannya yang lain ke Hong Kong sebagai pembantu penjajah. Sebahagian mereka yang datang ialah penganut Islam. Pada masa itu, ramai daripada mereka ditempatkan di Jalan Sherry. Selepas bekerja seharian, mereka sering berkumpul dan berjual beli di jalan tersebut. Dan bilangan mereka semakin bertambah akhirnya menjadi sebuah pasar. Jika masuk waktu sembahyang, mereka bersembahyang secara berjemaah di jalan tersebut. Penduduk tempatan, iaitu orang China pada masa itu tidak memahami apa yang dilakukan oleh pendatang Islam itu. Mereka sering kali melalui jalan tersebut selepas membeli daging babi di pasar Hong Kong. Dalam keadaan bersesah-sesah itu, ada penganut Islam yang tersentuh menyebabkan sering kali tercetus konflik antara orang India dengan penduduk tempatan. Untuk meredakan ketegangan dan mengekalkan kestabilan pentadbiran tanah jajahannya, pihak Britain menandatangani perjanjian dengan para penganut Islam bagi menyewa sebahagian tanah di sekitar jalan Sherry selama 999 tahun untuk membina sebuah masjid. Dengan demikian, penganut Islam di Hong Kong mempunyai masjid sendiri yang menjalankan kegiatan keagamaan tanpa gangguan.