Məscid həcc ziyarətinə getməzdən əvvəl bütün sərvətini paylayan dövrünün varlı tacirlərindən olan Seyyid Hacı Əli Şah Buxarinin xatirəsinə tikilib.

Məkkə ziyarətindən sonra dünyanın bir çox yerlərinə səyahətə çıxan və öz zöhdü ilə yanaşı bir çox möcüzələri ilə məhşurlaşan Əli Şah Dərgah ömrünün sonlarına yaxın röyada öz əməlləri ilə yeri yaraladığını müşahidə edir.Bu hadisədən sonra tələbələrinə buyurur ki,o dünyadan köçdükdən sonra onun nəşini tabuta qoyub dənizdə atsınlar.Bir müddət sonra yenidən Məkkə ziyarətinə yollanır.

Ziyarətdən qayıtdıqdan sonra xəstələnərək dünyasını dəyişir.Davamçıları onun vəsiyyətinə əməl edib nəşini tabuta qoyaraq Ərəbistan dənizinə atırlar və bir müddət sonra tabutun Mumbay yaxınlığında kiçik bir adada dayanmasından xəbər tutaraq onu elə burada dəfn etmək qərarına gəlirlər.Onun davamçıları 1431-ci ildə bu məscidi tikiblər.Məscidin əsas giriş qapısına "Pir Hacı Əli Şah Buhari"kitabəsi vurulub

Beş əsr ərzində məscidə yalnız qayıqla getmək mümkün olub.

Yalnız 1944-cü ildə müsəlmanların məscidə gedə biləcəkləri yolun çəkilməsinə qərar verilib.

Lakin musson yağışları mütəmadi olaraq bu yolları yuyur və onu yenidən bərpa edirlər. Keçən əsrin 80-ci illərinin sonunda bu yol bərkidilərək yenidən tikildikdən sonra məscidə ilin istənilən vaxtı getmək mümkün olub.Buna baxmayaraq yağışlar mövsümü(İyul-avqust) başlayarkən yol boyu hündür dalğalar əmələ gəlir və zəvvarların təhlükəsizliyi üçün bəzən məscidə gedən yolun giriş qapıları bağlanılır.

Bununla belə, cümə axşamı və cümə günləri məscidi təxminən 40 min nəfər ziyarət edir.