Didirikan pada tahun 1860 dan diperluas kembali pada tahun 1898. Sempat mengalami kerusakan ketika kota ambon dilanda banjir besar pada tahun 1933. Renovasi besar kembali dilakukan tahun 1936 dan selesai pada tahun 1940. Tahun 1944 ketika kota ambon berulang di bom armanda udara sekutu, masjid jami lolos dan tetap utuh. Renovasi terakhir dilakukan tahun 2004 tampa berubah bentuk aslinya.
