Bangunan masjid berdenah persegipanjang dan pada sisi timur memiliki serambi dengan tangga naik di sisi utara dan selatannya. Sementara sisi utara dan selatan bangunan memiliki bentuk yang sama yaitu masing-masing sisi mempunyai 4 buah jendela dengan penempatan dua buah di kiri kanan pintu. Pintu masuk terdapat di bagian tengah. Sedangkan sisi barat bangunan terdapat mihrab sehingga bentuk bangunannya agak menonjol keluar. Pada sisi selatan sekarang telah ditambah dengan bangunan baru (tambahan) berukuran 5,2 m x 16,60 m. Atap masjid terdiri dari 2 tingkat, sehingga menyerupai atap tumpang, seperti pada masjid- masjid kuno di Jawa.
Pembangunan masjid ini disponsori oleh Haji Yacub dan Haji Nuh serta masyarakat setempat, termasuk orang-orang Cina kaya yang sebagian telah masuk Isalm. Masjid ini merupakan masjid utama di kota Muntok pada saat itu.
Bangunan ini memiliki ukuran 23,7 m x 23,15 m diatas lahan seluas 62,15 m x 33 m. Secara administrasi Masjid Jamik Muntok berada di Jalan Imam Bonjol, Kelurahan Tanjung, Kecamatan Muntok, Kabupaten Bangka Barat. Berdasarkan keletakan secara astronomis berada pada titik 02º 03’ 59.5” LS, 105º 09’ 42.8” 1 BT .