Sepintas, Masjid Agung Blitar yang berada di sebelah barat alun-alun ini tampak seperti bangunan tahun 1960-an yang terdiri dari dua lantai dengan kolom-kolom beton dan menara putih menjulang. Apalagi di kanannya (selatan) terdapat sebuah bangunan bertingkat dengan desain yang kaku, yang sama sekali tidak mengindikasikan sebuah bangunan lama. Tetapi jika dilihat lebih ke dalam lagi, kesan kunonya baru terasa. Bagian dalam tersebut masih memakai tegel lama, begitu pula dengan kolom dan baloknya yang masih memakai kayu jati yang besar-besar.
Masjid ini dibangun dalam beberapa tahap pembangunan. Tahap pembangunan pertama adalah tahun 1820. Ketika itu Kabupaten Blitar masih beribukota di Srengat dan yang menjadi penghulu di Blitar adalah Ky. Imam Besari menggantikan penghulu sebelumnya, Ky. R. Kasiman. Masjid baru tersebut berdiri di sebelah utara jembatan Kali Lahar di Kelurahan Pekunden. Bangunannya masih sederhana, dindingnya dari kayu jati dan atapnya masih sirap.
Meskipun bentuk dan bahannya masih sederhana, masjid tersebut mampu bertahan selama beberapa tahun, menghadapi berbagai bencana alam yang menimpa. Keletakannya yang berada di pinggir sungai aliran lahar memang membuat masjid tersebut rentan terjangan banjir lahar dingin dari Gunung Kelud. Tercatat tiga kali lahar dingin menerjang masjid tersebut yaitu pada 1826, 1835 dan 1848.
Pada terjangan banjir yang ke tiga, 1848, masjid mengalami kerusakan yang cukup parah. Bencana yang disebabkan meletusnya Gunung Kelud tersebut tidak hanya merusak masjid tetapi juga mempengaruhi pemikiran tentang kelayakan Srengat sebagai ibukota Blitar. Karena banjir lahar yang kerap terjadi membuat jalannya pemerintahan terganggu. Apalagi kemudian, banjir juga menghancurkan rumah kediaman bupati.
Maka setelah bencana tahun itu, pusat pemerintahan Blitar, juga masjid agung-nya, dipindahkan ke tempat sekarang ini. Saat itu Bupati Blitar dijabat oleh Raden Mas Aryo Ronggo Hadinegoro sedang penghulu yang merangkap tetua masjid Jami’ yaitu Kyai Raden Kamaludin, keturunan kyai Kasiman penghulu Srengat, yang menggantikan Penghulu III Kyai R.Kasan Soehodo yang diangkat sejak tanggal 31 Maret 1946 hingga tahun 1848.
Ketika itu, bupati menunjuk tanah bagian timur sebagai Bumi Kanjengan (Batas sebelah barat Jl. Masjid, sebelah timur Sungai Urung – Urung, sebelah selatan Jl. Merdeka – Jl. A. Yani, sebelah Utara Jl. Anjasmoro – Jl. Pahlawan bila dilihat ujud sekarang). Untuk tempat kediaman Kanjeng dan kegiatan dinas sehari-hari dibangun rumah dinas Bupati lama (sekarang komplek pertokoan sebelah timur Gedung Dipayana yang pernah dipakai sebagai kantor CPM).
Sedangkan tanah sebelah barat bumi Kanjengan hingga Sungai Lahar, diserahkan pengaturannya kepada penghulu Blitar untuk bangunan Masjid dan menempatkan etnis Arab di sebelah utara Masjid kearah barat. Dulu dikenal dengan nama Kampung Arab, selanjutnya setelah mengalami perkembangan menjadi nama Kauman. Melalui kegotongroyongan dan bantuan dana dari beberapa pihak, masjid dapat dibangun pada tahun itu juga (1848) dengan bahan kayu.
Pada tahun 1890, Penghulu Blitar, yang saat itu dijabat oleh Ky. Imam Boerhan, mempunyai prakarsa untuk bangunan masjid yang berbahan kayu tersebut dengan bahan bata. Dengan persetujuan bupati Blitar yang kala itu dijabat oleh R. Adipati Warso Koesoemo maka dimulailah tahap ke tiga pembangunan Masjid Agung Blitar. Pembangunan saat itu dilakukan secara bergotong royong. Umat Islam dari berbagai tempat di Blitar, baik di desa maupun di kota, setiap hari berdatangan untuk memberikan daya upayanya, baik moril maupun materi. Menurut catatan Penghulu Imam Boerhan, pembangunan tersebut dimulai pada hari Kamis Kliwon 12 Oktober 1890 M atau 20 Muharram 1303 H.
Paska pembangunan 1890 masjid pernah mengalami beberapa renovasi dan penambahan unsur-unsurnya. Pada 1927 dibuat gapura dan setahun kemudian, 1928, dibangun menara di sebelah kanan (selatan) masjid. Dan pada 1933 masjid diperluas dengan penambahan serambi di kanan dan kirinya yang diarsiteki oleh KH. Muchsin Dawuhan yang masih kerabat Penghulu Imam Boerhan. Desain tersebut masih bertahan hingga kini, yang sekarang menjadi bagian dalam masjid. Tetapi gapura dan menaranya telah runtuh akibat gempa bumi yang terjadi di Blitar pada 20 Oktober 1958.
Selanjutnya pada tahun 1966 timbul pemikiran dari H. M. Bachri Pakunden, salah satu keturunan Ky. Imam Boerhan, untuk membangun kembali menara yang rusak. Keinginan tersebut baru dapat direalisasikan mulai 10 Agustus 1967 dengan pembentukan Biro Pembangunan Masjid Besar Kodya/Kab. Blitar dengan ketuanya Walikota Blitar R. Prawirokoesoemo.
Dalam pelaksanaannya, menara dibangun tidak lagi di tempat semula, tetapi di sebelah utara. Kemudian untuk memperluas daya tampung jamaah yang semakin meningkat sejak peristiwa 1965, dibangun pula serambi bertingkat yang diperkirakan akan dapat menampung hingga 5000 jamaah. Proses pembangunan tersebut dapat diselesaikan pada akhir 1971. (Lap. Inventarisasi ODCB Kota Blitar 2017)
