Masjid kuno ini didirikan pada tahun 1295 Hijriah tepatnya tanggal 1 Juni 1874 Masehi dan selesai dibangun pada bulan Juni 1903. Seiring dengan perkembangan waktu masjid ini juga mengalami beberapa kali perubahan nama dan rehabilitasi. Pada mulanya bernama Masjid Kerinci Jambi, kemudian berganti nama menjadi Masjid Pondok Tinggi. Tahun 1953, Bapak Muhammad Hatta sebagai Wakil Presiden Republik Indonesia berkunjung ke Pondok Tinggi dan menambahkan nama masjid tersebut dengan kata Agung, sejak itu masjid ini dinamakan Masjid Agung Pondok Tinggi (Iskandar Zakaria, 1982: 254).
Tahun 1916 atap masjid yang tadinya ijuk diganti dengan sirap, akan tetapi ternyata atap sirap memiliki daya tahan lebih kurang 10 tahun, maka pada tahun 1926 atap sirap diganti dengan atap seng. Lima puluh lima tahun kemudian tepatnya tahun 1981 pemerintah mengganti atap masjid dengan seng baru melalui proyek Depdikbud tahun anggaran 1981/1982. Demikian pula dengan lantai masjid yang awalnya dari bambu yang dianyam (kirap), diganti dengan papan tahun 1890. Kemudian pada tahun 1916 diganti lagi dengan semen dan pada tahun 1982 diganti dengan ubin.
Pada umumnya masjid-masjid di kabupaten Kerinci berukuran besar dan memiliki hiasan yang variatif. Salah satunya adalah Masjid Agung Pondok Tinggi. Konsep pendirian sebuah masjid kemungkinan tidak jauh berbeda dengan konsep arsitektur tradisional, meskipun ada perbedaan kontruksinya. Masyarakat Kerinci menyebut rumah tradisional dengan “Larik” yaitu rumah panjang yang terdiri dari beberapa deretan rumah petak yang sambung menyambung.
Dalam perkembangan masjid di Indonesia, hingga sekarang terdapat berbagai bentuk dalam berbagai variasi baik struktur, denah, konstruksi, bahan maupun bentuknya. Walaupun tidak banyak mengalami perubahan tetapi masih ada upaya mempertahankan bentuk tradisional yang merupakan identitas masjid di Indonesia, diantaranya mempunyai mighrab. Hal ini sesuai dengan pendapat Pijper, bahwa masjid kuno di Indonesia merupakan tradisi asli (Pijper, 1947:276). Namun demikian dalam perkembangan pengaruh luar (asing) juga mewarnai masjid di Indonesia, tetapi pengaruh- pengaruh lokal/tradisi asli masih sangat dominan. Hal ini dapat dilihat pada masjid-masjid di Kerinci seperti masjid Agung Pondok Tinggi yang berdenah segi empat dan beratap limas.
