Gereja Protestan Indonesia Barat (GPIB) Margamulya dibangun berdasarkan desain gambar rancangan dan rencana anggaran yang dibuat oleh Ir. P.A. van Holm. Pengawasan pelaksanaan pembangunannya pada era Residen C.P. Brest van Kempen (1857 – 1863) dilakukan oleh teknisi B.O.W. (Burgerlijke Openbare Werken), yaitu J.G.H. van Valette. Bangunan diresmikan dan diberkati sebagai tempat ibadah pada Minggu, 11 Oktober 1857 oleh Pendeta Ds. C.G.S. Begemann.
Sebagai bangunan tempat ibadah umat Kristen terutama bagi orang-orang Belanda dan khususnya bagi Pemerintah Hindia Belanda, menjadikan lokasi gereja satu lingkungan dengan Kantor Residen (sekarang Gedung Agung), yaitu berada di Jalan Margamulya poros sumbu filosofis Kota Yogyakarta.
Pada pertengahan abad ke-19, tepatnya pada Senin 10 Juni 1867, gedung gereja rusak parah, karena terdampak gempa bumi tektonik. Gedung gereja dibangun kembali pada masa Residen Hubert Desire Bosch (1865 – 1873). Gereja mendapat dukungan dana dari berbagai pihak dan juga bantuan dana dari Sri Sultan Hamengku Buwana VII (HB VII) (Gegeven over Djokjakarta, 1925).
Sri Sultan Hamengku Buwana VII merupakan sultan yang banyak melakukan pemulihan kembali (recovery) berbagai sarana fisik sebagai akibat adanya dampak gempa bumi pada saat itu. Bangunan yang berdiri sekarang ini merupakan hasil renovasi pascagempa bumi tahun 1867.
Bangunan ini berdiri di atas tanah seluas 745 m2 dan luas bangunannya 415 m2 . Bangunan tersebut mempunyai corak Indis dan mencitrakan konteks budaya pada zamannya. Pada bagian atap terdapat bentuk lucarne (jendela kecil duduk di atas kemiringan atap, selain untuk hiasan juga untuk memberikan aliran udara pada ruang dalam atap) pada sisi selatan yang juga terbuat dari seng.
Secara keseluruhan, bangunan gereja terdiri atas tiga ruangan yang membujur dari timur ke barat, yakni ruang depan atau porch, ruang utama atau nave (ruang ibadah) dan ruang pastori. Sebelum memasuki ruang depan, terdapat pintu masuk dengan bentuk kupu tarung dari kayu jati. Pada bagian atas pintu terdapat vousoir (unit-unit batu yang disusun dalam bentuk melengkung di atas gerbang, pintu atau jendela).
Gereja GPIB Margamulya terletak di Jalan Margamulya No.5, Ngupasan, Gondomanan, Yogyakarta. Bangunan ini ditetapkan sebagai Cagar Budaya melalui Peraturan Menteri Kebudayaan dan Pariwisata Republik Indonesia No. PM25/PW.007/MKP/2007.