Pada awalnya bangunan masjid tersebut merupakan bangunan langgar Langenastran. Dalam perkembangan selanjutnya jamaah yang beribadah di langgar Langenastran tersebut semakin banyak. Oleh karena itu, Langgar Langenastran tesebut kemudian dipugar dan dibangun menjadi masjid pada tahun 1943 oleh keluarga HMJ Prawiro Yuwono. Oleh karena itu pada sisi barat terdapat pintu penghubung antara rumah tersebut dengan Masjid Margoyuwono.
Masjid Margayuwana merupakan salah satu masjid kuno yang terdapat di Jalan Langenastran Lor No. 9 Yogyakarta. Masjid ini mulai dibangun pada tanggal 28 Maulud 1874 AJ oleh Pawiro Yuwono, seorang pedagang batik yang sukses. Masjid ini diresmikan pada tanggal 29 Agustus 1943. Pada masa kemerdekaan tepatnya pada saat Yogyakarta sebagai ibu kota RI, Masjid Margayuwana sering digunakan sebagai tempat ibadah para menteri dan para pembesar yang ada di Yogyakarta. Renovasi bangunan masjid ini pada tahun 1986 dengan perbaikan tempat wudhu. Saat ini selain digunakan sebagi tempat ibadah, masjid ini juga digunakan untuk kegiatan keagamaan lainnya.
Masjid Margoyuwono berdenah bujur sangkar pada ruang utama masjid dan ditambah dengan serambi terbuka yang dilengkapi dengan lengkung-lengkung atap bangunan yang berupa atap tumpang, yang terdiri atas rangka kayu jati dan lantainya dari tegel kembang.
( Himawan Prasetyo, S.S. / Staf BPCB Yogyakarta )