Bangunan ini sejak zaman Belanda digunakan untuk HIS. (Holland Inlandsche School). Sekolah ini merupakan perubahan sekolah Kelas I yang terjadi pada tahun 1914 dan merupakan bagian dari sekolah barat. Di Yogyakarta ada dua buah sekolah seperti ini yaitu di Tungkak (SD Pujokusuman) untuk Yogyakarta Selatan dan di Jetis (SMP 6) untuk Yogyakarta Utara. Pada masa Jepang, bangunan ini digunakan sebagai gedung Sekolah Rakyat (SR) SR adalah sekolah pendidikan tingkat dasar seperti SD saat ini. Pada masa clash II tahun 1949, gedung SMP 6 dgunakan sebagai markas Bala tentara Belanda. Pada tahun 1950-1960 bangunan ini digunakan secara bergantian sebagai gedung SGA dan SGB. SGA adalah sekolah guru Atas yang menyiapkan guru SMP, sedangkan SGB adalah sekolah guru SD. Pada tahun 1960 berdasarkan Surat Keputusan Menteri Pendidikan Pengajaran dan Kebudayaan Nomor 167/SK/ B/III tertanggal 25 Mei 1960 SGB Negeri I Yogyakarta diganti menjadi SMP VI Yogyakarta. Seluruh guru dan sebagian karyawan SGB menjadi guru dan karyawan SMP. Bangunan merupakan peninggalan masa kolonial Belanda, dengan ciri – ciri jendela yang lebar dan langit – langit (plafond) yang tinggi. Arah hadap bangunan ke utara. Secara arsitektural, bangunan-bangunan yang berada SMP 6 mempunyai ciri-ciri sebagai berikut: bangunanya tinggi, besar, , jendela dan pintu besar dengan krepyak langit-langit tinggi, mempunyai roster pada dinding-dindingnya, dan mempunyai halaman luas di depan sekolah.(Himawan Prasetyo)