Bangunan ini sejak zaman kolonial Belanda digunakan untuk Algemeene Middelbare School (AMS) afd. B.. AMS merupakan sekolah menengah yang lebih tinggi dari MULO. Bangunan didirikan pada 1919. Pada masa pendudukan bala tentara Jepang Dai Nippon sekolah ini dinamai Sekolah Menengah Tinggi.
Sekolah tersebut terbagi menjadi dua bagian yaitu A (ilmu kebudayaan) dan B (ilmu alam). Pelajaran yang diberikan kepada para murid diatur dan diawasi oleh Dai Nippon. Hal ini menyebabkan guru dan murid yang sebagian besar orang Indonesia itu tertekan batinnya. Akibatnya guru dan murid bersatu untuk memerangi tekanan dengan cara membentuk wadah padmanaba pada 19 September 1942. Oleh karena siswa SMT bagian A dan B makin banyak, maka pada tahun 1946/1947 sekolah ini dipisah, bagian A berada di Jalan Pakem, sedangkan bagian B berada di jalan Jati Kotabaru.
Pada masa Agresi Militer Belanda (Clash) I tanggal 21 Juli 1947 sekolah ini libur besar selama 3 bulan karena bangunannya dijadikan markas pejuang. Setelah Clash I sekolah ini kebanjiran murid sehingga dibuka sekolah Darurat dan sekolah pejuang pada tahun ajaran 1947/1948.
Pada masa Clash II, sekolah SMA 3 digunakan Belanda untuk Markas tentara Belanda. Pada masa ini sekolah ditutup kembali. Banyak anggota Padmanaba ikut mengangkat senjata, bergabung dalam TP (Tentara Pelajar). Banyak diantara mereka yang gugur saat terjadi pertempuran di Kotabaru, antara lain Faridan M Noto, Suroto, Kunto, Sudiarto, Joko Pranoto, Jumerut, Kunarso, Suryadi dan Purnomo. Pada tahun 1956, SMA ini berubah nama menjadi SMA IIIB dan tahun 1964 berubah menjadi SMA Negeri 3 Yogyakarta.
Denah bangunan utama berjajar dua yaitu utara dan selatan. Diantara jajaran bangunan terdapat halaman yang cukup luas sebagai lapangan upacara Sebagian besar bangunan utama digunakan sebagai kelas. Di samping itu di sisi timur dan barat bangunan utama terdapat bangunan pelengkap sarana pendidikan seperti laboratorium, ruang olah raga, dan tempat parkir. Di sebelah barat bangunan utama terdapat lapangan sepakbola sebagai fasilitas olah raga.
Secara arsitektural, bangunan-bangunan yang berada SMA 3 mempunyai ciri-ciri sebagai berikut: bangunannya tinggi, besar, mempunyai halaman luas, jendela dan pintu besar dengan krepyak langit-langit tinggi, mempunyai roster pada dinding-dindingnya. Bagian muka bangunan utama mempunyai bentuk tiang dengan gaya Yunani/ Romawi. Beberapa bangunannya telah mengalami perbaikan dan penambahan bangunan.
Bangunan ini telah ditetapkan sebagai Cagar Budaya melalui Per.Men Budpar RI No. PM.07/PW.007/MKP/2010. Gedung SMA 3 Yogyakarta terletak di Jalan Yos Sudarso No. 7 Yogyakarta.
