Bangunan ini sejak zaman Belanda digunakan untuk Algemeene Middelbare School (AMS) afd. B.. AMS merupakan sekolah menengah yang lebih tinggi dari MULO, dan didirikan pada 1919. Pada masa pendudukan tentara Jepang Dai Nippon sekolah ini dinamai Sekolah Menengah Tinggi (SMT). Sekolah ini terbagi menjadi dua bagian yaitu A (ilmu kebudayaan) dan B (ilmu alam).
Pelajaran yang diberikan kepada para murid diatur dan diawasi oleh Dai Nippon. Hal ini menyebabkan guru dan murid yang sebagian besar orang Indonesia itu tertekan batinnya. Akibatnya, guru dan murid bersatu untuk memerangi tekanan dengan cara membentuk wadah padmanaba pada 19 September 1942.
Oleh karena siswa SMT bagian A dan B makin banyak, maka pada 1946/1947 sekolah ini dipisah, bagian A berada di Jalan Pakem, sedangkan bagian B berada di Jalan Jati Kotabaru. Pada masa Clash I , 21 Juli 1947 sekolah ini libur besar selama 3 bulan karena bangunannya dijadikan markas pejuang. Setelah Clash I sekolah ini kebanjiran murid sehingga dibuka sekolah darurat dan sekolah pejuang pada tahun ajaran 1947/1948.
Pada masa Clash II, sekolah SMA 3 Yogyakarta digunakan Belanda untuk markas tentara Belanda. Pada masa ini sekolah ditutup kembali dan banyak anggota Padmanaba ikut mengangkat senjata, bergabung dalam TP (Tentara Pelajar). Banyak di antara mereka yang gugur saat terjadi pertempuran di Kotabaru, antara lain Faridan M Noto, Suroto, Kunto, Sudiarto, Joko Pranoto, Jumerut, Kunarso, Suryadi, dan Purnomo. Pada 1956, SMA ini berubah nama menjadi SMA IIIB dan 1964 berubah menjadi SMA Negeri 3 Yogyakarta.
