Berdirinya sebuah pasar tidak bisa dipisahkan dari keberadaan keraton. Pasar merupakan salah satu komponen utama di dalam tata kota lama di kota kerajaan. Keberadaan pasar merupakan salah satu unsur di dalam komponen empat tata ruang yang terkait menjadi satu kesatuan yaitu catur gatra tunggal (keraton, alun-alun, masjid, dan pasar). Pada mulanya, bangunan pasar ini berupa los-los dengan tiang dari kayu dan berlantai tanah. Kondisi pasar mulai berubah pada tahun 1923 – 1925, Sultan HB VIII menunjuk pemborong Indische Beton Maatschappij dari Surabaya untuk membangun pasar yang representatif dengan membangun 11 los permanen.
Pembangunan pasar dimulai dari barat berupa kantor dan kios-kios. Pasar Beringharjo berkontruksi beton bertulang dengan arsitektur bergaya tropis dan oleh pemerintah Hindia Belanda disebut sebagai ”EENDER MOOISTE PASSERS OP JAVA” yang artinya pasar terindah di Jawa. Pada tahun 1950 – 1960-an dilakukan pengembangan ke arah timur dengan membuat los-los semi permanen untuk dagangan tembakau, ikan, dan empon-empon. Pengembangan itu dengan melakukan penggusuran kherkoft atau makam Belanda. Pada tahun 1990 – 1992 dilakukan renovasi dan pengembangan los-los seperti dapat dilihat sekarang.