Lokasi stasiun sangat strategis dan berdekatan dengan Mangkunegaran, pasar Legi, serta Villa Park yang merupakan pemukiman Eropa tempo dulu. Dalam catatan tahunan NISM tahun 1887, penumpang stasiun Balapan tercatat sudah mencapai 55.00 per tahun, dan terbanyak dibandingkan dengan semua stasiun di Semarang maupun Vorstenlanden. Pada stasiun ini pula, berbagai catatan historis terekam, mulai dari momentum Pakubuwono X saat hendak menikah dengan putri Hamengku Buwono VII tahun 1915, hingga pengangkutan massa Sarikat Islam yang akan melaksanakan Kongres SI di Solo. Pada saat akan berangkat ke Yogyakarta, PB X menunggu di wachtkamer (ruang tunggu) di stasiun Balapan bersama kakaknya, Prabuningrat.
Stasiun ini dibangun oleh Nederlands Indische Spoorweg Maatschappij (NISM) seiring dengan perkembangan jalur Semarang-Vorstenlanden pada awal abad ke-19. Diperkirakan tahun 1874 stasiun ini telah berdiri setelah diresmikannya jalur Semarang-Vorstenlanden oleh Manungkunegara IV.
Perkembangan menarik lain adalah saat NISM telah memiliki modal untuk membangun kembali jalur kereta api yang sempat terhenti, yakni jalur menuju Yogyakarta. Peletakan batu pertama pembangunan dilakukan oleh Sri Susuhunan Paku Buwana IX bersama Gubernur Jendral dengan cara menggunakan cetok dari emas murni.
Michiel van Ballegeije de Jong menulis bahwa Stasiun Balapan dipugar kembali oleh Thomas Karsten pada tahun 1927 pada bagian lobi. Stasiun Balapan adalah stasiun tertua, serta menjadi pemberhentian kereta api kelas satu di Solo. Di stasiun ini pula terdapat dua Emplasemen milik SS dan NISM yang mempunyai hak kepemilikan atas stasiun Balapan.
Dengan demikian stasiun Balapan, dibangun oleh Nederlands Indische Spoorweg Maatschappij (NISM) yang kemudian juga digunakan oleh perusahaan kereta api milik negara, Staatssporwegen (SS). Di selatan stasiun NIS dibangun stasiun ujung untuk perhentian kereta api Sttatsspoorwegen (SS) Jurusan Surakarta-Surabaya.
Ketika itu penumpang dan barang dari Surabaya yang hendak meneruskan perjalanan ke Yogyakarta harus berpindah ke kereta NIS karena kereta SS yang menggunakan lebar sepur 1067 mm tidak bisa melintas di jalur NIS yang mempunyai lebar sepur 1435 mm. Demikian pula sebaliknya penumpang dan barang dari Yogyakarta dengan tujuan Surabaya harus berpindah dari kereta NIS ke kereta SS.
Pada 1899 dilakukan perombakan besar-besaran pada bangunan ini sehubungan dengan dibangunnya rel ketiga yang memungkinkan kereta SS melintas pada jalur NIS. Meski demikian,kereta SS tujuan Yogakarta harus melakukan maneuver mundur dari stasiun ujung, kemudian memutar melalui sisi Utara stasiun NIS sebelum melaju kearah Yogyakarta. Baru pada 1921 kereta SS bisa langsung melalui sisi Selatan tanpa harus memutar ke Utara. Bangunan stasiun menjadi sebuah stasiun pulau dengan emplasemen di utara maupun selatan.
Untuk menyesuaikan dengan keadaan baru itu pada 1923 dilakukan perombakan besar-besaran pada bangunan stasiun. Meski demikian berbagai fasilitas pelayanan penumpang dan barang masih tersebar, belum terpadu. Loket tiket NIS berada di sebuah rumah dinas sedangkan loket tiket SS berada di dalam stasiun. Sementara itu bagian bagasi berada di tempat lain lagi. Hal ini tentu saja dirasakan sangat merepotkan para penumpang.
Untuk mengatasi masalah itu dibangun suatu bangunan tambahan di Selatan stasiun. Bangunan berukuran 15×15 meter2 ini dirancang oleh biro arsitek Karsten dan Schouten dari Semarang, yang diresmikan penggunaannya pada 1927. Pintu masuk utama stasiun dialihkan dari bangunan lama ke bangunan ini, sedang pintu utama lama ditutup.
Di dalam ruang utama bangunan ini terdapat 8 loket, 6 loket untuk penggunaan rutin dan 2 loket tambahan untuk hari-hari sibuk. Tak jauh dari loket-loket itu terdapat bagian bagasi dan paket. Lantai dan panel dinding bangunan ini dilapisi ubin teraso buatan pabrik ubin “Kitri” di Surakarta. Bangunan ini mempunyai atap bersusun tiga dengan konstruksi besi ditutup seng.
