Perlu kita ketahui bahwa Rembang adalah kota yang memiliki banyak peninggalan historis Arkeologis yang bercorak Khusus. Salah satunya kita bisa melihat didalam kompleks Taman Kartini Rembang. Taman ini berlokasi sangat strategis karena selain berada di pinggir pantai juga di tepi jalan raya yang menghubungkan kota Semarang dengan Surabaya. Didalam area kompleks Taman Kartini ini kita bisa menemukan beberapa bangunan kuno yang dibangun dari abad XVII-XVIII bergaya Eropa dan Cina yang tentunya juga mempunyai nilai historis yang tinggi.
Salah satu bangunan yang menarik perhatian adalah bangunan Gereja Kristen Jawa. oleh masyarakat Rembang bangunan ini sering disebut “Gereja Portugis”. Bisa disebut demikian, karena bangunan tersebut merupakan peninggalan orang Portugis yang datang ditempat ini guna untuk melakukan usaha rempah-rempahnya. Hasil dari wawancara Masyarakat sekitar, diperoleh keterangan bahwa bangunan tersebut dibangun pada masa pemerintahan Belanda lengkap dengan kopel diatasnya serta lonceng. Dikatakan juga bahwa semejak dulu difungsikan sebagai Gereja, khusunya Gereja Kristen. Selanjutnya dikatakan juga bahwa Gereja ini didirikan saat bersamaan dengan masa pendirian Rumah Residen yang berada disebelah timurnya.
Asal mulanya, Gereja ini dibangun dimasa pemerintahan Belanda dan dibangun diatas tanah milik pemerintah Belanda. Namun, setelah Belanda jatuh hak kepemilikan tanah beralih ke tangan pemerintahan R.I. Setelah itu Gereja tersebut Resmi dijadikan sebagai Gereja Kristen Jawa. Karena dalam kondisi bangunan yang sudah tua, maka pada tahun 1967 diadakan perbaikan-perbaikan dibagian atap, daun pintu, jendela da tempat khotbah.
Info lain yang didapat tentang pendirian bangunan greja ini berasal dari Bapak Boerjadi. Beliau mengatakan bahwa bangunan ini didirikan oleh bangsa Portugis, sebelum jalan Dandels yang berada disebelah selatan bangunan ini. Selain itu informasi dari pendeta GPIB di Semarang yang bernama R.R. DA’A’DAmengatakan bahwa Gereja Kristen Jawa di Taman Kartini Rembang dibangun pada abad 18. Dikatakan pada zaman dahulu gereja ini didirikan di dalam suatu kampong nelayan yang belum ramai penduduknya dan pada waktu itu gereja ini selain menjadi tempat beribadah juga berfungsi sebagai tanda boleh berlabuh. Dapat dikatakan juga bahwa Gereja Kristen Jawa di Taman Kartini adalah merupakan salah satu gereja tertua di Rembang dan Jawa Tengah setelah gereja Blenduk Semarang.
Dari data yang tertulis yang berasal dari arsip Vikariat Apostolik di Jakarta didapatkan keterangan bahwa bangunan gereja dibangun pada tanggal 1 Januari 1829 oleh Residen Rembang bernama Jean Baptista Baron de Salis, dibawah pengawasan A.B.A. Vrijheer Rismuller dari Riesmburg dan Kapten Komandan Pasukan di Rembang. Didalamnya juga diterangkan bahwa sampai tanggal 4 Juni 1829 pembangunanya belum dapat diselesaikan tetapi terpaksa ditinggalkan berhubung kepindahannya dari Rembang ke Semarang.
Fungsi Bangunan ini selain menjadi tempat ibadah juga pernah dipergunakan untuk tempat bazaar, tempat upacara pernikahan, tempat pos pasukan pemadam kebakaran dan untuk perpustakaan Rakyat.
