Hem coğrafi konumu hem de köklü tarihi geçmişi sayesinde Kars, günümüzde de hâlen varlığını koruyan birçok farklı tarihi yapıya ev sahipliği yapıyor. Bunlardan biri de Merkez ilçesine bağlı Kaleiçi ve Sukapı mahallelerini birbirine bağlayan Taş Köprü. Kars Çayı’nın Dereiçi Mahallesi’ne akan bölümündeki dar boğazın üzerine inşa edilmiş olan Taş Köprü, 1579 yılında III. Murat’ın emriyle kente gelen Lala Mustafa Paşa tarafından inşa ettirilmiş.
Uzun yıllar boyunca aktif şekilde kullanılmış, ancak bir noktadan sonra zamana dayanamamış. 1715 yılında gerçekleşen taşkın köprünün ayak temelleri dışındaki birçok kısmına zarar vermiş. Köprünün bir bölümü tamamen yıkıldığı için, Kars eşrafından Karahanoğlu Hacı Ebubekir 1725 yılında köprüyü yeniden inşa ettirmek zorunda kalmış. Bu sebeple köprünün ismi bazı kaynaklarda Karahanoğlu Köprüsü olarak da geçebiliyor. Karahanoğlu Hacı Ebubekir köprünün inşası tamamlandıktan sonra Kaleiçi’ne bir konak da yaptırmış. Hatta bu konağın içindeki 400 ciltlik kütüphane, Osmanlı dönemi boyunca Kars’ta varlığı bilinen tek kütüphane olma unvanını da taşıyor. Bu kütüphanede bulunan kitaplar uzun süredir Erzurum Atatürk Üniversitesi’nin çatısı altında bulunuyor.
Orijinal haliyle üç tonoz kemerli şekilde inşa ettirilen Taş Köprü’nün yapımında düzgün kesme bazalt taşı kullanılmış. 1991 yılında onarım çalışmasından geçirilen yapı, yine aynı yıl içine anıt eser tescili de almış. Köprünün üzerinde bulunduğu Kars Çayı, Kars Kalesi’nin batı tarafından kıvrılarak kuzeye doğru ilerliyor ve Ermenistan sınırının bulunduğu noktadan Arpaçay’a dökülüyor.
