Yozgat’ın yaklaşık 100 kilometre doğusunda yer alan Akdağmadeni’nin yerleşim yeri tarihi 1815 yılında başlamıştır. Bu tarihi ilçede ilk belediye teşkilatı 1862 yılında kurulmuştur. Türkiye’de kurulan ilk belediyenin 1858 yılında Beyoğlu Belediyesi olmasından yola çıkarak, Akdağmadeni Belediyesi’nin 1862 yılında kurularak Türkiye’nin ikinci belediyesi olması oldukça ilginç bir bilgidir. Akdağmadeni 1871 yılında ilçe hüviyetini almıştır. Yozgat’ın kadim ilçelerinden olan Akdağmadeni 1831 yılında yapılan ilk nüfus sayımında Yozgat toplam nüfusunun üçte birini oluşturmaktadır. Önemli bir ilçe olan Akdağmadeni'nde yerli halk ile birlikte yaşayan Hristiyan nüfus dikkat çeker. Yeşildere (Tahmaz) Mahallesi'nde bulunan Akdağmadeni Kilisesi’nin kitabesinden elde edilen bilgiler ışığında 1862 tarihinde yapıldığı tahmin edilmektedir. Ön cephesi kesme taş kullanılarak yapılmış, diğer cepheleri ise kesme mermer taşlardan yapılmıştır.
Kilisenin ön kısmında bulunan yuvarlak kemerli giriş boşluğu hemen göze çarpar. Bu kemerler iki tane yuvarlak ve yanlarda iki tane köşeli taşlar ile bağlanmıştır. Giriş kapısı amacıyla inşa edilen yuvarlak kemer üzerinde on bir çerçeve altında iki adet Grekçe kitabe bulunur. Yapıldığı dönem göz önüne alındığında yoğun kullanılan bir kilise olduğu hemen anlaşılmaktadır. Akdağmadeni Kilisesi’nin iç mekanı dikdörtgen şeklinde yapılmış olup, tabanında taş döşemeler dikkat çeker. Geniş bir bölümden oluşan Kilisenin iç bölümünde kiliseyi doğu, batı doğrultusunda üç eşit parçaya bölen sekiz adet yuvarlak sütun bulunmaktadır. Birbirlerine yuvarlak kemer ve ağaç hatıllarla bağlanan sütunlar heybetli görüntüsü ile ziyaretçilerin ilgisini çekmektedir. Akdağmadeni Kilisesi’nin iç kısmındaki yer yer haç ve geometrik süslemeler de görülmeye değerdir.
