霍州署创建年代不详，据明嘉靖三十七年(1558年)版《霍州志》记载，元代州署已具一定规模，元大德七年(1303年)大地震，建筑全部塌毁。次年重建，元至正十八年(1358年)毁于火灾，唯大堂幸存。明洪武四年(1371年)重建，后代又屡有增补修葺。现存建筑大堂为元代原构，仪门、戒石亭为明代建筑，余皆清代所建。1996年被列为第四批全国重点文物保护单位。