Своим основателем, Карлом IV, костел был предназначен для переноса сюда капитула из села Садска. Здание было закончено и освящено в 1373 г. В 1897 г. костел был обновлен архитектором Йозефом Мокером. Внутри находится цикл настенных изображений, происходящих с 1390 г. Костел представляет собой готическое односводчатое здание с характерной восьмисторонней надстройкой башни. Костел Святого Аполлинария является одним из трех готических строений с типичной восьмисторонней надстройкой, которые можно наблюдать неподалеку друг от друга с замка Вышеград.