Церковь Рождества Иоанна Предтечи была построена в 1822-1832 годах на месте каменной церкви XVIII века и служила тюремным храмом. В во время обороны крепости в 1941-1943 годах была разрушена. Церковь в 1985 году к 40-летию Победы превращена в памятник защитникам крепости. С 2010 года здесь проводят церковные службы под открытым небом. Существуют планы восстановления здания в первоначальном виде.