Одно из самых древних сооружений Выборга носит романтичное название костел Святого Гиацинта. За свою долгую историю оно претерпело множество изменений. В XV столетии здесь было деревянное здание, находившееся в ведении монастыря францисканцев. Позже его перестроили в камне, внутри стала действовать школа. После Реформации монастырь и школу упразднили, здание реконструировали и сделали жилым помещением. Долгое время в нем проживали состоятельные купцы.
В начале XVIII в. дом стал частью прихода имени Святого Гиацинта, в нем соорудили часовню. Позже второй этаж здания стал молельным залом, а на первом жили служители церкви, включая органиста. В первой половине XX в. в рыцарском доме прошла реконструкция, в ходе которой его стилизовали под костел, пристроили ризницу и маленькую колокольню. Во время Второй мировой войны убранство и росписи оказались уничтожены – узнать, как выглядел интерьер, можно только по старым фотографиям.
После войны в здании действовал склад, а в 1970-х гг. прошла очередная реставрация, и ему частично вернули старинный облик. Сейчас это одно из немногих типично готических сооружений России. Рыцарский дом признан объектом культурного наследия. В будущем в нем планируют открыть «пыточную комнату» – экспозицию, посвященную пыткам времен инквизиции. К затее отнеслись по-разному: одни выразили одобрение, другие сочли кощунством открывать выставку с подобной тематикой в бывшем храме.