Историко-краеведческий музей организован во Дворце Алфераки: его возвели еще в 1848 году для состоятельного помещика Н. Д. Алфераки в стиле необарокко, где проводились пышные балы. Инициатором создания музея выступил А. П. Чехов. Фасад строения декорирован 4 колоннами и лепниной. Внутри здания есть мраморная 41-ступенчатая лестница.
В конце XX века после реставрации дворцу был возвращен его первоначальный облик. Сегодня он является одним из самых старых, красивых и известных музеев в южной части России.
В музее располагается несколько экспозиций, посвященных живописи, истории монетной чеканке, скульптуре, керамике, археологическим находкам, орудию, металлу. Так, археологический зал содержит более 78,5 тысяч экспонатов, представляющий собой уникальные материалы каменного века. Есть каменные, бронзовые, костяные находки.
Коллекция восточного металла состоит из бытовых предметов и изделий Индии, Китая и Японии. Экспозиция, посвященная оружию, содержит винтовки и сабли, мины, военную форму, архивную документацию.
Также в музее есть картинная галерея, камин, статуя ангела, крупные золотые часы. С любыми изделиями и предметами коллекции можно фотографироваться.