В состав музея входят 5 зданий, причем 2 из них находятся за городом — в Тутаеве и в селе Рыбницы.
Главное место занимает 3-х этажный Губернаторский дом. Великолепные портики с колоннами и башенка делают его узнаваемым с первого взгляда. Сохранились флигели, конюшня, различные хозяйственные постройки.
В художественном музее можно увидеть коллекцию русской живописи 13-17 веков, скульптуры, церковную утварь. Также в музее хранятся полотна Репина, Крамского, Брюллова и других знаменитых отечественных художников.
Есть постоянные и временные экспозиции. Можно полюбоваться фарфором и старинными монетами.