Muzeum powstało tuż po wojnie, na bazie ocalałych zbiorów dawnego niemieckiego Heimatmuseum, które założono jeszcze w 1925. Ekspozycje stałe poświęcone są historii i kulturze materialnej Mazurów. Prezentowane zbiory pokazują skomplikowane dzieje pogranicza polsko-niemieckiego i bogactwo tradycji tego regionu, wynikające z kilkuset lat przenikania się różnych wpływów.
Muzeum znajduje się w południowym i wschodnim skrzydle ratusza miejskiego, którego dziedziniec od zachodu zamykają pozostałości zamku krzyżackiego.