Pierwsi Żydzi mieszkali w Pińczowie już w pierwszej połowie XVI wieku. Od 1576 płacili podatki, a w 1594 roku otrzymali przywileje od właściciela miasta, Zygmunta Myszkowskiego, w tym zezwolenie na budowę synagogi. Była ona budowana w latach 1594-1609. Jej projektantem był najprawdopodobniej pochodzący z Florencji architekt Santi Gucci.
Podczas II wojny światowej hitlerowcy zdewastowali wnętrze synagogi oraz wywieźli lub zniszczyli jej całe ruchome wyposażenie. Wówczas przepadł zbiór około stu zwojów Tory, gromadzony przez wieki w synagodze. W 1944 roku zniszczeń dopełniły bombardowania. Po zakończeniu wojny przystąpiono do prac remontowych synagogi – w 1947 roku zrekonstruowano dach. Później w tym miejscu mieścił się magazyn nawozów sztucznych i materiałów budowlanych.
Obecnie budynek stanowi on Pomnik Pamięci o Holocauście Pińczowskich Żydów.