Abe Vigoda był rodowitym nowojorczykiem. Aktorską karierę rozpoczynał od występów teatralnych. Popularność przyniosły mu role w broadwayowskich produkcjach: "Marat/Sade", "Człowiek w szklanej kabinie" czy "Tough to Get Help".
Przełomowa okazała się dla niego rola mafiosa Salvatore Tessio w "Ojcu chrzestnym" Francisa Forda Coppoli z 1972 roku. Vigoda pojawił się także w retrospektywnej scenie w drugiej części trylogii Coppoli.
Swą pozycję ugruntował kreacją detektywa Phila Fisha w realizowanym w latach 70. sitcomie "Barney Miller" a potem w jego spin-offie "Fish". Vigode mogliśmy oglądać również w takich tytułach, jak: "Wyścig Armatniej Kuli II" (1984), "I kto to mówi" (1989) oraz "Joe kontra wulkan" (1990).