
Debiutem wydawniczym dla grupy było instrumentalne jazzowe nagranie z 1963 roku "Why Should We Not?", które jednak nie przyniosło grupie rozgłosu. Pierwsze sukcesy przyszły rok później, gdy zespół został poproszony o napisanie tematu przewodniego dla telewizyjnego programu o muzyce rock&rollowej. Piosenka "5-4-3-2-1" zdobyła wielką popularność, w tym też czasie miejsce Dave’a Richmonda zajął w grupie Tom McGuinness, a zespół idąc za ciosem odniósł wielki sukces kompozycją "Do Wah Diddy Diddy". Utwór był coverem piosenki wykonywanej wcześniej tego samego roku przez grupę Exciters. O ile jednak tamta wersja nie stała się wielkim przebojem, wykonanie Manfred Mann wylądowało na szczytach zestawień zarówno w Stanach Zjednoczonych, jak i w Wielkiej Brytanii. Podobnie było nieco później z piosenką "Sha La La" (wcześniej wykonaną przez The Shireless).
Rok 1965 to kolejne przebojowe single Manfred Mann, zarówno własne kompozycje, jak i covery, np. własna wersja "With God On Our Side" Boba Dylana. Zespół przyjął w pierwszych latach taktykę popowych singli, ale na albumach nagrywał muzykę r&b, soul oraz jazz. Ta wyraźna różnica powodowała też podziały i zamieszanie wśród fanów, którzy w większości poszukiwali na płytach Manfred Mann materiału w stylu "Do Wah Diddy Diddy", a zamiast tego odnajdywali muzykę dużo bardziej złożoną i ambitną.
Kolejne lata przyniosły zespołowi wiele roszad personalnych, wokalista Paul Jones został zastąpiony przez Mike'a s'Abo, a na pozycji basisty za Mike'a Vickersa pojawił się najpierw Jack Bruce, a potem, gdy ten odszedł do Cream, Klaus Voormann. Z nowym wokalistą w składzie grupa zwróciła się ku bardziej akustycznemu i delikatnemu brzmieniu oraz pisaniu tekstów na wzór Boba Dylana, które zyskały charakter komentarzy społecznych. Kolejne przebojowe single Manfred Mann były właśnie coverami piosenek ich mistrza: "Just Like a Woman" oraz "Mighty Quinn".
1969 rok to koniec zespołu zniechęconego postrzeganiem go w kategoriach dostarczyciela przebojów. Założyciel grupy, Mann, powołał później do życia eksperymentalny zespół jazz rockowy Manfred Mann Charter Three, jako odreagowanie wieloletniej produkcji hitów. Jednak już w 1971 roku stworzył zupełnie nową grupę Manfred's Mann Earth Band, z którą kontynuował karierę muzyczną.