Artystka w 1961 roku podpisała kontrakt z wytwórnią Epic, a następnie pojechała do Nowego Jorku, żeby tam nagrywać. Debiutancki album wykonawczyni ukazał się rok później i nosił tytuł "Her Name Is Erma". Oprócz jazzowych i popowych utworów, znalazły się tam także nagrania w stylu r&b. Artystka była jednak zawiedziona tym, że nie ma wpływu na swoją twórczość i postanowiła zakończyć współpracę z Epic. Początek lat 70. spędziła więc występując wspólnie z zespołem Lloyda Price'a.
Franklin powróciła w 1967 roku z piosenką "Piece of My Heart", która wylądowała w pierwszej dziesiątce listy r&b. Zanim jednak artystka zdążyła rozwinąć skrzydła i nagrać płytę, zmarł jej producent. Dlatego Erma wspierała siostrę w czasie jej nagrań i na koncertach. W roku 1969 artytka zaczęła współpracę z wytwórnią Brunswick, gdzie wydała utwór "Gotta Find Me a Lover (24 Hours a Day)", a następnie pełny album "Soul Sister".
Erma Franklin zmarła 7 września 2002 roku.