W wieku 17 lat zaczęła występować z zespołem Automatic Dlamini z którym wydała dwie płyty - „From A Diva To A Diver” i „Here Catch Shouted His Father”. Grupa rozpadła się jednak w 1990 roku, a Polly, wraz z byłymi członkami Automatic Dlamini – Ianem Olliverem i Robertem Eblisem – założyła nową formację o nazwie PJ Harvey.
W 1992 roku muzycy wydali swoją debiutancką płytę – „Dry”, która mimo względnie niskiego nakładu zdobyła w alternatywnych kręgach dużą popularność. Płyta obfituje w ciężkie, surowe brzmienia, a samą Harvey można usłyszeć tam nie tylko w roli wokalistki, ale także grającą na gitarze i skrzypcach.
Pierwszym międzynarodowym sukcesem zespołu PJ Harvey okazał się krążek „To Bring You My Love”, który zdobył wiele prestiżowych nagród, w tym nominację do Mercury Music Prize i MTV. Z kolei wydana w 1998 roku płyta „Is This Desire?” była dużą niespodzianką dla słuchaczy ze względu na przeważającą na niej elektronikę. Jednak to właśnie tę płytę Harvey uznaje za swoje najlepsze dzieło.
Największym sukcesem komercyjnym w karierze PJ Harvey okazał się wydany w 2000 roku album „Stories from the City, Stories from the Sea”, na którym swojego głosu gościnnie użyczył wokalista Radiohead - Thom Yorke. Płyta ta otrzymała nagrodę Mercury Music Prize.
Wydaną w 2007 roku „White Chalk” Harvey po raz kolejny zaskoczyła swoich fanów, gdyż wszystkie utwory na krążku zostały skomponowane na pianinie.
27 marca 2009 ukazał się najnowszy longplay artystki - „A Woman A Man Walked By”, który promowany jest singlem „Black Hearted Love". Po raz kolejny, po trzynastu latach przerwy, do współpracy w studiu artystka zaprosiła Johna Parisha.
W swojej karierze artystka może również pochwalić się występami z takimi artystami jak Nick Cave, Joshua Homme (Queens of the Stone Age), czy Björk.
Thom Yorke • Johnny Lee Hooker • Jimi Hendrix • Nick Cave • Queens Of The Stone Age • Björk • Agnieszka Chylińska • Marit Larsen • Bat For Lashes • Meredith Brooks • Jacek Lachowicz • Rykarda Parasol • Emily Jane White • Tres.B • Scout Niblett • Anna Calvi • Hey • Tracy Chapman • Vanessa Carlton