Pierwsze własne piosenki zaczął pisać w czasie studiów na wydziale filmowym Uniwersytetu Kalifornijskiego. W tym czasie stworzył dwa dokumentalne filmy o surfingu, które zostały nagrodzone na festiwalach branżowych.
Karierę muzyczną rozpoczął dzięki Garrettowi Duttonowi z hip-hopowego zespołu G. Love & Special Sauce. Jack nagrał utwór "Rodeo Clowns", który znalazł się na płycie tego zespołu - "Philadelphonic" (1999). Dzięki temu na Johnsona uwagę zwrócił Ben Harper i z jego pomocą, w roku 2001, młody wokalista zadebiutował płytą "Brushfire Fairytales".
Drugi album artysty "On and On" ukazał się pod koniec 2003 roku i otrzymał bardzo pozytywne recenzje. Krążek zadebiutował na 3. miejscu amerykańskiej listy przebojów. Ten sam wynik powtórzył trzeci album Jacka, "In Between Dreas", który ukazał się w roku 2005. Longplay przyniósł artyście dwie nagrody Brit Award.