Pierwszy singiel artysty - „The Remedy (I Won't Worry)” powstał we współpracy z The Matrix. Nad płytą „Waiting for My Rocket to Come” (2002) pracował także jego przyjaciel - Billy „Bushwalla” Galewood, pisząc utwory - „Curbside Prophet” oraz „I'll Do Anything”.
W czerwcu i lipcu 2005 roku supportował Alanis Morissette podczas jej akustycznej trasy Jagged Little Pill. W tym okresie także powstał jego drugi longplay – „Mr. A-Z”, który zadebiutował w zestawieniu Billboard 200 na piątym miejscu. W grudniu tego roku został nominowany do nagrody Grammy w kategorii Best Engineered Album, Non-Classical, a producent płyty - Steve Lillywhite – w kategorii Producent of the Year.
Mraz rozpoczął długie tournee promocyjne. Występy wspomagali - Bushwalla oraz Tristan Prettyman, z którym napisał w 2002 roku duet „Shy That Way” oraz utwór „All I Want For Christmas is Us”. Również prywatnie byli parą, a ich znajomość zakończyła się w 2006 roku.
W listopadzie 2005 roku otworzył światową trasę koncertową zespołu Rolling Stones. Również w tym samym roku, wspólnie z Tristanem Prettymanem, Michelle Branch, Jossem Stonem, Keithem Urbanem, Alanis Morissette, czy Michelle Williams, pojawił się w reklamie firmy The Gap nazwanej „Favorites”.
W marcu następnego roku wystąpił po raz pierwszy w Singapurze z Tocą w ramach corocznego Mosaic Music Festival. Trzy miesiące później zagrał małe koncerty w USA, Wielkiej Brytanii oraz Irlandii. Tournee obejmowało również koncerty w wersji akustycznej. W grudniu zarejestrowano album live „Selections for Friends” z jego występów podczas minionego lata.
2007 rok rozpoczął nowym singlem „The Beauty in Ugly”, wcześniej funkcjonującym pod tytułem „Plain Jane”. Utwór pojawił się w kampanii „Be Ugly in '07”. W wersji hiszpańskiej nosi tytuł „La Nueva Belleza (The New Beauty)”. W tym samym roku jego „Geek in the Pink” został wykonany w amerykańskiej wersji Idola oraz był jednym z najczęściej ściąganych kawałków w sieci.
W maju 2008 roku ukazał się album „We Sing. We Dance. We Steal Things” . Promował go singiel „I'm Yours”. Po pięciu miesiącach wydawnictwo przekroczyło sprzedaż 500 tysięcy kopii i pokryło się złotem. W grudniu tego roku wykonał w Oslo utwór „A Beautiful Mess” razem z pełnym składem orkiestry na koncercie podczas rozdania Nagród Nobla, zaś instrumentalny początek piosenki „I'm Yours” wykorzystało jedno z towarzystw ubezpieczeniowych w swojej kampanii promocyjnej. Cały utwór został nominowany do nagrody Grammy w kategorii Song of the Year oraz Best Male Pop Vocal Performance, zaś longplay – w kategorii Best Engineered Album, Non-Classical.
Michelle Branch • Alanis Morissette • Rolling Stones • Joss Stone • Keith Urban • Michelle Williams • Dave Matthews Band • James Blunt • Gavin DeGraw • James Morrison • Jewel • Colbie Caillat • Priscilla Ahn • Marit Larsen • K'Naan