Rok później grupa podpisała kontrakt z Reprise/Warner Bros. i w 2004 roku ukazała się ich druga, bardziej agresywna płyta - "Three Cheers for Sweet Revenge". Krążek zawierał kilka singli, które zyskały popularność w komercyjnych radiostacjach oraz MTV, w tym "I'm Not Okay (I Promise)", "Helena" i "The Ghost of You".
W połowie 2004 roku zespół opuścił jeden ze współzałożycieli - Matt Pelissier. Jego miejsce zajął Bob Bryar, który wcześniej pracował w ekipie koncertowej The Used. Po niezwykle udanej trasie koncertowej muzycy powrócili do studia, aby nagrać trzeci album. Płyta "The Black Parade" ukazała się jesienią 2006 roku, pilotowana singlem "Welcome to the Black Parade".