Rok 1976 to utwór "Under One Roof" opowiadający o geju, którego ojciec najpierw się go wyparł, a następnie go zamordował. Piosenka ta razem z "The Killing of Georgie" Roda Stewarta była jedną z niewielu kompozycji mówiących o trudnym temacie homofobii. Niektórzy twierdzili, że utwór była napisany specjalnie, by nie odnieść sukcesu i zakończyć współpracę z wytwórnią. Nawet jeśli nie była to prawda, plotki stały się faktem i zespół zaczął błyskawicznie tracić popularność.
Jeszcze w tym samym roku grupę opuścił Arnesen, a niedługo później Hurd. Tym sposobem w 1979 roku The Rubettes przestali istnieć. Cztery lata później za namową niemieckiego agenta, Williams stworzył The Rubettes featuring Alan Williams, aby występować na festiwalach. Zapobiegło to także powstaniu nowej formacji o tej samej nazwie. W czasie europejskiej trasy pomagali mu Richardson i Clarke, a także Mark Haley.