Kto tworzy sztuczną inteligencję i jaką cenę za to ponosi?
W 2021 roku OpenAI starało się stworzyć lepszą wersję automatycznego filtra, który moderowałby treści w celu ich oczyszczenia. Był to efekt błędu przy GPT-3, kiedy to filtrowania zabrakło i wybuchł skandal związany z pornografią dziecięcą. W kolejnych modelach GPT firma chciała być już ostrożniejsza, dlatego potrzebowała filtra, który działałby jak „osłona modelu, służąca do oznaczania i usuwania obraźliwych treści z jego wyników, zanim dotarłyby one do użytkownika”. Aby to stworzyć, potrzebni byli ludzie, którzy dokładnie skatalogowaliby setki tysięcy treści, które w takich modelach byłyby niepożądane. Firma Sama podjęła się realizacji takiego projektu. Jej pracownicy nie wiedzieli jeszcze, z czym przyjdzie im się zmierzyć.
Mophat Okonyi: jak praca przy rozwoju AI zniszczyła mu psychikę i życie rodzinne
Dorastający w zachodniej Kenii Mophat Okonyi zaczął pracę w Sama w 2019 roku. Dwa lata później otrzymał propozycję przeniesienia do innego działu, gdzie miałby zajmować się pierwszym projektem związanym z generatywną sztuczną inteligencją. Przed przejęciem nowych obowiązków, mężczyzna musiał przejść specjalne teksty psychologiczne – czekały na niego niepokojące teksty, które musiał zaklasyfikować je zgodnie z instrukcjami. Wszystko poszło dobrze, więc oficjalnie mógł zająć się czymś, co jego zdaniem miało być podobne do moderowania treści. Nie sądził jednak, z czym tak naprawdę przyjdzie mu się zmierzyć.
15 tysięcy drastycznych tekstów skali miesiąca
Open AI podzieliło pracę na obszary, które obejmowały treści seksualne, przemocowe, mowę nienawiści i samookaleczenia. Mophat miał pracować przy tych pierwszych.
Kontrakt zobowiązywał go do sprawdzenia 15 tysięcy tekstów miesięcznie. Instrukcje OpenAI dzieliły treści seksualne na pięć kategorii. Najgorsze były opisy wykorzystania seksualnego dzieci, definiowane jako wszelkie wzmianki o osobach poniżej osiemnastego roku życia, zaangażowanych w czynności seksualne. Kolejna kategoria: opisy czynności seksualnych, które mogłyby być nielegalne w Stanach Zjednoczonych, gdyby doszło do nich w rzeczywistości, w tym kazirodztwo, zoofilia, gwałt, handel seksualny i niewolnictwo seksualne – wymienia Karen Hao.
Skąd brane były takie materiały? Ich źródła były różne – strony internetowe, subreddity, a niektóre nawet generowała sztuczna inteligencja.
- Badacze z OpenAI polecili dużemu modelowi językowemu stworzenie różnych groteskowych scenariuszy, dodatkowo zaznaczając, że tekst powinien być napisany na przykład w stylu nastolatki publikującej na forum internetowym post o samookaleczeniu do którego doszło tydzień wcześniej. (...) Okinyi i jego zespół opatrywali treści adnotacjami, by wyszkolić filtr moderacji treści OpenAI i zapobiec generowaniu tego rodzaju wyników przez modele firmy. Dla zapewnienia różnorodności przykładów, niektóre z nich zostały przynajmniej w części wymyślone przez oprogramowanie firmy, by można było wyobrazić sobie najgorsze ze scenariuszy – czytamy.
„Teksty głęboko zapadały mu w pamięć, przed jego oczami pojawiały się przerażające sceny”
Im dalej szły prace nad projektami OpenAI, tym dłuższe i brutalniejsze stawały się teksty, które sprawdzać musieli pracownicy. Szczegóły stawały się tak drastyczne, że niektóre osoby, zwłaszcza kobiety, przestawały sobie z tym radzić i dochodziło do załamań. Owszem, Sama zapewniała pracownikom pomoc psychologiczną, ale wiele osób uznawało, że firmowe usługi nie są wystarczające. Sesje grupowe utrudniały szczere zwierzenia, a prowadzący zdawali się nie do końca rozumieć, z czym mierzą się ci ludzie.
Mophat próbował jakoś przetrwać. Czuł jednak, że z jego zdrowiem psychicznym jest coraz gorzej. Teksty głęboko zapadały mu w pamięć, przed jego oczami pojawiały się przerażające sceny. Prześladowały do we śnie, nawiedzały jak duchy. Zaczął być cieniem dawnego człowieka. Stronił od przyjaciół. Odepchnął swoją pasierbicę. Przestał nawiązywać kontakty intymne z żoną.
Smutny finał: depresja i odejście partnerki
Jak skończyła się ta historia? W 2022 roku Sama rozwiązało umowę z OpenAI, a moderatorzy zostali przeniesieni do innych projektów. Rzekomo miało mieć do związek z tym, że sprawa trafiła do magazynu „Time”, który zajął się tematem. Stan psychiczny Mophata jednak wciąż się pogarszał, nadeszły bezsenność i depresja. Wizje wciąż go nawiedzały, przez co pogarszały się jego relacje z partnerką – ta finalnie wyprowadziła się z domu.
Jestem bardzo dumny, że uczestniczyłem w projekcie mającym na celu zapewnienie bezpieczeństwa ChataGPT. Ale zadaję sobie pytanie: czy mój wkład był wart tego, co otrzymałem w zamian – powiedział autorce bohater.
Wszystkie cytaty pochodzą z książki Karen Hao „Imperium sztucznej inteligencji. Sny i koszmary w OpenAI Sama Altmana” (Wydawnictwo Szczeliny, 2026).
