AI wykorzystana przez Rosjan, Irańczyków i Huti. Alarmujący raport

AI na wojnie. Iran, Rosja i Huti mieli wykorzystywać Claude'a

Sztuczna inteligencja miała być wykorzystywana przez przeciwników Stanów Zjednoczonych nie tylko do propagandy czy cyberataków. Z najnowszego, liczącego ponad 150 stron raportu firmy Anthropic wynika, że model Claude był używany także w działaniach związanych z wojskiem i zaawansowanymi systemami uzbrojenia. Autorzy dokumentu opisują przypadki, które miały zostać wykryte i zakłócone przez firmę. Wśród nich znalazły się działania przypisywane użytkownikom powiązanym z Iranem, Rosją, Chinami oraz jemeńskimi Hutimi.

Irańczycy mieli śledzić amerykańskie okręty

Jednym z najbardziej niepokojących przypadków jest działalność grupy użytkowników powiązanych z Iranem. Według raportu Claude miał być wykorzystywany do gromadzenia i analizowania informacji pochodzących między innymi ze zdjęć, transponderów oraz danych satelitarnych. Celem miało być śledzenie amerykańskich okrętów i poszukiwanie słabych punktów w ich systemach komunikacji. AI miała więc pełnić rolę narzędzia wspierającego analizę informacji wywiadowczych.

Rosjanie i autonomiczny rój dronów

Dużą część raportu poświęcono również Rosji. Anthropic opisuje przypadek grupy Rosjan, która miała wykorzystywać Claude'a podczas prac nad systemem autonomicznego roju dronów. Według autorów raportu grupa prawdopodobnie nie była bezpośrednio związana z rosyjskim wojskiem ani Kremlem. AI miała jednak pomagać w tworzeniu systemu praktycznie od podstaw.

Myślisz, że AI zabierze ci pracę? Nowe dane wskazują jasno, jakie umiejętności pracodawcy cenią najbardziej

Nowe technologie zmieniają rynek pracy na naszych oczach, ale nie wszystko da się zautomatyzować. Najnowsze dane pokazują, że pracodawcy coraz częściej szukają osób, które potrafią myśleć nieszablonowo, podejmować decyzje i inspirować innych.

To nie jedyny rosyjski wątek. Claude miał być także wykorzystywany przez hakerów powiązanych z rosyjskimi służbami, znanych jako Midnight Blizzard. Dzięki sztucznej inteligencji mieli oni przyspieszać i automatyzować część operacji cyberszpiegowskich. Ich działania miały obejmować cele związane z wywiadem wojskowym w Ukrainie i Europie, a także organizacje dyplomatyczne i wojskowe oraz osoby związane z polityką zagraniczną USA. Szczególnym zainteresowaniem grupy miały cieszyć się firmy pracujące nad technologiami dronowymi.

AI wykorzystana także do propagandy

Raport wskazuje również na wykorzystanie Claude'a do działań propagandowych. Rosyjscy propagandyści związani z państwowymi mediami mieli korzystać z modelu do przygotowywania treści publikowanych następnie w różnych serwisach i w różnych krajach. Wśród wskazanych przez Anthropic państw znalazły się między innymi Mołdawia i Republika Środkowoafrykańska.

Chiński wywiad również korzystał z Claude'a

W raporcie pojawia się także wątek chiński. Według Anthropic jeden z funkcjonariuszy chińskiego wywiadu wojskowego miał wykorzystywać Claude'a do przygotowywania wewnętrznych raportów przeznaczonych dla wysokich rangą przedstawicieli Komunistycznej Partii Chin lub wojska. Tematyka tych materiałów miała obejmować między innymi broń wykorzystującą energię skierowaną, w tym broń mikrofalową, a także łańcuch dostaw niezbędny do pozyskania jej komponentów.

Pracował przy rozwoju ChataGPT. Zniszczyło mu to psychikę i relacje z ludźmi. „Czy mój wkład był wart tego, co otrzymałem w zamian?”

W książce „Imperium sztucznej inteligencji. Sny i koszmary w OpenAI Sama Altmana” autorka, Karen Hao, prezentuje kulisy prac nad rozwojem sztucznej inteligencji. Przez co musieli przejść pracownicy, aby do internautów trafiła finalna wersja bota…

Huti mieli wykorzystać AI przy pracach nad rakietami

W raporcie opisano również przypadek związany z jemeńskimi Hutimi. Według Anthropic rebelianci mieli korzystać z Claude'a podczas prac nad oprogramowaniem przeznaczonym do naprowadzania zaawansowanej broni. Wśród wymienianych systemów znalazły się między innymi wielostopniowe pociski balistyczne.

Anthropic podkreśla przy tym, że nie chodzi o sytuację, w której sztuczna inteligencja samodzielnie projektowała czy budowała broń. Problemem jest raczej to, że model mógł znacząco ułatwiać ludziom wykonywanie części zadań wymagających wcześniej specjalistycznej wiedzy.

Mocne ostrzeżenie autorów raportu firmy Anthropic

Autorzy raportu ostrzegają, że rozwój AI może obniżać próg wejścia do działań, które dotychczas wymagały dużych kompetencji technicznych. W dokumencie znalazło się mocne ostrzeżenie, że:

Wyrafinowane ataki nie wymagają już wyrafinowanych napastników.

Publikacja raportu przypadła na okres rosnącej debaty dotyczącej bezpieczeństwa rozwoju sztucznej inteligencji. W ostatnim czasie pojawiły się również głosy pracowników branży, którzy apelują o większą ostrożność w rozwijaniu coraz potężniejszych modeli AI.

_{Źródło: RMF FM/PAP}

• Nawet 50 tys. zł miesięcznie i 300 zł za godzinę. Te zawody opłacają się teraz najbardziej
• Myślisz, że AI zabierze ci pracę? Nowe dane wskazują jasno, jakie umiejętności pracodawcy cenią najbardziej
• Przełom w medycynie. AI potrafi wykryć raka piersi nawet 6 lat przed lekarzem
• Pracował przy rozwoju ChataGPT. Zniszczyło mu to psychikę i relacje z ludźmi. „Czy mój wkład był wart tego, co otrzymałem w zamian?”
• Tak stracili 100 tysięcy złotych. „Bezwzględnie wykorzystali miłość do dziecka”