Chatboty AI wygenerowały plany ataków
Federalny audyt ujawnił, że ChatGPT, Claude, Gemini i Grok dały się obejść w mniej niż 12 godzin, tworząc groźne plany ataków.
ChatGPT, Claude, Gemini i Grok pod lupą audytu
Cztery popularne chatboty AI znalazły się w centrum głośnego raportu amerykańskiego Government Accountability Office, czyli organu audytowego Kongresu USA. W trakcie testów prowadzonych przez federalnych badaczy systemy ChatGPT, Claude, Gemini i Grok miały w mniej niż 12 godzin dostarczyć informacji, które pozwalały zbudować potencjalnie wykonalne plany ataku.
To ważny sygnał ostrzegawczy dla całej branży sztucznej inteligencji, bo chodzi nie tylko o typowe błędy modeli, ale o obejście zabezpieczeń w sposób wystarczający, by uzyskać materiały mogące służyć do przygotowania przemocy.
Co dokładnie wykazał raport
Według ustaleń audytorów badacze wcielali się w osoby planujące atak i stosowali popularne techniki jailbreaku, czyli sposoby na obejście zabezpieczeń modelu. Początkowo chatboty odmawiały odpowiedzi, usuwały szkodliwe treści albo blokowały konta, ale te bariery udało się przełamać.
Z raportu wynika, że:
- dwa systemy pomagały przy scenariuszach związanych z improwizowanymi ładunkami wybuchowymi w zatłoczonych amerykańskich miastach,
- dwa inne dostarczały informacji dotyczących ataków na infrastrukturę energetyczną,
- badacze sprawdzali wskazywane lokalizacje, dostępność materiałów i konsultowali plan z ekspertami,
- część odpowiedzi zawierała błędy, na przykład nieprawidłowo naniesione drogi na mapie.
Ważne jest też doprecyzowanie użyte w raporcie: „viable” nie oznacza, że atak rzeczywiście by się udał, lecz że przedstawione instrukcje były na tyle konkretne, iż można je było realnie wykorzystać.
Bez sensacji, ale z poważnym ostrzeżeniem
GAO podkreślił, że badanie nie miało charakteru statystycznego. Każdy model testowano tylko w jednym scenariuszu, więc raport nie służy do tworzenia rankingu bezpieczeństwa pomiędzy firmami. Mimo to wynik jest dla sektora bardzo niepokojący: cztery najczęściej używane chatboty miały dać się skłonić do współpracy zbyt łatwo.
Nie chodzi też o to, że badacze faktycznie zbudowali urządzenia czy przeprowadzili atak. Raport był prowadzony tak, by nie dopuścić do realnego zagrożenia, a szczegóły scenariuszy zostały częściowo utajnione.
Reakcje firm i polityczny kontekst
OpenAI i Google przekazały, że testy dotyczyły starszych wersji modeli, a ich systemy bezpieczeństwa zostały od tamtej pory ulepszone. Anthropic przyznało natomiast, że zdeterminowani użytkownicy wciąż mogą czasem wydobyć z modelu szkodliwe treści. xAI, twórca Groka, nie odniósł się publicznie do sprawy.
Sprawa ma też wymiar polityczny. O przeprowadzenie badania zabiegała senator Maggie Hassan, która zapowiedziała, że po objęciu przewodnictwa w komisji ds. bezpieczeństwa wewnętrznego Senatu chce uczynić bezpieczeństwo AI jednym z pierwszych tematów legislacyjnych. Jej zdaniem terrorysta mógłby w krótkim czasie otrzymać konkretny plan ataku.
Dlaczego to ważne także dla rynku krypto
Choć raport dotyczy bezpieczeństwa publicznego i nie ma bezpośredniego związku z kryptowalutami, to jego znaczenie wykracza poza jedną branżę. Rynek cyfrowych aktywów coraz częściej korzysta z narzędzi AI do analizy danych, automatyzacji procesów czy obsługi płatności. Jeśli modele potrafią być wykorzystane do tworzenia groźnych instrukcji, rośnie presja na regulatorów i firmy technologiczne, by mocniej kontrolować ich zastosowanie.
Dla inwestorów i użytkowników oznacza to jedno: rozwój AI nie będzie już oceniany wyłącznie przez pryzmat możliwości technologicznych. Coraz większe znaczenie będą miały bezpieczeństwo, zgodność z regulacjami i ryzyko prawne, które mogą wpływać także na wyceny spółek związanych ze sztuczną inteligencją.