OpenAI i rosyjska operacja z ChatGPT

OpenAI ujawnia dwa mocne wątki związane z AI

OpenAI znalazło się w centrum uwagi po publikacji dwóch głośnych informacji dotyczących wykorzystania narzędzi sztucznej inteligencji. Z jednej strony firma opisała rosyjską operację wpływu, która miała używać ChatGPT i docierać także do szkół w Ameryce Łacińskiej. Z drugiej — zaprezentowała wyniki tajnego modelu AI, który miał w jednym poleceniu wygenerować rozwiązania setek problemów matematycznych.

Choć oba przypadki dotyczą zupełnie różnych obszarów, łączy je jeden motyw: pytanie o to, jak daleko można posunąć automatyzację tworzenia treści i jak wiarygodne są efekty pracy modeli AI.

Rosyjska kampania wpływu i szkoły w Ameryce Łacińskiej

W opublikowanym raporcie OpenAI przekazało, że wykryło kampanie wpływu z zagranicy, które w różnym stopniu korzystały z ChatGPT. Najbardziej medialny wątek dotyczył operacji przypisywanej Rosji. Według firmy miała ona doprowadzić do sytuacji, w której szkoły w Ameryce Łacińskiej zostały wprowadzone w błąd.

Na tym jednak kończą się konkretne szczegóły dostępne w ujawnionych informacjach. Nie podano:

• które państwa regionu były objęte działaniami,
• jakie szkoły mogły zostać zaangażowane,
• jak dokładnie wykorzystywano ChatGPT,
• ani jakie treści rozpowszechniano.

OpenAI łączyło też tę kampanię z narastaniem napięć między Ukrainą i Polską oraz z reakcjami polityków w różnych krajach. Także w tym przypadku firma nie ujawniła jednak nazwisk, konkretnych wypowiedzi ani okoliczności tych reakcji.

W praktyce oznacza to, że raport wskazuje na skalę i charakter zagrożenia, ale nie daje pełnego obrazu operacji. Sama firma zaznaczyła, że opisuje efekty przypisywane tej aktywności, a nie wszystkie techniczne szczegóły jej działania.

Tajny model OpenAI i 722 matematyczne manuskrypty

Drugi wątek jest równie intrygujący. OpenAI opublikowało 722 manuskrypty matematyczne wygenerowane przez wewnętrzny, jeszcze nieudostępniony publicznie model. Według przedstawiciela firmy niemal wszystko miało pochodzić z jednego polecenia skierowanego do jednego agenta AI, choć część wyników mogła wymagać kilku prób.

Firma podkreśla, że model został przepuszczony przez około 4 tysiące problemów, a do publikacji wybrano tylko te wyniki, które uznano za wystarczająco istotne. OpenAI podaje też, że przeciętny wynik odpowiadał mniej więcej trzem godzinom obliczeń w trybie ChatGPT Pro.

Dlaczego część matematyków podchodzi sceptycznie

Nie wszyscy eksperci przyjęli te deklaracje bez zastrzeżeń. Część matematyków zwraca uwagę, że dopóki model nie zostanie udostępniony do niezależnej weryfikacji, trudno mówić o potwierdzonym przełomie. Pojawiły się też wątpliwości co do tego, czy rzeczywiście mamy do czynienia z wynikiem osiągniętym jednym poleceniem i jednym agentem.

Dodatkowo OpenAI udostępniło jedynie 10 skróconych opisów rozumowania oraz ograniczoną dokumentację. W repozytorium znalazły się formalizacje Lean tylko dla 162 z 722 manuskryptów, czyli około 22% całości. Sama firma przyznała, że część nieformalizowanych wyników może zawierać błędy.

W środowisku matematycznym to ważna uwaga, bo formalizacja Lean potwierdza jedynie poprawność zapisu dowodu w systemie, a nie to, że:

• problem został rzeczywiście rozwiązany w pełnym sensie,
• wynik jest nowy,
• albo ma rzeczywiście przełomowe znaczenie.

Spór o przejrzystość i odpowiedzialność

Do dyskusji dołączyły też instytucje naukowe. Wskazano, że w nowej rzeczywistości AI może tworzyć argumenty matematyczne, których człowiek nie rozumie w pełni, nie potrafi zweryfikować i za które nie chce brać odpowiedzialności. To rodzi pytanie o to, jak zachować ludzką kontrolę nad badaniami wspieranymi przez AI.

Pojawił się również zarzut, że OpenAI nie ujawniło wszystkiego, co wcześniej rekomendowano: modelu, promptów, skróconego toku rozumowania, czasu obliczeń i kosztu compute dla każdego wyniku. Firma opublikowała tylko część tych danych.

Z drugiej strony są też głosy bardziej entuzjastyczne. Dla części matematyków sam fakt, że AI potrafi generować poprawne argumenty na taką skalę, może oznaczać ważny krok w rozwoju badań matematycznych.

Co to oznacza dla rynku AI

Obie historie pokazują, że AI staje się narzędziem o bardzo szerokim zastosowaniu — od tworzenia treści mogących wpływać na opinię publiczną, po wspieranie zaawansowanych badań naukowych. Jednocześnie ujawniają też dwa duże problemy:

• wiarygodność wygenerowanych materiałów,
• kontrola i odpowiedzialność za ich wykorzystanie.

W przypadku działań propagandowych stawką jest bezpieczeństwo informacyjne. W przypadku matematyki — zaufanie do wyników, które mogą wykraczać poza ludzką intuicję, ale nadal wymagają niezależnej weryfikacji.

Najważniejsze fakty w skrócie

• OpenAI opisało rosyjską operację wpływu, która miała wykorzystywać ChatGPT.
• Według firmy kampania objęła także szkoły w Ameryce Łacińskiej.
• Nie ujawniono państw, instytucji ani szczegółowych metod działania.
• OpenAI pokazało też 722 manuskrypty matematyczne wygenerowane przez tajny model.
• Tylko 162 z nich mają formalizację Lean.
• Część środowiska naukowego domaga się pełniejszej weryfikacji i większej przejrzystości.

Całość sprawia, że OpenAI znów staje się symbolem dwóch stron rewolucji AI: ogromnych możliwości i równie dużych pytań o bezpieczeństwo oraz odpowiedzialność.