Anthropic ostrzega: AI może tworzyć AI

Anthropic bije na alarm

Anthropic opublikowało raport "When AI Builds Itself", w którym ostrzega, że branża zbliża się do momentu, gdy systemy AI będą w stanie projektować i ulepszać własnych następców bez stałego udziału człowieka. Firma wezwała największe laboratoria AI na świecie do stworzenia mechanizmu globalnego wstrzymania rozwoju najbardziej zaawansowanych modeli, jeśli pojawi się ryzyko utraty kontroli nad tym procesem.

Claude pisze już większość kodu

Najmocniej wybrzmiewają dane pokazujące, jak bardzo Claude wszedł już w wewnętrzne procesy firmy. Według raportu:

• ponad 80% kodu trafiającego do produkcyjnej bazy Anthropic jest dziś pisane przez Claude,
• przed startem Claude Code udział ten był jeszcze na poziomie niskich jednocyfrowych wartości,
• zespół inżynierów wdraża dziś około osiem razy więcej kodu dziennie niż w 2024 roku.

To właśnie ten skok ma być jednym z powodów rosnącego niepokoju wokół tego, jak szybko AI przejmuje zadania, które do tej pory wykonywali ludzie.

Od asystenta do systemu, który wybiera eksperymenty

W raporcie pojawia się też mocniejsza teza: AI nie tylko wykonuje polecenia, ale zaczyna samodzielnie oceniać, jakie eksperymenty warto przeprowadzić. Anthropic opisuje to jako początek tzw. recursive self-improvement, czyli sytuacji, w której model pomaga tworzyć lepsze wersje samego siebie.

Firma podała przykład z kwietnia, gdy Claude został wykorzystany do rozwiązania otwartego problemu z zakresu bezpieczeństwa AI. W testach:

• dwa ludzkie zespoły badawcze odzyskały około 23% różnicy w wynikach między modelami,
• agenci Claude odzyskali 97% tej różnicy,
• całość wymagała ponad 800 godzin obliczeń.

To pierwszy publicznie opisany przypadek, w którym Claude miał nie tylko wykonywać zadanie, ale też wykazać się osądem badawczym podczas pracy.

Globalna pauza zamiast wyścigu zbrojeń

Anthropic uważa, że problemem nie jest już sama automatyzacja prostych zadań, lecz moment, w którym AI zacznie realnie decydować o kierunku własnego rozwoju. Według autorów raportu, jeśli kolejne generacje modeli będą rozwijać się z coraz mniejszym udziałem ludzi, nawet drobne błędy mogą się kumulować i stać się trudne do skorygowania.

Proponowane rozwiązanie to weryfikowalna globalna pauza: największe laboratoria miałyby zatrzymać się równocześnie, a niezależna weryfikacja potwierdzałaby, że faktycznie doszło do wstrzymania prac. Anthropic deklaruje, że byłoby gotowe dołączyć do takiego porozumienia, ale podkreśla, że jednostronne spowolnienie nie miałoby sensu, bo oddałoby przewagę konkurencji, która nie poszłaby tą samą drogą.

Tło: współpraca z NSA i spór z Pentagonem

Publikacja raportu zbiegła się w czasie z informacjami, że Anthropic miało wysłać około sześciu inżynierów do NSA, by wspierać wdrożenie modelu Mythos w działaniach ofensywnych z obszaru cyberbezpieczeństwa. Z przecieków wynikało, że takie rozwiązania mogłyby służyć także do operacji przeciw sieciom w krajach takich jak Chiny czy Iran.

Jednocześnie firma pozostaje w sporze z Pentagonem. Wcześniej Departament Obrony uznał ją za zagrożenie dla łańcucha dostaw, a konflikt dotyczył tego, że Anthropic nie chciało dopuścić użycia Claude do w pełni autonomicznej broni ani masowej inwigilacji wewnątrz kraju. NSA miała być objęta innymi zasadami, dlatego korzystanie z Mythos mogło tam być kontynuowane.

Co to oznacza dla rynku

Dla rynku krypto i sektora AI taki przekaz działa dwojako. Z jednej strony pokazuje, jak szybko rośnie potencjał technologii, co zwykle wspiera narrację wokół projektów AI. Z drugiej strony przypomina, że rozwój tej branży wchodzi w fazę, w której stawką staje się nie tylko przewaga produktowa, ale też kontrola nad samym procesem tworzenia kolejnych modeli.

W praktyce Anthropic wysyła więc światu bardzo mocny sygnał: AI nie jest już wyłącznie narzędziem do pisania kodu. Coraz bardziej przypomina system, który może zacząć uczestniczyć w budowie samego siebie.