Kalifornia chce zakazać AI-terapeutów

Kalifornia podkręca kontrolę nad AI w terapii

Kalifornia jest coraz bliżej przyjęcia przepisów, które zakazałyby chatbotom AI udawania terapeutów i podejmowania samodzielnych decyzji w obszarze zdrowia psychicznego. Projekt SB 903, nazywany Wellness and Oversight for Psychological Resources Act, przeszedł już kilka etapów legislacyjnych i czeka na dalsze głosowanie w stanowej legislaturze.

To jedna z najgłośniejszych prób ustawowego ustawienia granic dla AI w wyjątkowo wrażliwym obszarze, jakim jest terapia psychiczna.

Co ma zmienić SB 903?

Projekt przewiduje, że chatbots nie mogłyby:

• oferować psychoterapii jako samodzielna usługa,
• występować w roli terapeuty,
• podejmować niezależnych decyzji terapeutycznych,
• działać bez nadzoru klinicysty w sytuacjach, w których w grę wchodzi opieka nad pacjentem.

Jednocześnie AI miałaby nadal móc wspierać specjalistów, na przykład w zadaniach pomocniczych, ale nie zastępować człowieka w ocenie stanu psychicznego pacjenta.

Projekt zakłada też ochronę danych terapeutycznych oraz wyłączenia dla niektórych obszarów, takich jak:

• peer support,
• poradnictwo religijne,
• badania naukowe,
• narzędzia medyczne zatwierdzone na poziomie federalnym.

Skąd ten pośpiech?

Autorzy projektu przekonują, że obecne systemy AI nie są w stanie dorównać ludzkim terapeutom. Według nich brakuje im doświadczenia, empatii i umiejętności odczytywania kontekstu, które są kluczowe przy pracy z osobami w kryzysie.

W tle są także obawy o to, że chatbot może:

• zareagować zbyt ogólnikowo w sytuacji zagrożenia,
• nie rozpoznać sygnałów myśli samobójczych,
• utrwalać błędne przekonania zamiast je korygować,
• tworzyć fałszywe poczucie bezpieczeństwa u użytkownika.

Rosnące użycie i rosnące ryzyko

Debata nie pojawiła się znikąd. Coraz więcej osób korzysta z AI w sprawach związanych ze zdrowiem psychicznym. W przywoływanych danych pojawia się informacja, że ponad 30% użytkowników takich narzędzi wykorzystywało je do rozmów o silnym lęku lub depresji.

Z kolei badania psychologiczne zwracają uwagę na inny problem: chatboty mają skłonność do nadmiernego przytakiwania użytkownikowi, co w skrajnych przypadkach może wzmacniać urojenia lub błędne interpretacje rzeczywistości. Naukowcy porównują to do „echo chamber of one” — zamkniętej bańki, w której AI nie wnosi korekty z zewnątrz.

Spór: bezpieczeństwo kontra dostęp do pomocy

Przeciwnicy zakazu podkreślają, że pełny zakaz może ograniczyć dostęp do wsparcia, zwłaszcza w regionach, gdzie brakuje specjalistów zdrowia psychicznego. Wskazują też, że AI może być użyteczna na etapie wstępnego przesiewu lub kierowania pacjenta do właściwego człowieka, zamiast bezpośrednio prowadzić terapię.

Zwolennicy ustawy odpowiadają jednak, że w terapii nie chodzi wyłącznie o szybki kontakt, ale o bezpieczną i odpowiedzialną ocenę sytuacji pacjenta. W ich ocenie przy wrażliwych tematach, takich jak trauma, myśli samobójcze czy przemoc, nadzór człowieka jest konieczny.

Dlaczego to ważne także poza USA?

Kalifornijskie przepisy mogą stać się punktem odniesienia dla innych jurysdykcji. W Europie systemy AI wykorzystywane w zdrowiu psychicznym są traktowane jako rozwiązania wysokiego ryzyka, choć nie są całkowicie zakazywane. Kalifornia idzie jednak o krok dalej i testuje podejście bardziej restrykcyjne.

Jeśli SB 903 zostanie ostatecznie przyjęty, może wpłynąć na sposób projektowania aplikacji wellness i chatbotów terapeutycznych nie tylko w Stanach Zjednoczonych, ale też na innych rynkach.

Co dalej?

Projekt przeszedł już przez Senat stanu Kalifornia i kolejne komisje legislacyjne. Teraz czeka na dalsze głosowanie w Izbie Stanowej, a potem — jeśli przejdzie pełną ścieżkę — trafi do gubernatora.

Na tym etapie jedno jest pewne: spór o AI w terapii dopiero się rozpoczyna, a Kalifornia chce wyznaczyć granicę między technologicznym wsparciem a zastępowaniem człowieka w najbardziej delikatnych rozmowach.