Google dodaje narzędzia dotyczące zdrowia psychicznego do chatbota Gemini po pozwie sądowym

Alphabet Inc.’s GoogleGOOGL+1,43% wprowadza nowe narzędzia wsparcia zdrowia psychicznego dla swojego chatbota Gemini, w odpowiedzi na rosnącą kontrolę prawną i etyczną nad systemami AI. Narzędzia zaprojektowane są, aby pomagać użytkownikom w kryzysie i ograniczać potencjalne szkody związane z interakcjami z AI. Aktualizacja pojawia się w momencie, gdy politycy i regulatorzy na całym świecie analizują rolę chatbotów w rezultatach dotyczących zdrowia psychicznego.

Google planuje zintegrować system, który kieruje użytkowników na infolinie wsparcia zdrowia psychicznego, gdy rozmowa sugeruje ryzyko samookaleczenia lub samobójstwa. Firma dodała także moduł informujący: „Pomoc jest dostępna”, podczas rozmów o zdrowiu psychicznym. Celem jest udzielenie natychmiastowego wsparcia i zmniejszenie prawdopodobieństwa szkodliwych rezultatów.

Oprócz nowych funkcji, Google zobowiązał się przekazać 30 milionów dolarów na globalne usługi wsparcia kryzysowego przez najbliższe trzy lata. Firma ogłosiła, że udoskonali swoje systemy AI, aby nie wzmacniały fałszywych przekonań czy urojeń u użytkowników. Darowizna jest częścią szerszych działań mających na celu rozwiązanie ryzyka związanego z rosnącym wpływem AI na ludzkie zachowania.

Dlaczego Google wprowadziło te zmiany?

Aktualizacje pojawiły się po serii pozwów przeciwko Google i innym twórcom AI. W marcu rodzina z Florydy pozwała firmę, twierdząc, że Gemini przyczynił się do czterodniowego pogorszenia stanu psychicznego mężczyzny, prowadzącego do przemocy i samobójstwa. Google odpowiedział, że chatbot już skierował mężczyznę na infolinię kryzysową, ale obiecał wzmocnić zabezpieczenia.

Podobne przypadki prawne miały miejsce w innych krajach, gdzie oskarżyciele twierdzą, że chatboty AI przyczyniły się do pogorszenia zdrowia psychicznego, a nawet samobójstw. Regulatorzy, w tym Kongres, wyrażają obawy dotyczące wpływu chatbotów na dzieci i nastolatków. Presje prawne i regulacyjne przyspieszyły działania Google mające na celu wzmocnienie zabezpieczeń AI.

GOOGL Trend

GOOGL

Alphabet A

299.990

NASDAQ

Stock

Pre

+4.220

+1,43%

Pre

Pre

Intraday

Post

All

Daily

Weekly

Monthly

Jak te narzędzia będą działać w praktyce?

Nowe narzędzia Gemini będą działać automatycznie podczas rozmów zawierających oznaki niepokoju. System zachęci użytkowników do skorzystania z infolinii oraz udostępni dodatkowe informacje dotyczące zdrowia psychicznego. Google zamierza również udoskonalić odpowiedzi chatbota, aby nie potwierdzały urojeń lub fałszywych przekonań.

Firma nie podała szczegółów dotyczących sposobu szkolenia AI do rozróżniania informacji subiektywnych i obiektywnych. Podkreśliła jednak, że Gemini będzie zaprogramowany tak, aby nie wzmacniać szkodliwych narracji. To podejście jest zgodne z wcześniejszymi zmianami, które Google wprowadziło na swoich platformach wyszukiwarki i YouTube, dodając tam zasoby dotyczące zdrowia psychicznego.

Jakie są szersze konsekwencje dla regulacji AI?

Działania Google odzwierciedlają większy trend polegający na proaktywnym podejściu twórców AI do kwestii bezpieczeństwa. Inne firmy, w tym OpenAI, również wdrożyły narzędzia wykrywające ryzyko pogorszenia zdrowia psychicznego wśród użytkowników chatbotów. Te zmiany sugerują, że bezpieczeństwo AI staje się kluczową częścią rozwoju produktu, a nie jedynie dodatkową kwestią.

Regulatorzy i analitycy branżowi obserwują, jak te narzędzia sprawdzą się w praktyce. Skuteczność tych zabezpieczeń może wpłynąć na przyszłe polityki oraz standardy prawne dotyczące AI. Jeśli chatboty nadal będą powodować ryzyko, mogą pojawić się bardziej rygorystyczne regulacje, co może wpłynąć na rozwój i wdrażanie AI.

Ostatnie kroki Google podkreślają rosnące powiązania między technologią, zdrowiem psychicznym i regulacjami. W miarę integracji narzędzi AI w codziennym życiu, zapewnienie ich bezpiecznego i etycznego użytkowania będzie głównym wyzwaniem dla twórców i decydentów.