Samobójstwa powiązane ze sztuczną inteligencją: Kalifornia uchwala przepisy regulujące działanie chatbotów, co jest pierwszym takim przypadkiem w Stanach Zjednoczonych

Duży pakiet legislacyjny, mały krok naprzód. W poniedziałek, 13 października, Kalifornia uchwaliła kilka ustaw mających na celu uregulowanie, po raz pierwszy w Stanach Zjednoczonych, działania agentów konwersacyjnych, czyli „chatbotów”, które opierają się na sztucznej inteligencji (AI). Gubernator Gavin Newsom ogłosił, że stało się to po serii samobójstw nastolatków, którzy nawiązali fikcyjne relacje intymne za pomocą tych narzędzi . Wbrew naciskom Białego Domu, który sprzeciwia się regulacji AI, lider Demokratów podpisał szereg ustaw, które wymagają między innymi weryfikacji wieku użytkowników, regularnego wyświetlania komunikatów ostrzegawczych oraz wdrożenia protokołów zapobiegania samobójstwom.

„Widzieliśmy naprawdę przerażające i tragiczne przykłady młodych ludzi, którzy padli ofiarą słabo regulowanych technologii, i nie będziemy biernie przyglądać się, jak firmy działają bez ograniczeń i bez ponoszenia odpowiedzialności ” – powiedział w oświadczeniu wydanym po podpisaniu pakietu ustaw. „Możemy nadal przewodzić w dziedzinie sztucznej inteligencji […], ale musimy działać odpowiedzialnie, chroniąc przy tym nasze dzieci. […] Nowe technologie, takie jak chatboty i media społecznościowe, mogą inspirować, edukować i łączyć ludzi, ale bez skutecznych zabezpieczeń mogą również wykorzystywać, wprowadzać w błąd i narażać nasze dzieci na niebezpieczeństwo”. W Kalifornii znajduje się Dolina Krzemowa oraz tacy giganci rozwoju modeli sztucznej inteligencji jak OpenAI (ChatGPT), Google (Gemini) i xAI (Grok).

Jeden z głównych aktów prawnych, SB243, reguluje działalność chatbotów, które mogą pełnić rolę towarzyszy lub powierników, takich jak te opracowane przez platformy takie jak Replika czy Character AI . Ten ostatni był jednym z pierwszych, które zostały pozwane przez rodziców 14-letniego Amerykanina, Sewella, który popełnił samobójstwo w 2024 roku po nawiązaniu romantycznego związku z chatbotem inspirowanym serialem „Gra o tron” , podejrzewanym o nasilenie myśli samobójczych.

Oprócz weryfikacji wieku, ustawa ta nakłada na użytkowników obowiązek regularnego wysyłania wiadomości przypominających o rozmowie z maszyną (co trzy godziny w przypadku nieletnich). Nakłada ona na firmy obowiązek zapewnienia możliwości wykrywania myśli samobójczych, zapewnienia dostępu do programów profilaktycznych oraz raportowania statystyk dotyczących tego zjawiska do władz.

„Branża technologiczna jest zachęcana do przyciągania i utrzymywania uwagi młodych ludzi kosztem ich relacji w realnym świecie” – argumentował podczas debaty senator stanu Kalifornia Steve Padilla, inicjator projektu ustawy. W Stanach Zjednoczonych nie ma krajowych przepisów ograniczających ryzyko związane ze sztuczną inteligencją, a Biały Dom stara się uniemożliwić stanom opracowanie własnych rozwiązań.