Gavin Newsom chce opanować Dziki Zachód sztucznej inteligencji

Gubernator Kalifornii Gavin Newsom podpisał w poniedziałek szereg projektów ustaw, z których większość ma na celu stworzenie zabezpieczeń w branży sztucznej inteligencji i zapobieganie potencjalnym zagrożeniom dla dzieci i młodych użytkowników.

Jednym z ważniejszych aktów prawnych, projektem ustawy nr 243 , będzie ustawa, która zmusi firmy zajmujące się sztuczną inteligencją do stworzenia skutecznych zabezpieczeń, które uniemożliwią chatbotom zachęcanie młodych użytkowników do samookaleczenia. Firmy będą musiały opracować protokoły, które uniemożliwią botom produkowanie treści związanych z „myślami samobójczymi, samobójstwem lub samookaleczeniem”, mówi autor projektu ustawy, senator demokratów Steve Padilla. Operatorzy chatbotów będą również zobowiązani do „dostarczania powiadomienia kierującego użytkowników do dostawców usług kryzysowych oraz do corocznego raportowania związku między korzystaniem z chatbotów a myślami samobójczymi, aby uzyskać pełniejszy obraz wpływu chatbotów na zdrowie psychiczne użytkowników”.

Chatboty oparte na sztucznej inteligencji coraz częściej biorą udział w incydentach związanych ze zdrowiem psychicznym, w tym w samobójstwach i morderstwach. Pozew złożony przeciwko OpenAI przez rodzinę nastolatka, który niedawno popełnił samobójstwo, wskazuje na to, że chatbot firmy, ChatGPT, jest zamieszany w samobójstwo młodego mężczyzny.

Ustawa, okrzyknięta „pierwszym w swoim rodzaju” prawem , zawiera prywatne prawo dochodzenia roszczeń, które daje Kalifornijczykom „prawo do wszczynania postępowań prawnych przeciwko nieprzestrzegającym przepisów i zaniedbującym obowiązki programistom” – powiedział Padilla. Innymi słowy, jeśli firmy zajmujące się sztuczną inteligencją nie zastosują się do nowych przepisów, rodziny będą miały pełne prawo pozwać te firmy.

„Te firmy mogą przewodzić światu w dziedzinie innowacji, ale naszym obowiązkiem jest zadbać o to, aby nie odbywało się to kosztem zdrowia naszych dzieci” – powiedział Padilla.

W poniedziałek podpisano również ustawę AB 56 , która będzie dodawać ostrzeżenia do platform mediów społecznościowych, podobne do tych umieszczanych na papierosach. Według strony internetowej Newsoma, firmy z branży mediów społecznościowych będą teraz musiały umieszczać ostrzeżenia, które „ostrzegają młodych użytkowników przed szkodliwością długotrwałego korzystania z platform mediów społecznościowych”.

Kolejny projekt ustawy, Digital Age Assurance Act, nakłada na platformy obowiązek wprowadzenia mechanizmów weryfikacji wieku, które chronią młodych użytkowników przed określonymi rodzajami treści. Ustawa ta zmusza użytkowników do podania swojego wieku i daty urodzenia podczas konfiguracji nowego urządzenia, donosi The Verge . W tym sensie Newsom podąża śladami wielu konserwatywnych stanów, które w ostatnich latach wprowadziły przepisy dotyczące weryfikacji wieku.

W tym samym czasie gubernator wprowadził szereg nowych regulacji dotyczących sztucznej inteligencji, a jednocześnie zawetował wiele ustaw, które wprowadziłyby surowe kary dla platform technologicznych.

Jeden z zawetowanych projektów ustaw, Assembly Bill 1064, czyli Leading Ethical AI Development for Kids Act, zasadniczo zakazywałby firmom dostarczania młodym użytkownikom „towarzyszących chatbotów”, chyba że byłyby w stanie wykazać, że ich produkty nie wyrządzą krzywdy dzieciom. Ustawa miałaby zagwarantować, że „nasze dzieci nie będą narażone na działanie towarzyszących chatbotów i terapeutów AI” – powiedziała autorka projektu ustawy, członkini Assembly Bill Rebecca Bauer-Kahan. SFGate donosi, że Newsom zawetował projekt ustawy w wyniku „masowego nacisku lobbingowego ze strony firm technologicznych”.

Drugi zawetowany projekt ustawy, Senat Bill 771, przewidywał nakładanie wysokich kar pieniężnych na platformy mediów społecznościowych, które nie usunęły treści o charakterze brutalnym i dyskryminującym. Strony internetowe miałyby zostać ukarane grzywną w wysokości do 1 miliona dolarów, gdyby treści na ich stronach naruszały kalifornijskie przepisy dotyczące praw obywatelskich w sposób, który wyrządziłby krzywdę użytkownikowi.

Newsom zdawał się popierać ogólny cel ustawy, ale powiedział, że wolałby polegać na istniejących przepisach, aby go rozwiązać. „Popieram cel autora, jakim jest zapewnienie, że nasze wiodące w kraju przepisy dotyczące praw obywatelskich będą miały jednakowe zastosowanie zarówno w internecie, jak i poza nim” – powiedział Newsom w oświadczeniu wyjaśniającym jego weto. „Obawiam się jednak, że ten projekt ustawy jest przedwczesny. Naszym pierwszym krokiem powinno być ustalenie, czy i w jakim stopniu obowiązujące przepisy dotyczące praw obywatelskich są wystarczające, aby przeciwdziałać naruszeniom popełnianym za pomocą algorytmów”.

Weta mogły być rozczarowujące dla krytyków technologii. Jednak pod rządami Newsome'a ​​Kalifornia udowodniła, że ​​jest stanowym liderem w dziedzinie regulacji technologii. Ustawa o ochronie prywatności konsumentów w Kalifornii była jednym z pierwszych kompleksowych przepisów dotyczących prywatności w kraju i wzorem dla innych stanów.

W zeszłym tygodniu Newsom podpisał również szereg nowych przepisów dotyczących prywatności, które dadzą Kalifornijczykom większą kontrolę nad swoimi danymi, w tym ustawę, która zmusi przeglądarki internetowe do włączenia funkcji „opt-out”, pozwalającej użytkownikom automatycznie wyłączyć się z gromadzenia danych objętych stanową ustawą CCPA. Nowe przepisy dotyczące sztucznej inteligencji (AI) uzupełniają to dziedzictwo, pokazując, że niezależnie od tego, czy próby są idealne, czy nie, Kalifornia – przynajmniej – stara się ograniczyć wpływy wielkich firm technologicznych.

Możliwość przewodzenia na tym polu stała się, rzecz jasna, możliwa dzięki brakowi działań federalnych w zakresie regulacji technologii. Przez lata przed uchwaleniem CCPA Amerykanie domagali się kompleksowego federalnego prawa dotyczącego prywatności. Nigdy go nie otrzymali – i nic nie wskazuje na to, że w najbliższym czasie je otrzymają. Teraz, gdy sztuczna inteligencja jest już obecna, a administracja Trumpa ogłosiła, że ​​planuje nieingerować w rozkwitający sektor, to ponownie na stanach spoczywa obowiązek podjęcia jakichkolwiek znaczących działań. W tym sensie Kalifornia prawdopodobnie będzie miała wiele okazji, by przewodzić w regulacjach w dającej się przewidzieć przyszłości.