Berliner Tageblatt - Califórnia promulga lei pioneira nos EUA para regular chatbots de IA

Newsom tomou a decisão após casos de adolescentes que tiraram a própria vida depois que tiveram conversas com chatbots.

"Vimos exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologia não regulamentada e não ficaremos de braços cruzados enquanto as empresas continuam operando sem as restrições e a responsabilização necessárias", disse o governador após sancionar a lei.

A norma exige que os operadores implementem medidas de segurança "críticas" em relação às interações com chatbots de IA, explicou o senador democrata Steve Padilla, que promoveu a legislação.

Entre outras coisas, a lei impõe a verificação de idade dos usuários, a exibição de mensagens de alerta periódicas e o estabelecimento de protocolos de prevenção ao suicídio.

"A indústria tecnológica é incentivada a captar a atenção dos jovens e mantê-la às custas de suas relações com o mundo real", afirmou Padilla antes da votação do projeto no senado estatal.

O democrata citou os recentes suicídios de adolescentes, incluindo o de um jovem de 14 anos na Flórida, em 2024.

A mãe do menor, Megan García, disse em uma entrevista à AFP que seu filho Sewell havia se apaixonado por um chatbot inspirado em uma personagem da série "Game of Thrones" na plataforma Character.AI, que permite interagir com estas figuras como se fossem amigos ou namorados.

Quando Sewell lutava contra pensamentos suicidas, o chatbot o pediu para "voltar para casa". Segundos depois, o jovem atirou em si mesmo com a arma do pai, conforme consta na ação judicial apresentada pela mãe contra a Character.AI.

"Hoje, a Califórnia garantiu que um chatbot companheiro não possa falar com uma criança ou uma pessoa vulnerável sobre suicídio, nem poderá ajudar uma pessoa a planejar seu próprio suicídio", disse García pouco depois da promulgação da lei.

"Finalmente há uma lei que exige que as empresas protejam seus usuários que expressam ideias suicidas para os chatbots", acrescentou.

Não há normas federais destinadas a conter os riscos da IA nos Estados Unidos, e a Casa Branca defende a ausência de uma regulamentação desta tecnologia em nível estadual.

F.Pavlenko--BTB