Estudo descobre que Gemini, do Google, é de alto risco para menores

A Common Sense Media , uma organização sem fins lucrativos especializada em segurança digital para jovens, publicou uma avaliação detalhada do Google Gemini . O veredito não é dos melhores... ele foi classificado como de "alto risco" para crianças e adolescentes.

Embora a Gemini afirme claramente que é um algoritmo, não um amigo — um detalhe importante para evitar confusão emocional — a organização observou que as versões “Under 13” ( Gemini for Kids ) e “Teen Experience” são, na verdade, adaptações simplificadas da versão adulta, com alguns filtros a mais.

De acordo com Robbie Torney, diretor de programas de IA da Common Sense, uma plataforma projetada para crianças deve ser construída do zero, não derivada de um produto adulto .

O relatório destaca que a Gemini ainda pode fornecer respostas inapropriadas para menores, incluindo:

• Informações sobre sexo , drogas e álcool ;
• Conselhos questionáveis ​​sobre saúde mental ;
• Conversas que podem parecer “muito humanas” ou relacionais.

Essas questões são particularmente preocupantes para os pais, especialmente à luz dos casos recentes de suicídio de adolescentes relacionados ao uso prolongado de chatbots. A OpenAI está atualmente envolvida em um processo por homicídio culposo , enquanto a Character.AI já foi processada em um caso semelhante.

Apple avalia Gemini para a nova Siri: isso é um risco maior?

A avaliação chega em um momento delicado: segundo alguns rumores, a Apple está considerando o Gemini como o mecanismo de IA para a próxima versão da Siri . Se confirmado, milhões de adolescentes poderão ter acesso direto ao Gemini, aumentando o risco de exposição a conteúdo não filtrado, a menos que a Apple intervenha com medidas de segurança mais rigorosas.

Resposta do Google

O Google rejeitou a avaliação, afirmando que possui políticas específicas para usuários menores de 18 anos e está trabalhando com especialistas externos para reforçar as proteções. O Google admitiu que algumas respostas do Gemini não funcionaram como esperado e já implementou novas medidas de segurança. A empresa também observou que o relatório do Common Sense pode ter testado recursos indisponíveis para menores, mas não pôde verificar isso.