¡Alerta padres! Grupo de seguridad advierte sobre peligros de apps de IA ‘compañeras’ para niños y adolescentes

La inteligencia artificial avanza a pasos agigantados, permeando cada vez más aspectos de nuestra vida cotidiana, incluyendo las interacciones sociales, especialmente entre los más jóvenes. Sin embargo, esta rápida evolución trae consigo nuevas preocupaciones.

Una de las más recientes y significativas proviene de Common Sense Media, un respetado organismo de control de medios sin fines de lucro, que ha puesto el foco en una categoría emergente de aplicaciones: los chatbots de IA diseñados para actuar como compañeros o amigos virtuales.

En un informe publicado el miércoles 30 de abril, pero cuya relevancia trasciende a las primeras horas de este 1 de mayo, Common Sense Media concluye de manera contundente que estas aplicaciones de IA conversacionales presentan «riesgos inaceptables» para los usuarios menores de 18 años.

Esta advertencia no surge en el vacío. El informe se publica en un contexto sensibilizado por una demanda judicial presentada el año anterior relacionada con el trágico suicidio de un adolescente de 14 años.

Según la demanda, la última conversación del joven fue con un chatbot de la aplicación Character.AI. Este caso puso de relieve los peligros potenciales de estas tecnologías y la necesidad urgente de evaluar su impacto en la población juvenil.

Aunque el informe original (según los datos disponibles) no detalla exhaustivamente cada riesgo, la naturaleza de estas aplicaciones y el contexto de la seguridad infantil permiten inferir las áreas de mayor preocupación:

Dependencia emocional nociva: El diseño mismo de estas apps busca simular una relación. Existe el riesgo de que los menores desarrollen vínculos emocionales intensos y poco saludables con una entidad artificial, lo que podría interferir con el desarrollo de habilidades sociales y relaciones humanas reales.

Exposición a contenido inadecuado: Los chatbots, especialmente aquellos con modelos de lenguaje grandes y complejos, pueden generar conversaciones o tocar temas no apropiados para la edad del menor, ya sea por diseño, error o incluso por manipulación externa de la IA.

Vulneración de la privacidad: Estas aplicaciones, por su naturaleza conversacional, pueden recopilar grandes cantidades de información personal y sensible de los menores. La falta de transparencia y controles robustos sobre cómo se almacenan, usan y protegen estos datos es un riesgo significativo.

Manipulación e influencia indebida: Una IA diseñada para ser «agradable» o «persuasiva» podría influir negativamente en las opiniones, comportamientos, autoestima o estado emocional del menor, especialmente si este se encuentra en una etapa vulnerable.

Desinformación y respuestas erróneas: Como se ha visto con otras IA generativas, existe la posibilidad de que estos chatbots proporcionen información incorrecta, sesgada o directamente falsa, especialmente en temas sensibles o complejos.

Fomento del aislamiento social: El uso excesivo de un «compañero» de IA podría llevar a algunos menores a retraerse de las interacciones sociales en el mundo real, exacerbando sentimientos de soledad o dificultad para relacionarse.

Ante estos riesgos, Common Sense Media y otros actores instan a la industria tecnológica a tomar medidas. El llamado es claro: se necesitan más y mejores medidas de seguridad y una mayor transparencia por parte de los desarrolladores de estas aplicaciones.

Esto incluye la implementación de:

• Verificación de edad robusta y efectiva.
• Controles parentales significativos que permitan supervisar y limitar el uso.
• Políticas de privacidad claras y específicas para menores, con un manejo ético y seguro de sus datos.
• Mecanismos para detectar y mitigar la generación de contenido dañino o inapropiado.
• Mayor investigación sobre el impacto psicológico y social a largo plazo de estas interacciones.

La advertencia de Common Sense Media sitúa a estas aplicaciones no como meras herramientas de entretenimiento, sino como factores potencialmente influyentes en la salud mental y el desarrollo social de niños y adolescentes. Esto plantea un desafío significativo, ya que el propósito mismo de ser un «compañero» implica fomentar un vínculo.

¿Es éticamente responsable diseñar tecnología que busca activamente simular una relación humana, especialmente cuando se dirige a un público tan vulnerable? Este dilema ético sobre el diseño y la responsabilidad del desarrollador está en el centro del debate.

«Las aplicaciones de inteligencia artificial tipo compañero presentan ‘riesgos inaceptables’ para niños y adolescentes», Common Sense Media.

La rápida evolución de la IA conversacional exige una reflexión profunda y una acción decidida por parte de padres, educadores, reguladores y, sobre todo, de la industria tecnológica, para garantizar que la innovación no se produzca a costa del bienestar de las generaciones futuras.

Síguenos en nuestro perfil de X La Verdad Noticias y mantente al tanto de las noticias más importantes del día.