DeepSeek y alucinaciones: la AGCM abre una investigación

La Autoridad Italiana de Competencia y Mercado (AGCM) ha abierto una investigación sobre DeepSeek por posible infracción del Código del Consumidor. La empresa china no informa claramente a los usuarios de que las respuestas del chatbot pueden ser erróneas (alucinaciones). A finales de enero , la Autoridad de Privacidad bloqueó el tratamiento de datos de usuarios italianos.

Práctica comercial desleal

El inicio del procedimiento se comunicó a través del boletín semanal del 16 de junio, ya que la AGCM no ha recibido confirmación alguna por parte de DeepSeek de la notificación enviada el 2 de abril. La práctica comercial desleal, según el Código del Consumidor, se refiere a las denominadas alucinaciones , o respuestas inexactas, engañosas o inventadas.

La pantalla del chatbot no muestra ninguna advertencia clara sobre posibles alucinaciones, sino solo una advertencia genérica en inglés ( generada por IA, solo como referencia ). La información sobre el riesgo de alucinaciones tampoco está presente en la página de inicio, la página de registro ni la página de inicio de sesión. La posibilidad de generar respuestas incorrectas se confirma en las condiciones de uso del servicio (punto 4.4), accesible mediante un enlace disponible únicamente en la parte inferior de la página de inicio.

Según la autoridad, DeepSeek habría infringido los artículos 20, 21 y 22 del Código del Consumidor, ya que la falta de información sobre las alucinaciones impide a los consumidores elegir con conocimiento de causa el chatbot, en lugar de los que ofrecen la competencia. Por lo tanto, esta elección se basaría en la creencia errónea de poder confiar plenamente en la fiabilidad y exactitud de los resultados.

El proceso durará 270 días. En un plazo de 30 días, DeepSeek deberá proporcionar información diversa, como la lista de servicios ofrecidos en Italia, la fecha de primera disponibilidad de las aplicaciones en las tiendas de Apple y Google, cualquier otro método de acceso y el número de usuarios italianos que han utilizado el servicio desde el 1 de marzo de 2025.