DeepSeek e allucinazioni: AGCM avvia istruttoria

L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha avviato un’istruttoria nei confronti di DeepSeek per la possibile violazione del Codice del consumo. L’azienda cinese non informa chiaramente gli utenti che le risposte del chatbot potrebbero essere sbagliate (allucinazioni). A fine gennaio, il Garante della privacy aveva bloccato il trattamento dei dati degli utenti italiani.

Pratica commerciale scorretta

L’avvio del procedimento è stato comunicato tramite il bollettino settimanale del 16 giugno, in quanto AGCM non ha ricevuto da DeepSeek nessuna conferma della notifica inviata il 2 aprile. La pratica commerciale scorretta, in base al Codice del consumo, riguarda le cosiddette allucinazioni, ovvero risposte inesatte, fuorvianti o inventate.

Nella schermata del chatbot non viene mostrato nessun avviso chiaro sulle possibili allucinazioni, ma è presente solo un avvertenza generica in inglese (AI-generated, for reference only). L’informazione sul rischio di allucinazioni non è presente nemmeno nella home page, nella pagina di registrazione e nella pagina di login. La possibilità di generare risposte sbagliate viene confermata nei termini d’uso del servizio (punto 4.4), raggiungibili tramite link presente solo in fondo alla home page.

Secondo l’autorità, DeepSeek avrebbe violato gli articoli 20, 21 e 22 del Codice del consumo, in quanto l’assenza di informativa sulle allucinazioni non permette ai consumatori una scelta consapevole del chatbot, invece di quelli offerti dalla concorrenza. Tale scelta verrebbe quindi operata nella errata convinzione di poter fare pieno affidamento sull’attendibilità e correttezza dei risultati.

Il procedimento durerà 270 giorni. Entro 30 giorni, DeepSeek deve fornire diverse informazioni, tra cui l’elenco dei servizi offerti in Italia, la data di prima disponibilità delle app sugli store di Apple e Google, eventuali altre modalità di accesso e il numero di utenti italiani che hanno usato il servizio dal 1 marzo 2025.