DeepSeek en hallucinaties: AGCM start onderzoek

De Italiaanse Mededingings- en Marktautoriteit (AGCM) is een onderzoek gestart naar DeepSeek vanwege mogelijke schending van de Consumentenwet. Het Chinese bedrijf informeert gebruikers niet duidelijk dat de antwoorden van de chatbot mogelijk onjuist zijn (hallucinaties). Eind januari 2014 blokkeerde de Privacyautoriteit de verwerking van gegevens van Italiaanse gebruikers.

Oneerlijke handelspraktijken

De start van de procedure werd via het weekblad van 16 juni bekendgemaakt, aangezien AGCM van DeepSeek geen bevestiging heeft ontvangen van de op 2 april verzonden kennisgeving. De oneerlijke handelspraktijk betreft volgens de Consumentenwet de zogenaamde hallucinaties , oftewel onjuiste, misleidende of verzonnen antwoorden.

Het chatbotscherm geeft geen duidelijke waarschuwing over mogelijke hallucinaties, maar alleen een algemene waarschuwing in het Engels ( door AI gegenereerd, ter referentie ). De informatie over het risico op hallucinaties is ook niet aanwezig op de homepage, de registratiepagina en de inlogpagina. De mogelijkheid om onjuiste antwoorden te genereren wordt bevestigd in de gebruiksvoorwaarden van de dienst (punt 4.4), die alleen bereikbaar zijn via een link onderaan de homepage.

Volgens de autoriteit zou DeepSeek de artikelen 20, 21 en 22 van de Consumentenwet hebben overtreden, aangezien het gebrek aan informatie over hallucinaties consumenten niet in staat stelt een weloverwogen keuze te maken voor de chatbot, in plaats van die van concurrenten. Deze keuze zou dus ten onrechte zijn gemaakt in de veronderstelling dat men volledig kan vertrouwen op de betrouwbaarheid en juistheid van de resultaten.

Het proces duurt 270 dagen. Binnen 30 dagen moet DeepSeek verschillende gegevens verstrekken, waaronder de lijst met in Italië aangeboden diensten, de datum waarop de apps voor het eerst beschikbaar waren in de Apple- en Google Stores, eventuele andere toegangsmethoden en het aantal Italiaanse gebruikers dat de dienst sinds 1 maart 2025 heeft gebruikt.