Antitrust waarschuwt Deepseek: geen waarschuwing voor 'hallucinaties'

De Mededingings- en Marktautoriteit (CMA) is een onderzoek gestart naar de Chinese bedrijven Hangzhou DeepSeek Artificial Intelligence en Beijing DeepSeek Artificial Intelligence, die samen eigenaar en exploitant zijn van het AI-systeem DeepSeek, vanwege oneerlijke handelspraktijken. Dit staat in het Weekblad van de autoriteit.

Op basis van informatie die is verkregen met het oog op de toepassing van de Consumentenwet, zo legt het Antitrust Bulletin uit, bleek dat DeepSeek zich schuldig zou hebben gemaakt aan gedrag dat erin bestond dat gebruikers van zijn AI-modellen niet op een voldoende duidelijke, onmiddellijke en begrijpelijke manier werden geïnformeerd dat zij te maken zouden kunnen krijgen met wat in vakjargon "hallucinaties" worden genoemd: situaties waarin het AI-model, als reactie op een bepaalde invoer van een gebruiker, een of meer uitkomsten genereert die onjuiste, misleidende of verzonnen informatie bevatten. Het Antitrust Bulletin stelt verder met name: "er verschijnt geen disclaimer of waarschuwing over de mogelijkheid van het optreden van 'hallucinaties' in de dialoogvensters die worden geopend tijdens het gebruik van de AI-modellen van DeepSeek."