DeepSeek и галлюцинации: AGCM начинает расследование

Итальянское управление по конкуренции и рынку (AGCM) начало расследование в отношении DeepSeek на предмет возможного нарушения Кодекса потребителей. Китайская компания не информирует пользователей о том, что ответы чат-бота могут быть неверными (галлюцинациями). В конце января Управление по защите конфиденциальности заблокировало обработку данных итальянских пользователей.

Недобросовестная коммерческая практика

О начале разбирательства было сообщено в еженедельном бюллетене от 16 июня, поскольку AGCM не получила от DeepSeek подтверждения уведомления, отправленного 2 апреля. Недобросовестная коммерческая практика, согласно Кодексу прав потребителей, касается так называемых галлюцинаций или неточных, вводящих в заблуждение или выдуманных ответов.

На экране чат-бота нет четкого предупреждения о возможных галлюцинациях, а только общее предупреждение на английском языке ( сгенерированное ИИ, только для справки ). Информация о риске галлюцинаций также отсутствует на главной странице, странице регистрации и странице входа. Возможность генерации неверных ответов подтверждается в условиях использования сервиса (пункт 4.4), доступ к которым осуществляется по ссылке, размещенной только в нижней части главной страницы.

По мнению властей, DeepSeek нарушил бы статьи 20, 21 и 22 Кодекса прав потребителей, поскольку отсутствие информации о галлюцинациях не позволяет потребителям сделать осознанный выбор чат-бота вместо тех, которые предлагают конкуренты. Таким образом, этот выбор был бы сделан в ошибочном убеждении, что можно полностью положиться на надежность и правильность результатов.

Процесс продлится 270 дней. В течение 30 дней DeepSeek должен предоставить несколько видов информации, включая список услуг, предлагаемых в Италии, дату первой доступности приложений в магазинах Apple и Google, любые другие методы доступа и количество итальянских пользователей, которые использовали услугу с 1 марта 2025 года.