Приложение Meta AI позволяет вам «обнаруживать» странные личные чаты людей

«В каких округах молодым женщинам нравятся пожилые белые мужчины», — говорится в публичном сообщении пользователя на платформе искусственного интеллекта Meta. «Мне нужны подробности, мне 66 лет, и я не замужем. Я из Айовы и готов переехать в новую страну, если смогу найти молодую женщину». Чат-бот с энтузиазмом ответил: «Вы ищете новый старт и любовь в новом месте. Это волнительно!», а затем предложил «страны Средиземноморья, такие как Испания или Италия, или даже страны Восточной Европы».

Это всего лишь один из многих, казалось бы, личных разговоров , которые можно публично просматривать на Meta AI , платформе чат-ботов, которая также является социальной лентой и запущена в апреле . В приложении Meta AI вкладка «открыть» показывает временную шкалу взаимодействия других людей с чат-ботом; короткая прокрутка вниз на веб-сайте Meta AI представляет собой обширный коллаж. Хотя некоторые из выделенных запросов и ответов безобидны — маршруты поездок, советы по рецептам, — другие раскрывают местоположения, номера телефонов и другую конфиденциальную информацию, все это связано с именами пользователей и фотографиями профиля.

Калли Шредер, старший юрисконсульт Центра электронной конфиденциальности, заявила в интервью WIRED, что она видела, как люди «делились медицинской информацией, информацией о психическом здоровье, домашними адресами и даже вещами, напрямую связанными с текущими судебными делами».

«Все это невероятно тревожно, поскольку, по моему мнению, это указывает на то, что люди не понимают, что делают эти чат-боты или для чего они нужны, а также на то, что они не понимают, как работает конфиденциальность в этих структурах», — говорит Шредер.

Неясно, знают ли пользователи приложения, что их разговоры с ИИ Meta являются публичными, или какие пользователи троллят платформу после того, как новостные агентства начали сообщать о ней. Разговоры не являются публичными по умолчанию; пользователи должны выбрать, делиться ли ими.

Нет недостатка в разговорах между пользователями и чат-ботом Meta на основе искусственного интеллекта, которые, по-видимому, должны быть конфиденциальными. Один пользователь попросил чат-бота на основе искусственного интеллекта предоставить формат для прекращения аренды арендатора, в то время как другой попросил его предоставить академическое предупреждение, которое содержит личные данные, включая название школы. Другой человек спросил об ответственности своей сестры за потенциальное мошенничество с корпоративными налогами в определенном городе с использованием учетной записи, которая связана с профилем Instagram, отображающим имя и фамилию. Кто-то еще попросил его разработать заявление о характере для суда, которое также предоставит множество персонально идентифицируемой информации как о предполагаемом преступнике, так и о самом пользователе.

Также есть много случаев медицинских вопросов, включая людей, рассказывающих о своих проблемах с дефекацией, просящих о помощи с крапивницей и спрашивающих о сыпи на внутренней стороне бедер. Один пользователь рассказал Meta AI о своей операции на шее и указал свой возраст и род занятий в подсказке. Многие, но не все, аккаунты, по-видимому, привязаны к публичному профилю Instagram человека.

Представитель Meta Дэниел Робертс написал в электронном заявлении WIRED, что чаты пользователей с Meta AI являются конфиденциальными, если только пользователи не проходят многоступенчатый процесс, чтобы поделиться ими в ленте Discover. Компания не ответила на вопросы о том, какие меры по смягчению последствий применяются для обмена персонально идентифицируемой информацией на платформе Meta AI.

В сообщении в блоге компании, анонсирующем приложение, Meta заявила, что «ничего не будет передано в вашу ленту, если вы сами не решите это опубликовать». Также упоминается, что пользователи могут приказать своему ИИ «запомнить определенные вещи о вас» и «также предоставить более релевантные ответы на ваши вопросы, опираясь на информацию, которую вы уже решили предоставить в продуктах Meta, например, ваш профиль и контент, который вам нравится или с которым вы взаимодействуете».

«Люди действительно не понимают, что ничего из того, что вы помещаете в ИИ, не является конфиденциальным», — говорит Шредер. «Никто из нас на самом деле не знает, как используется вся эта информация. Единственное, что мы знаем наверняка, это то, что она не остается между вами и приложением. Она попадает к другим людям, по крайней мере, в Meta».

После первоначального запуска приложения Meta на основе искусственного интеллекта критики поспешили указать на потенциальные проблемы с конфиденциальностью, а один из заголовков назвал его « катастрофой конфиденциальности, которая вот-вот произойдет». Несмотря на эти опасения, темпы разработки и внедрения такого ИИ не показывают никаких признаков замедления, особенно в Meta: генеральный директор Марк Цукерберг недавно объявил , что у помощника Meta на основе искусственного интеллекта 1 миллиард пользователей на платформах компании, и, как сообщается , Meta создает новую лабораторию искусственного интеллекта под руководством соучредителя Scale AI Александра Вана, которая будет заниматься созданием сверхразума.

«Знает ли Meta, какой объем конфиденциальной информации ее пользователи по ошибке публикуют в открытом доступе?» — спросил один пользователь Meta AI в четверг, вопрос был опубликован в общедоступной ленте новостей.

«Некоторые пользователи могут непреднамеренно делиться конфиденциальной информацией из-за недопонимания значений по умолчанию на платформе или изменений в настройках с течением времени», — ответил чат-бот. «Meta предоставляет инструменты и ресурсы, помогающие пользователям управлять своей конфиденциальностью, но это постоянная проблема».