Интернет-контроль Великобритании ужесточает подход к фейковому порно
Ofcom, британский регулятор интернет-безопасности, опубликовал еще один новый проект руководства в рамках продолжающейся реализации Закона о безопасности в Интернете (OSA). Последний набор рекомендаций направлен на поддержку компаний, подпадающих под действие закона, в выполнении ими юридических обязательств по защите женщин и девочек от таких угроз в Интернете, как преследования и издевательства, женоненавистничество и оскорбления интимных изображений.
Правительство заявило, что защита женщин и девочек является приоритетом для его внедрения OSA. Определенные формы (преимущественно) женоненавистнического насилия — такие как распространение интимных изображений без согласия или использование инструментов ИИ для создания фейкового порно, нацеленного на отдельных лиц — прямо указаны в законе как приоритеты правоприменения .
Регламент безопасности в Интернете, одобренный парламентом Великобритании еще в сентябре 2023 года , подвергся критике за то, что он не справляется с задачей реформирования гигантов платформ, несмотря на то, что предусматривает существенные штрафы за несоблюдение требований — до 10% от мирового годового оборота.
Активисты, защищающие безопасность детей, также выразили разочарование тем, как долго вводится в действие закон, а также сомнения в том, что он даст желаемый эффект.
В интервью BBC в январе даже министр технологий Питер Кайл, унаследовавший законодательство от предыдущего правительства, назвал его «крайне неровным» и «неудовлетворительным». Но правительство придерживается этого подхода. Часть недовольства вокруг OSA можно отнести к длительному времени, отведенному министрам на реализацию режима, который требует одобрения парламентом руководства по соблюдению Ofcom.
Однако ожидается, что вскоре начнется реализация основных требований по борьбе с незаконным контентом и защите детей. Реализация других аспектов соответствия OSA займет больше времени. И Ofcom признает, что этот последний пакет практических рекомендаций не станет полностью реализуемым до 2027 года или позже.
«Первые обязанности Закона о безопасности в Интернете вступают в силу в следующем месяце», — сказала Джессика Смит из Ofcom, которая руководила разработкой руководства по безопасности для женщин, в интервью TechCrunch. «Поэтому мы будем применять некоторые из основных обязанностей Закона о безопасности в Интернете до того, как это руководство [само по себе станет обязательным]».
Новый проект руководства по обеспечению безопасности женщин и девочек в Интернете призван дополнить более ранние более общие рекомендации Ofcom по противозаконному контенту, в которых также, например, содержатся рекомендации по защите несовершеннолетних от просмотра контента для взрослых в Интернете.
В декабре регулятор опубликовал окончательную версию руководства о том, как платформы и сервисы должны снижать риски, связанные с незаконным контентом , — область, где защита детей является явным приоритетом.
Ранее он также выпустил Кодекс безопасности детей , который рекомендует онлайн-сервисам проверять возраст и фильтровать контент, чтобы дети не подвергались воздействию ненадлежащего контента, такого как порнография. И поскольку он работал над внедрением режима онлайн-безопасности, он также разработал рекомендации по технологиям обеспечения возраста для сайтов с контентом для взрослых , с целью подтолкнуть порносайты к принятию эффективных мер по предотвращению доступа несовершеннолетних к контенту, неподходящему для их возраста.
Последний набор рекомендаций был разработан с помощью жертв, выживших, женских правозащитных групп и экспертов по безопасности, согласно Ofcom. Он охватывает четыре основные области, в которых, по словам регулятора, женщины непропорционально страдают от онлайн-вреда, а именно: онлайн-мизогиния; наезды и онлайн-преследования; домашнее насилие в Интернете; и насилие над интимными изображениями.
В своей главной рекомендации Ofcom призывает сервисы и платформы, находящиеся в сфере действия, использовать подход «безопасность по проекту». Смит сообщила нам, что регулятор хочет побудить технологические компании «сделать шаг назад» и «подумать о своем пользовательском опыте в целом». Хотя она признала, что некоторые сервисы ввели некоторые меры, которые помогают сократить онлайн-риски в этой области, она утверждает, что все еще не хватает целостного мышления, когда дело доходит до приоритета безопасности женщин и девочек.
«На самом деле мы просим просто о каком-то пошаговом изменении того, как работают процессы проектирования», — сказала она нам, добавив, что цель состоит в том, чтобы гарантировать, что соображения безопасности будут учтены в конструкции продукта.
Она подчеркнула рост числа сервисов искусственного интеллекта, генерирующих изображения, которые, по ее словам, привели к «массовому» росту случаев дипфейкового насилия над интимными изображениями, в качестве примера того, как специалисты по технологиям могли бы принять упреждающие меры для снижения рисков использования своих инструментов в качестве оружия против женщин и девочек, однако не сделали этого.
«Мы считаем, что на этапе проектирования службы могли бы предпринять разумные действия, которые помогли бы снизить риск некоторых из этих видов вреда», — предположила она.
В качестве примеров «хорошей» отраслевой практики Ofcom приводит в руководстве такие онлайн-сервисы, как:
- Удаление геолокации по умолчанию (для снижения рисков нарушения конфиденциальности/преследования);
- Проведение тестирования на «возможность злоупотребления» для определения того, как услуга может быть использована в военных целях/неправомерно;
- Принятие мер по повышению безопасности аккаунта;
- Разработка подсказок для пользователей, которые должны заставить авторов дважды подумать, прежде чем публиковать оскорбительный контент;
- И предлагая доступные инструменты отчетности, которые позволяют пользователям сообщать о проблемах.
Как и в случае со всеми рекомендациями Ofcom по OSA, не каждая мера будет актуальна для каждого типа или размера сервиса — поскольку закон применяется к онлайн-сервисам, большим и малым, и охватывает различные области от социальных сетей до онлайн-знакомств, игр, форумов и приложений для обмена сообщениями, и это лишь некоторые из них. Поэтому большая часть работы для компаний, попадающих под действие закона, будет заключаться в понимании того, что означает соответствие в контексте их продукта.
На вопрос, выявил ли Ofcom какие-либо услуги, которые в настоящее время соответствуют стандартам руководства, Смит ответила, что нет. «В отрасли еще много работы», — сказала она.
Она также молчаливо признала, что могут возникнуть растущие проблемы, учитывая некоторые ретроградные шаги, предпринятые в отношении доверия и безопасности некоторыми крупными игроками отрасли. Например, после того, как Илон Маск взял под контроль Twitter и переименовал социальную сеть в X, он сократил количество людей, отвечающих за доверие и безопасность, — в пользу того, что он сформулировал как максималистский подход к свободе слова.
В последние месяцы компания Meta, которой принадлежат Facebook и Instagram, похоже, предприняла некоторые шаги в подражание, заявив, например, что она прекращает действие тридцатисторонних контрактов на проверку фактов в пользу внедрения системы «заметок сообщества» в стиле X для краудсорсинговой маркировки споров о контенте.
Смит предположил, что реакция Ofcom на подобные изменения на высоком уровне — когда действия операторов могут привести к усилению, а не снижению онлайн-вреда — будет сосредоточена на использовании полномочий по обеспечению прозрачности и сбору информации, которыми он обладает в рамках OSA, для иллюстрации последствий и повышения осведомленности пользователей.
Итак, если говорить коротко, то тактика здесь, по-видимому, будет заключаться в «назвать и позорить» — по крайней мере, на первом этапе.
«Как только мы завершим разработку руководства, мы подготовим отчет [по рынку]… о том, кто пользуется руководством, кто и какие шаги предпринимает, каких результатов они достигают для своих пользователей, женщин и девочек, и действительно прольем свет на то, какие меры защиты предусмотрены на разных платформах, чтобы пользователи могли делать осознанный выбор того, где они проводят свое время в сети», — сказала она нам.
Смит предположил, что компании, желающие избежать риска публичного порицания за плохие показатели в области безопасности женщин, смогут обратиться к рекомендациям Ofcom за «практическими шагами» по улучшению ситуации для своих пользователей, а также устранить риск нанесения ущерба репутации.
«Платформы, работающие в Великобритании, должны будут соблюдать британское законодательство», — добавила она в контексте обсуждения основных платформ, снижающих значимость доверия и безопасности. «Так что это означает соблюдение обязанностей по противодействию незаконному вреду и обязанностей по защите детей в соответствии с Законом о безопасности в Интернете».
«Я думаю, что именно здесь пригодятся наши полномочия по обеспечению прозрачности — если отрасль меняет направление и вред увеличивается, именно здесь мы сможем пролить свет и поделиться соответствующей информацией с британскими пользователями, со СМИ и с парламентариями».
Одним из видов онлайн-вреда, в отношении которого Ofcom явно ужесточает свои рекомендации еще до начала активного применения OSA, является злоупотребление интимными изображениями. В последнем проекте руководства предлагается использовать сопоставление хэшей для обнаружения и удаления таких оскорбительных изображений, тогда как предыдущие рекомендации Ofcom не заходили так далеко.
«Мы включили в это руководство дополнительные шаги, которые выходят за рамки того, что мы уже изложили в наших кодексах», — отметил Смит, подтвердив, что Ofcom планирует обновить свои предыдущие кодексы, чтобы включить это изменение «в ближайшем будущем».
«Таким образом, это способ сказать платформам, что вы можете опередить это обязательное требование, следуя шагам, изложенным в этом руководстве», — добавила она.
Ofcom рекомендовал использовать технологию сопоставления хэшей для противодействия злоупотреблению интимными изображениями из-за существенного увеличения этого риска, по словам Смита, особенно в отношении злоупотребления поддельными изображениями, созданными с помощью ИИ.
«В 2023 году было зарегистрировано больше случаев использования фейковых интимных изображений, чем за все предыдущие годы вместе взятые», — отметила она, добавив, что Ofcom также собрал больше доказательств эффективности сопоставления хэшей для борьбы с этим вредом.
Теперь весь проект руководства будет проходить процедуру консультаций (Ofcom будет запрашивать отзывы до 23 мая 2025 года), после чего к концу этого года будет подготовлен окончательный вариант руководства.
Еще через 18 месяцев Ofcom подготовит свой первый отчет, в котором будет рассмотрена отраслевая практика в этой области.
«Мы вступаем в 2027 год, прежде чем подготовим наш первый отчет о том, кто что делает [для защиты женщин и девочек в Интернете], — но ничто не мешает платформам действовать уже сейчас», — добавила она.
Отвечая на критику, что OSA слишком долго внедряется Ofcom, она сказала, что регулятор правильно консультируется по мерам соответствия. Однако, поскольку окончательная мера вступит в силу в следующем месяце, она отметила, что Ofcom также ожидает изменения в разговоре вокруг этой проблемы.
«[Э]то действительно начнет менять подход к работе с платформами, в частности», — предсказала она, добавив, что это также позволит продемонстрировать прогресс в снижении вреда в Интернете.
techcrunch
