Jaki jest plan monitorowania wszystkich czatów obywateli Unii Europejskiej?

14 października Unia Europejska miała podjąć decyzję o zatwierdzeniu proponowanego Rozporządzenia w sprawie Wykorzystywania Seksualnego Dzieci (CSAR) , lepiej znanego jako Chat Control . Jest to projekt technologiczny, którego celem jest skanowanie wiadomości, e-maili, zdjęć i filmów w celu zwalczania rozprzestrzeniania się pornografii dziecięcej w Internecie .

Głosowanie zostało jednak zablokowane po tym, jak Niemcy ogłosiły wycofanie się z UE, uniemożliwiając osiągnięcie wymaganej większości kwalifikowanej. W konsekwencji głosowanie zostało usunięte z porządku obrad Rady Europejskiej. Decyzja Niemiec – będąca również wynikiem silnej presji społecznej – skutecznie wstrzymała prace nad regulacją.

Ale jak ten projekt miałby właściwie działać? Obecnie popularne aplikacje do przesyłania wiadomości, takie jak WhatsApp , Telegram i portale społecznościowe , gwarantują ochronę konwersacji za pomocą kompleksowego szyfrowania, dzięki czemu wiadomości mogą odczytać tylko nadawca i odbiorca.

Nowe przepisy mają jednak na celu zniesienie tej ochrony poprzez wprowadzenie systemu sztucznej inteligencji, który będzie w stanie analizować treści pod kątem treści uznanych za nielegalne . Gdy algorytm zidentyfikuje podejrzane treści, zostaną one oznaczone i zweryfikowane przez wyznaczonych operatorów.

Cel jest niewątpliwie szczytny, ale projekt budzi poważne obawy dotyczące prywatności, dotykając około 450 milionów obywateli Europy . Aplikacja Chat Control byłaby sprzeczna z artykułami 7 i 8 Karty praw podstawowych Unii Europejskiej, które chronią odpowiednio prawo do prywatności i prawo do ochrony danych osobowych .

Istnieje również problem techniczny i ilościowy: sztuczna inteligencja ryzykuje generowanie ogromnej liczby bezpodstawnych doniesień. Jak zauważa bloger znany na Instagramie jako Kants Exhibition , sztuczna inteligencja „nie zna kontekstu, nie zna ironii: po prostu relacjonuje . Jest tak samo arogancka jak ktoś, kto wie, że nie wie”. Bez prawdziwego zrozumienia kontekstu system może przekształcić się w gigantyczny aparat weryfikacyjny dla nieszkodliwych wiadomości i obrazów – od zdjęć rodzinnych po zdjęcia wysyłane pediatrze z powodów medycznych .

Eksperci zajmujący się walką z pornografią dziecięcą podkreślają również, że system ten nie jest zbyt skuteczny: pedofile nie korzystają z tradycyjnych platform do przesyłania wiadomości, lecz poruszają się za pośrednictwem forów i sieci deep web , które trudno przechwycić za pomocą tego typu technologii.

Wreszcie, w perspektywie dystopijnej , system monitorujący każdą wiadomość od każdego obywatela grozi podsycaniem nieustannego nadzoru , ograniczając wolność słowa nawet w sferze prywatnej. W niewłaściwych rękach podobne narzędzia mogłyby stać się bronią kontroli politycznej , użyteczną do tłumienia opozycji i identyfikowania przeciwników reżimu.