Книги против искусственного интеллекта: переворачиваем страницу?

Недавно писательница Исабель Альенде рассказала, как её сын, чтобы показать ей, что в будущем писательство потеряет всякий смысл, поручил программе искусственного интеллекта написать историю о застенчивом мальчике, чья собака спасла его от издевательств . Результат, по словам Альенде, был «практически идентичен» её книге «Perla, la superperrita», хотя, возможно, и немного «более плоским». Хотя Альенде с энтузиазмом отзывалась об эксперименте, нетрудно представить, насколько подобная перспектива могла бы тревожить многих других писателей и представителей издательской индустрии.

Согласно опросу, проведенному Proyecto451 — агентством, предоставляющим цифровые услуги издательствам, — среди более опытных редакторов преобладает положительное мнение относительно влияния ИИ на издательский мир, тогда как для переводчиков, авторов и особенно иллюстраторов соотношение обратная.

Страх перед потерей работы не нов при любой технологической революции. Но, пожалуй, самое тревожное в случае ИИ — это его способность создавать произведения, которые, в зависимости от точки зрения, можно было бы считать произведениями искусства, — то, что до сих пор считалось исключительной прерогативой человека .

Это порождает целый ряд философских дебатов о том, что на самом деле представляет собой творческий акт, а также правовые сложности и специфические проблемы, связанные с изменением форм производства и обращения.

В 2023 году более 15 000 авторов из американской организации «Гильдия авторов» , включая Маргарет Этвуд и Джонатана Франзена , подписали открытое письмо с требованием к таким компаниям, как OpenAI и Meta, прекратить использование их работ без разрешения или компенсации. «Эти технологии копируют и воспроизводят наш язык, истории, стили и идеи. Миллионы книг, статей, эссе и стихотворений, защищённых авторским правом, „скармливаются“ системам искусственного интеллекта», — отметили они в письме.

Согласно расследованию The Atlantic , Meta использовала Library Genesis , одно из крупнейших хранилищ пиратских книг, циркулирующих в Интернете, в качестве набора данных, тем самым нарушив авторские права тысяч писателей.

В настоящее время нормы об авторском праве , основанные на традиционном понимании авторства и творчества как продукта человеческого изобретения, не предлагают адекватных ответов на эту новую ситуацию. Столкнувшись с этим пробелом и в соответствии с рекомендациями организаций из разных стран, Союз писателей Аргентины в апреле опубликовал заявление, подписанное более чем 150 авторами, с требованием включить в издательские договоры «положения, предоставляющие авторам право ограничивать, ограничивать или даже предотвращать использование ИИ в своих произведениях и/или использование ИИ для обучения таким технологиям». На данный момент, в отсутствие общего законодательства, предлагаемым решением являются частные соглашения.

Этот иск, помимо защиты и без того часто недооценённых доходов писателей, направлен на поддержание качества. Согласно письму Гильдии авторов , рынок может быть переполнен «посредственными» книгами. Фактически, Amazon был вынужден ограничить самоиздание после того, как сервис наводнил множество книг, написанных искусственным интеллектом.

Распространение псевдокниг открывает дорогу мошенничеству: книгам, которые обещают быть чем-то, что написано на их цифровых обложках, но на самом деле содержат несоответствующее содержание, авторам с поддельными личностями и лицам, сгенерированным компьютерными программами. Писательница и редактор Джейн Фридман подала в суд на Amazon , случайно обнаружив, что платформа выставила на продажу книги под её именем, которые она не писала. Помимо своего личного случая, автор также с тревогой отметила другой феномен: некоторые люди, основываясь на кратких аннотациях к предварительным публикациям, создавали книги ещё до их публикации.

Перспектива сэкономить годы работы, просто написав пару подсказок, могла бы, например, заменить кропотливую работу на писательских семинарах. Однако, опять же, будет ли достаточно попросить ИИ сгенерировать десять возможных вариантов для одного и того же текста?

Хотя его использование для ускорения рабочих процессов может быть более охотно воспринято редакторами и авторами, например, для обнаружения ошибок правописания или форматирования (или даже в качестве инструмента для перефразирования предложений), его полезность для определения качества текста более неоднозначна.

ИИ учится на опыте прошлого, опираясь на уже созданное для создания чего-либо. В принципе, это не сильно отличается от процесса, когда человек вдохновляется своими предками. Однако, хотя реальные творцы несут ответственность за свои слова (или могут быть привлечены к ответственности), неясно, как это применимо к объектам, созданным ИИ.

Так называемая «проблема предвзятости» призвана выявить социальный и культурный след, лежащий в основе этих систем, поскольку они могут воспроизводить и распространять уже существующие предрассудки в зависимости от обрабатываемых данных. В этом случае ИИ мог бы генерировать тексты, пропагандирующие пытки или подстрекающие к самоубийству, чисто механически, без каких-либо этических соображений. Столкнувшись с этой проблемой, компаниям пришлось принять меры для противодействия пагубным последствиям, вводя ограничения и совершенствуя базы данных.

Но искусство часто балансирует на грани. Например, изображение насилия в контексте произведения переосмысливается, приобретая новые измерения, которые могут ускользнуть от буквального понимания ИИ. Сможет ли ограниченный ИИ с моральными принципами написать «Лолиту» Набокова, или он откажется принять точку зрения этого отвратительного рассказчика?

Недавно иллюстратор Мария Вероника Рамирес обнаружила, что созданная с помощью искусственного интеллекта репродукция её работы, созданная в поддержку больницы Гаррахан , стала вирусной в социальных сетях. Однако реплика превратила изображение в линейное представление, лишённое метафоры, присутствовавшей в оригинальном рисунке, и вырванное из мира смыслов её персонажа, Монстриньи .

«Лучшие литературные переводы предлагают нечто большее, чем просто точность, нечто большее, чем буквальная верность словам, из которых состоят предложения», — сказала переводчица Полли Бартон в ответ на вопрос The Guardian о запуске GlobeScribe , сервиса литературного перевода, который, по обещаниям его создателей, выдаёт результаты, неотличимые от результатов, выполненных человеком. Для Полли Бартон, как и для других коллег, истинная ценность перевода заключается в интерпретации исходного контекста, в поиске воспроизведения ритмов или атмосферы, которые литературные тексты вызывают у читателей .

Замещение этих рабочих мест, хотя и потенциально возможно, не произойдёт без сопротивления. Например, в Испании несколько книжных магазинов решили убрать с полок книгу «Жанна д’Арк» , изданную Planeta , после того, как известный иллюстратор опубликовал сообщение, свидетельствующее о том, что обложка была разработана искусственным интеллектом .

Возможно, этот акт солидарности между двумя участниками книжной экосистемы также можно объяснить чувством общей угрозы. Если профессию книготорговца можно было бы оценить, в частности, по его способности предлагать клиентам рекомендации, то платформы вроде Goodreads или The StoryGraph ведут себя как искусственные имитаторы, генерирующие персонализированные предложения.

Утрата сложности в пользу прозрачности и гомогенизация вкуса посредством алгоритмического повторения одних и тех же вещей, по-видимому, способствуют формированию атмосферы культурного выравнивания. Кроме того, существуют исследования, демонстрирующие негативное влияние постоянного использования программ, таких как ChatGPT , на когнитивные способности людей, хотя это вполне может напоминать жалобы Платона на письменность.

Несмотря на все опасения, есть те, кто, как Исабель Альенде, видит в развитии ИИ одновременно и вызов, и возможность для экспериментов. Испанский писатель и литературный критик Хорхе Каррион опубликовал книгу «Магнитные поля» , в которой указал в качестве соавторов две системы искусственного интеллекта. Это была дань уважения творчеству сюрреалистов Андре Бретона и Филиппа Супо , в которой он распространил идею автоматического письма на диалог между двумя машинами.

«Если годами мы привыкали к проверке орфографии в текстовом процессоре, то теперь мы сами проверяем и редактируем тексты, созданные программой OpenAI », — заявил Каррион в статье в La Vanguardia. Насколько верен этот диагноз, покажут ближайшие годы.