Весной 2022 года компания Google начала обращаться к ряду авторов, в том числе к авторам научно-фантастических произведений, удостоенным престижных премий, и авторам бестселлеров New York Times, с просьбой оставить отзыв об экспериментальном инструменте для письма. Четыре года спустя их участие вызвало бурные споры в определенных кругах литературного мира.
Исследователи Google в то время знали, что они приближаются к переломному моменту в области больших языковых моделей (LLM). DeepMind, ИИ-подразделение компании, внутренне тестировало модель генерации естественного языка под названием LaMDA, которая продемонстрировала новые возможности письма. Впоследствии эта модель легла в основу Google Gemini. Было запущено внутреннее исследование, чтобы определить, может ли ИИ служить помощником в мозговом штурме, исследователем или соавтором для профессиональных писателей.
DeepMind была, помимо прочего, инкубатором для Magenta — исследовательского проекта, ориентированного на искусство, по созданию инструментов машинного обучения с открытым исходным кодом, наиболее известного разработкой цифровых музыкальных плагинов для Ableton Live. Фокус на гуманитарных науках сделал Magenta идеальной площадкой для исследования, получившего название Wordcraft Writers Workshop.
Тринадцать писателей были привлечены к так называемому воркшопу, подписали строгие соглашения о неразглашении и получили доступ к «волшебному текстовому редактору» под названием Wordcraft, который на самом деле представлял собой ориентированный на письмо интерфейс для LaMDA. Один из участвовавших авторов, с которым пообщался Engadget, описал программу как нечто похожее на Microsoft Word с чат-ботом сбоку. Каждому участнику было дано восемь недель на написание рассказа с использованием LLM для любых целей и применением ее результатов в любой удобной им степени. По меньшей мере один автор в итоге вообще не использовал сгенерированный ИИ текст. Полученные рассказы были опубликованы на веб-сайте Magenta вместе с белой книгой исследователей.
За время, прошедшее с момента публикации белой книги и до сегодняшнего дня, общественные настроения в отношении ИИ — особенно в творческих профессиях — резко изменились. Именно поэтому, когда Лили Лашанс в начале этого месяца наткнулась на сайт Wordcraft (предположительно во время просмотров Codex, эксклюзивного онлайн-форума для профессиональных авторов спекулятивной фантастики), она была шокирована.
Лашанс — писательница и, по ее собственному определению, «абсолютная противница генеративного ИИ». 6 августа она опубликовала ссылку на исследование Wordcraft в своем профиле на Bluesky. «Свежие новости», — начинался удаленный ныне пост о четырехлетнем исследовании, — «13 профессиональных писателей объединились с движком для создания ИИ-мусора от Google (WordCraft), чтобы написать по рассказу, помогая легитимизировать машину для плагиата. Больше никогда ничего у них не прочитаю. Надеюсь, деньги того стоили, стайка клоунов». (Участники Wordcraft Writers Workshop отказались сообщить Engadget, какое вознаграждение они получили за исследование; компания Google не ответила на запрос о комментарии).
Реакция последовала незамедлительно, и пост Лашанс быстро разошелся среди пользователей Bluesky, увлекающихся чтением. Многие выражали сожаление по поводу участия любимых авторов в исследовании Wordcraft, в то время как другие угрожали бойкотировать произведения всех 13 участников. «Я даже назову имена и пригвожу к позорному столбу», — написал один из пользователей, за аккаунтом которого следит ряд известных жанровых писателей, приложив список участников, которых он назвал «»писателями», предавшими всех творческих людей». Формат списка оказался популярным, и ряд других пользователей также поделились именами вместе со своими собственными осуждениями и эпитетами.
Значительная часть гнева, направленного на участников исследования Wordcraft, проистекает из практики технологических компаний по обучению LLM (часто без разрешения авторов) на огромных массивах защищенных авторским правом текстов. Изящное извращение этого соглашения — сбор богатого художественного наследия человечества ради создания продукта, который грозит обнищанием и заменой работающих художников — побудило многих публично осудить эту технологию или по крайней мере ее худшие вероятные последствия.
Спустя несколько часов после первоначального поста Лашанс писатели, участвовавшие в Wordcraft Writers Workshop, начали делать заявления по поводу разгоревшегося скандала. Евгения Триантафиллу, автор спекулятивной фантастики из Греции, удостоенная премии Ширли Джексон, написала: «В 2022 году, до появления ChatGPT и всего остального, я участвовала в этом исследовании. Оно преподносилось как [сик] исследование нового инструмента, который я могла бы попробовать и высказать свое мнение. Я не знала, что он обучался на материалах, защищенных авторским правом».
Некоторые из тех, кого сейчас называют «позорной трирнадцатью», возможно, даже не подозревают, что их репутация находится под ударом, в то время как другим может быть все равно. Некоторые из авторов, в первую очередь любимец научной фантастики Кен Лю и автор бестселлеров Робин Слоан, судя по всему, редко пользуются социальными сетями. Первый не ведет свои аккаунты самостоятельно; второй публикует обновления о своем опыте работы с технологиями ИИ в своем личном блоге, хотя неясно, какую роль они играют или не играют в его опубликованных произведениях.
Не все реакции сопровождались вилами и факелами. Ваджра Чандрасекера, плодовитый писатель-фантаст и бывший редактор художественной литературы в Strange Horizons, написал пространную ветку в Bluesky, посвященную этому скандалу. «Хотя участие в 2022 году было очевидной ошибкой, я не виню этих писателей сегодня, если они по-прежнему не выступают за ИИ», — написал он. Но он также отметил, что, хотя в середине 2022 года меньше людей высказывали опасения по поводу ИИ, линии разлома уже были видны.
По словам Линкольна Мишеля, писателя-фантаста и преподавателя художественного письма в Колумбийском университете и Колледже Сары Лоуренс, в 2022 году LLM только начинали проникать в общественное сознание и еще не сплотили художников против себя. «Насколько я помню, большинство людей не обращали внимания на LLM, — рассказал он Engadget, — но были некоторые серьезные авторы, которые интересовались этим и открыто об этом говорили».
Один из первых судебных исков против компании, занимающейся разработкой ИИ, по обвинению в нарушении авторских прав был подан в январе 2023 года иллюстратором Сарой Андерсон; автор хоррора Пол Трембле и писательница Мона Авад также подали иск против OpenAI в июне того же года за предполагаемое использование их опубликованных произведений. Но общественное мнение еще не изменилось. Мишель сослался на рассказ «Согласно Элис» писательницы экспериментальной прозы Шейлы Хети, написанный в сотрудничестве с LLM летом 2022 года и опубликованный журналом The New Yorker в ноябре 2023 года, который вызвал у читателей любопытство, сменившееся в сущности нейтральной реакцией.
Критики указывают на разделы белой книги Google как на доказательство того, что участники Wordcraft понимали неэтичные последствия технологии, которую они тестировали. Раздел работы под названием «Обеспокоенность по поводу происхождения предложений Wordcraft» на первый взгляд подтверждает это утверждение. «Несколько участников выразили серьезную озабоченность тем, что они не знают источник предложений Wordcraft», — утверждается в документе. Один из участников, Эллисон Пэрриш, даже рассказала исследователям, что начала проводить поиск в Интернете по результатам работы LLM, пытаясь убедиться, что они не заимствованы путем плагиата.
Один из отмеченных наградами писателей-фантастов, пожелавший остаться неназванным, рассказал Engadget, что Google не объяснила ему, как работает технология и кто еще участвовал в исследовании. Триантафиллу также заявила, что в то время она не понимала, как работает технология, и что Wordcraft преподносился ей как «редактор историй». Она была знакома со старыми инструментами, не связанными с ИИ, такими как генераторы имен в стиле фэнтези, которые случайным образом соединяют слоги в стиле Mad Libs для создания потусторонних имен персонажей. «В моих мыслях это было больше похоже на один из тех генераторов, которыми мы пользовались до появления LLM, — сказала она. — Честно говоря, с моей стороны это было очень наивно». В публичном заявлении, отвечая на споры вокруг ее участия в Wordcraft, она написала: «Я не использовала ИИ для написания своих рассказов. Я стала ненавидеть LLM и никогда бы не участвовала в подобном исследовании сегодня».
Подобные горячие точки являются показателем влияния ИИ на искусство, и хотя может показаться несправедливым задним числом предъявлять этим 13 писателям требования по стремительно меняющимся моральным стандартам, некоторые из подвергшихся критике участников исследования Wordcraft все равно пришли к тому же выводу, что и Лашанс. «Самое главное, что я вынес после этого проекта, — это глубокая ненависть к ИИ-мусору и LLM, как знает каждый, кто слышал мои выступления на [эту] тему с тех пор», — написал Талаби на Bluesky, — «Я увидел, как делается эта колбаса, и отверг ее».
