У искусственного интеллекта… скажем так, непростые отношения с художественным сообществом, и трансформирующийся фэндом не является исключением. Многие фанаты приняли некоторые инструменты, такие как боты Character.ai, но многие также вздрогнули от перспективы генераторов текста, обучающихся на их фанфикшене; в своих кругах я видел несколько человек, которые говорили, что перспектива наводнения контента, созданного ИИ, отбивает у них желание писать. А на прошлой неделе обратная реакция привела к странному осложнению второго порядка: кто-то безудержно обвиняет писателей-фанатов без ИИ в том, что они «читеры, использующие ИИ», и, насколько я могу судить, никто не знает, почему.

Согласно сообщениям и ответам в Twitter, Reddit и Tumblr, множество авторов получают очевидные спам-комментарии на Archive of Our Own (или AO3), одном из самых популярных сайтов фэнворков. В самом раннем варианте комментарий выглядел следующим образом:

Эта работа была сгенерирована HoloAI на основе алгоритма".

Авторы, о которых идет речь, отрицают использование инструментов искусственного интеллекта, а некоторые комментарии, по-видимому, были оставлены к фикам, созданным до появления инструментов, в использовании которых их обвиняют. По общему мнению, это один из видов спама, и операторы AO3 вчера признали проблему, придя к такому же выводу.

Тем не менее, это также расстраивает авторов. Комментарии появились примерно 1 апреля, что заставило многих предположить, что это первоапрельская шутка. Некоторые предположили, что это реклама HoloAI или других писательских сервисов, которые иногда упоминались вместо него, например, NovelAI или Sudowrite. Но комментарии продолжались несколько дней в апреле, и они приобрели более осуждающий тон. Одна из последних итераций предупредила «всех читателей» о необходимости просканировать работу с помощью системы обнаружения ИИ Winston, призывая их «выявить всех мошенников, использующих ИИ». (Это, в свою очередь, привело к предположениям, что это реклама детекторов ИИ, технологии вполне реальной, но все еще экспериментальной).

Это, мягко говоря, не похоже на эффективную рекламу; AO3 — это некоммерческая платформа для написания текстов для сообщества, многие члены которого ненавидят генеративный ИИ. Не похоже, что они направлены на какой-то конкретный фэндом или пару персонажей, поэтому они не выглядят как целенаправленная попытка преследования. Возможно, это искренняя (пусть и чрезмерно усердная) попытка вычистить написанные ИИ фики, но наиболее вероятно, что это своего рода троллинг с оскорблениями общего назначения — подпитываемый антагонистическими отношениями творческого сообщества с широко разрекламированным новым инструментом.

Одна из причин, почему это так беспокоит авторов, заключается в том, что — по сравнению с большинством известных социальных платформ — AO3 является очень интимным пространством. Комментарии к фанфикшену — это инструмент создания сообщества, к которому многие участники сайта относятся очень серьезно и (особенно в небольших фэндомах) вообще отмечают его получение. На Reddit один автор жаловался, что впервые в жизни получил ответ на свое произведение… и понял, что это был «тот гребаный комментарий ИИ».

Если вы получите комментарий к своей работе о том, что она выглядит так, будто ее сгенерировал ИИ, пожалуйста, отметьте это как спам! Не нужно сообщать нам об этом. Вы также можете отключить гостевые комментарии к своим работам. Администраторы AO3 никогда не будут общаться с вами через гостевые комментарии.
- AO3 Status (@AO3_Status) 7 апреля 2023 г.

Я связался с оператором AO3, Организацией трансформационных работ (OTW), по поводу спам-комментариев. «Мы внесли некоторые изменения в код сайта, которые не позволят ответственным ботам получить к нему доступ. Однако предотвращение всего автоматизированного трафика не только заблокирует ботов ИИ, но и нарушит работу поисковых систем и некоторых программ чтения с экрана, а также других инструментов», — написала директор по коммуникациям Клаудия Ребаза в заявлении службы поддержки OTW. В настоящее время OTW рекомендует людям просто отмечать комментарии как спам».

Ребаза отметила, что сообщество задавало различные вопросы об инструментах ИИ, в том числе о том, стоит ли вообще разрешать ИИ-фики на AO3. «На данный момент мы не запрещаем фанфики, сгенерированные ИИ, как таковые, если они в остальном квалифицируются как фанфики», — сказал Ребаза. «Однако мы следим за ситуацией. В зависимости от обстоятельств, произведения, сгенерированные ИИ, могут нарушать нашу политику борьбы со спамом, но это развивающаяся ситуация, и мы не приняли общее правило».

Генеративный ИИ оказался кошмаром для сайтов платной фантастики, которые столкнулись с потоком спамоподобных произведений, созданных мошенниками, использующими ИИ. AO3 (который запрещает любой вид монетизации) не предлагает таких же стимулов. Авторы размещали сгенерированные ИИ фики с первых дней существования генератора текстовых приключений AI Dungeon, но часто таким образом, чтобы подчеркнуть творческие побуждения автора или способность инструментов к абсурду. Но по мере того, как вокруг генеративного ИИ разгоралась культурная война, обратная реакция на поддержку или противодействие ему становилась все сильнее. Теперь писателям приходится беспокоиться не только о конкуренции с ИИ, но и о том, чтобы их не обвинили в том, что они сами являются таковыми.