Civitai под огнем: платформа пересматривает правила контента, вызывая недовольство пользователей

Платформа Civitai, находящаяся на переднем крае быстро развивающейся области искусственного интеллекта, получила множество негативных откликов после внедрения ограничительных мер по контролю контента.

«Мы пересматриваем наши правила в связи с увеличившимся вниманием к материалам на основе ИИ. Теперь под запретом оказались определенные виды контента, такие как инцест, членовредительство, подгузники и различные телесные выделения. Все загружаемые NSFW-файлы теперь должны содержать метаданные для их отображения. Наша новая система модерации направлена на улучшение маркировки и безопасность контента», — сообщается в официальном заявлении Civitai.

Civitai представляет собой онлайн-платформу и маркетплейс, который специализируется на генеративном искусственном интеллекте с акцентом на создание и обмен изображениями. Она стала известной, привлекая как восторженные отзывы, так и критику за возможность создания изображений без согласия изображаемых, включая материалы, которые могут быть неэтичными или даже незаконными.

Хотя сервис не был позиционирован как платформа для взрослых, его использовали различные NSFW-сообщества, такие как фурри, поклонники аниме для взрослых и сторонники различных направлений BDSM.

Новые правила нарушают привычки пользователей, которые были особенно популярны среди определенных групп. Также ограничения сказались на возможностях получения дохода от работ с реальными личностями, особенно со знаменитостями.

Множественные недовольства стали появляться в соцсетях, таких как Reddit и X, где пользователи выражали свои жалобы на неожиданное удаление материалов без какого-либо объяснения.

«Кто-то еще потерял интерес к участию в Civitai и обмену моделями? Эти последние изменения в модерации и нелепые фильтры заставляют меня думать, что всё это бессмысленно, ведь они могут удалить любой контент по собственному усмотрению. Как скоро они запретят весь NSFW? Или персонажей, защищенных авторским правом? Политическую сатиру?», — написал пользователь под ником Titan__Uranus.

Компания также ввела более строгое регулирование своей валюты Buzz, которую используют для оплаты различных услуг, произошедших в процессе генерации изображений и обучения моделей, что усложнило авторам возможность зарабатывать.

Скорее всего, такие ограничения связаны с требованиями таких платежных систем, как Visa и Mastercard, которые придерживаются жесткой политики в отношении контента для взрослых.

«Вся проблема на 100% вызвана Visa, и любая компания, принимающая их карты, в конечном итоге введет подобные ограничения. На данный момент нет способов это обойти, хотя я стараюсь найти устойчивые долгосрочные решения», — отметил CEO ИИ-платформы Nomi Алекс Кардинел.

Также напомним, что в феврале децентрализованная поисковая система, ориентированная на конфиденциальность, Presearch выпустила чат-бот PreGPT 2.0.