Китай ужесточает регулирование искусственного интеллекта: с теперь весь сгенерированный ИИ контент в интернете должен быть соответствующим образом промаркирован. Новые правила, разработанные Государственным управлением киберпространства КНР (CAC) совместно с другими ведомствами, обязывают платформы и пользователей явно указывать, что материал создан с помощью алгоритмов.

Новые требования к ИИ-контенту Согласно постановлению, любой синтетический контент — будь то текст, изображения, аудио или видео — должен сопровождаться специальной отметкой.

Это может быть:
- явная пометка в описании (например, «создано с помощью ИИ»),
- метаданные, встроенные в файл.

Провайдеры интернет-услуг и операторы магазинов приложений обязаны проверять соблюдение этих норм. Кроме того, пользователи, публикующие ИИ-материалы, должны декларировать их происхождение. Нарушителей, которые удаляют или изменяют маркировку после публикации, ждут санкции. В заявлении CAC подчеркивается, что закон направлен на борьбу с дезинформацией и злоупотреблением технологиями: «Маркировка поможет пользователям отличать реальный контент от сгенерированного ИИ и возложит ответственность на поставщиков услуг за корректное обозначение материалов».

Китай, ЕС и США: разные подходы к регулированию ИИ
Китай стал одной из первых стран, системно подошедших к регулированию ИИ. Его политика контрастирует с действиями администрации США: В 2023 году экс-президент Джо Байден подписал указ о контроле за ИИ, но его отменил Дональд Трамп. Сейчас Вашингтон, напротив, поощряет использование ИИ федеральными агентствами и отменяет прежние ограничения.

В то же время Европейский Союз в 2024 году принял «Акт об ИИ» — первый в мире всеобъемлющий закон об искусственном интеллекте. Китай, следуя аналогичному курсу, усиливает надзор за цифровым пространством.

Сложности внедрения
Несмотря на благие цели, эффективность маркировки остается под вопросом. Современные ИИ-алгоритмы создают контент, который почти неотличим от реального, а технические механизмы проверки несовершенны: В 2024 году Meta* ввела метку «Сделано с ИИ» в Facebook* и Instagram*, но система ошиблась, пометив настоящие фото как сгенерированные.

Платформы, такие как Pinterest, уже столкнулись с лавиной ИИ-контента: поиск по запросу «кулинарные рецепты» выдает в основном изображения, созданные нейросетями, но лишь единицы имеют отметку.

Эксперты сомневаются, что даже жесткие правила полностью остановят поток «ИИ-мусора», который захлестывает соцсети. Однако Китай, известный строгим контролем интернета, вероятно, будет активнее других добиваться исполнения норм. Новый закон — важный шаг в борьбе с дезинформацией, но его успех зависит от того, смогут ли власти и компании обеспечить точную идентификацию ИИ-материалов.