Еврокомиссия (ЕК) столкнулась с парадоксом, разрабатывая Кодекс практики по маркировке контента, созданного искусственным интеллектом (ИИ, AI). Инициатива, продвигаемая высшим руководством Евросоюза, создает двойной стандарт: она требует от частного сектора обязательной прозрачности и маркировки для сгенерированного контента, в то время как сама ЕК активно использует эти технологии для внутренних нужд, не применяя к себе этих строгих норм.
Какие бывают машиночитаемые маркировки?
Политическим двигателем требования об обязательной маркировке синтетического контента была Вера Юрова (вице-президент ЕК по ценностям и прозрачности, чей мандат истек в 2024 году). Ее призыв в июне 2023 года требовал от технологических гигантов срочно внедрить меры по борьбе с дезинформацией, созданной нейросетями.
Работа по надзору за соблюдением этих норм легла на недавно созданный Европейский офис по искусственному интеллекту. Главной задачей регулирования в рамках маркировочного кодекса называется защита граждан от дезинформации и мошенничества. Ответственность ложится на поставщиков ИИ-систем и операторов, которые должы внедрить машиночитаемые метки, устойчивые к удалению. Это технически сложная задача, и ее несовершенство делает реализацию требований трудно достижимой.
Для обеспечения прозрачности, ЕК призывает разработчиков использовать технологии, которые позволяют надежно встраивать информацию о происхождении контента:
☛ Цифровые водяные знаки (Digital Watermarking): Скрытый код, незаметный для человека, который вшивается в сам файл (аудио, видео или изображение). Он сложно удаляется без повреждения контента.
☛ Криптографическая аттестация: Более надежный метод, при котором к файлу прикрепляется цифровая подпись (сертификат). Эта подпись отслеживает весь «путь» контента, подтверждая, когда и где он был создан с помощью ИИ.
☛ Встроенные метаданные: Стандартизированная информация, которая добавляется в технические данные файла, но легко теряется при редактировании.
Главные вызовы для «Европейской крепости»
Требования по маркировке указывают на несколько критических проблем, которые ЕК должна решить для успешной реализации своих целей. Во-первых, это международная совместимость стандартов. Создание уникальных для ЕС стандартов маркировки может привести к тому, что глобальные платформы будут вынуждены создавать отдельные, дорогостоящие версии своих ИИ-моделей. Кроме того, если стандарты ЕС (например, для цифровых водяных знаков) не будут совместимы с подходами США (например, C2PA) или Китая, то европейские компании столкнутся с огромными операционными издержками.
Во-вторых, это защита открытого исходного кода (Open Source). Регулятору необходимо четко определить ответственность за контент, созданный с помощью ИИ. Сегодня большинство прорывных ИИ-моделей выпускаются как открытый код. Если разработчик выпускает модель, которая может создавать дипфейки, но не имеет встроенных механизмов маркировки, кто несет ответственность?
Чрезмерное давление на разработчиков может непреднамеренно остановить инновации в этом критически важном секторе.
В-третьих, это иллюзия «неудаляемой» маркировки. Технически ее просто не существует. Например, маркировку можно будет удалить с помощью другой ИИ-модели, специально обученной для стирания водяных знаков. А это уже просто снижение риска, а не его устранение.
Логический разрыв
Главный логический разрыв заключается в том, что ЕК, которая сама использует ИИ для внутренних целей (анализ документов, переводы) и внешних публикаций, налагает на внешний рынок столь жесткие требования. ЕК оправдывает это принципом разделения рисков.
По ее мнению, внутреннее использование ИИ для повышения эффективности госаппарата, где конечные документы проходят проверку человеком и публикуются под официальной ответственностью, представляет минимальный риск. В то время как широкое рыночное использование ИИ несет высокий риск дезинформации и мошенничества, требуя немедленного регулирования.
Однако такой подход создает бюрократический прессинг и рискует замедлить развитие европейского технологического сектора.