Компания «Яндекс» совместно с Институтом системного программирования РАН создает систему скрытой маркировки изображений, видео и аудио, сгенерированных искусственным интеллектом. Технология позволит определять происхождение контента.
«Яндекс» вместе с Институтом системного программирования РАН (ИСП РАН) создает систему маркировки фото, видео и аудио, сгенерированных искусственным интеллектом. В частности, речь идет о контенте, созданном нейросетью «Яндекса» для генерации изображений «Шедеврум». Представитель компании подтвердил разработку, но не назвал сроки ее завершения.
Речь идет не о видимом «водяном знаке», который можно закрасить или обрезать. Это микроскопический артефакт-маркер, незаметный для человеческого глаза, но распознаваемый анализатором. Также «Яндекс» работает над сервисом, который поможет пользователям определять, создано ли изображение искусственным интеллектом.
Технологию планируют стандартизировать и сделать открытой для всех участников рынка. Создание единого отраслевого стандарта для генерации ИИ-изображений — обязательное условие эффективности таких сервисов.
О возможности обязательной маркировке контента, созданного с помощью искусственного интеллекта сообщалось еще в июле. Также обсуждалось введение уголовной ответственности за распространение дипфейков, созданных без согласия человека. Тогда в Минцифры подчеркнули, что перед внедрением маркировки нужно проработать механизмы контроля, определить ответственные органы и круг лиц, обязанных маркировать контент, а также разработать технические решения для выявления дипфейков. В России появится система маркировки для фото-, видео- и аудиоконтента, сгенерированного искусственным интеллектом (ИИ). Ее разрабатывает «Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН). Об этом сообщают «Ведомости» со ссылкой на источники.
Один из собеседников пояснил изданию, что речь идет о микроскопическом артефакт‑маркере, который был бы заметен анализатору, но не человеческому глазу. Для того, чтобы пользователи могли проверить, было ли изображение сгенерировано с помощью ИИ, «Яндекс» разрабатывает сервис по распознаванию маркировки.
«Мы планируем внедрять такие инструменты в наши сервисы», — подтвердил факт разработки представитель «Яндекса». Однако, для полноценного ее внедрения необходим отраслевой стандарт генерации ИИ-контента.
По словам экспертов, у «Яндекса» нет никакого влияния на ChatGPT или другие нейросети, созданные вне России, поэтому речь скорее идет об отечественных стандартах. При этом детектор «Яндекса» сможет выявлять контент от других нейросетей только при наличии общих метаданных или открытых API для анализа.
Еще в июле в Минцифры заявляли, что в России придут к обязательной маркировке контента, созданного с помощью искусственного интеллекта, а также к введению уголовной ответственности за распространение дипфейков, созданных без согласия человека.