В Госдуму внесен законопроект, предлагающий ввести обязательную маркировку информационных материалов, созданных искусственным интеллектом.
Предполагается, что владельцы умных систем должны будут озаботиться тем, чтобы нейросеть, генерируя контент, обязательно бы ставила на нее свою метку. Что-то вроде "Сделано Роботом". И мы будем понимать: эта красавица - неживая, а этот текст составлен бездушным компьютером. А если нам вдруг позвонит очень большой начальник, или очень старый друг, или очень близкий родственник и попросит денег, у него на лбу (у каждого) должно быть написано, что они - дипфейк. Формат, содержание и порядок размещения маркировки, согласно проекту, будут устанавливаться правительством России.
"Сама идея маркировки ИИ-контента закономерна и ожидаема, однако эффективность нормы будет зависеть не от количества параметров модели, а от конкретного механизма ее исполнения", - рассказала в беседе с "РГ" председатель Комиссии АЮР по развитию правового просвещения в СМИ и блогосфере, доктор юридических наук, заместитель заведующего кафедрой в Университете имени О.Е. Кутафина (МГЮА) Елена Гринь.
По ее словам, важно определить: какой контент подлежит маркировке - полностью сгенерированный или также отредактированный с помощью ИИ? Должна ли отметка быть видимой для человека или машиночитаемой? А также, кто отвечает за ее сохранение после скачивания и дальнейшего распространения материала.
"Кроме того, необходимо разграничить ответственность разработчика модели, владельца сервиса и пользователя, который публикует результат, - подчеркивает она. - Маркировка не должна означать автоматическое признание такого контента недостоверным или незаконным. И наоборот: наличие отметки "создано с помощью ИИ" не освобождает от ответственности за нарушение авторских прав, использование изображения гражданина, введение потребителей в заблуждение и иные нарушения".
Поэтому, продолжает правовед, бизнесу уже сейчас стоит учитывать происхождение контента, условия использования конкретных моделей и порядок согласования публикаций. "Но окончательные выводы можно будет сделать только после появления точной редакции поправок и требований правительства к формату маркировки", - считает Елена Гринь.
Естественно, возникает резонный вопрос: можно ли технически встроить в искусственные умы такие алгоритмы, чтобы маркировка появлялась автоматически и была нестираемой? Вице-президент Ассоциации коммуникационных агентств России, управляющий партнер AI Influence Алексей Парфун рассказал "РГ", что механизмов может быть несколько.
"Технически маркировка возможна, конечно, но не в том виде, в каком ее обычно представляют, - сказал он. - Механизмов несколько. Видимая плашка "создано ИИ" - самый слабый, странный и даже вредный вариант. При желании она снимается кропом за пять секунд, а на скриншоте ее изначально нет".
Метаданные - это уже вариант сильный, продолжает собеседник "РГ". Например, криптографически подписанный паспорт файла, где указано: чем сделано, когда, что потом редактировали. Еще вариант: невидимый водяной знак в самом сигнале. "Модель на этапе генерации сдвигает пиксели так, чтобы в изображении осталась статистическая подпись, невидимая глазу, она переживает сжатие, кроп, скриншот, фильтры, легкий монтаж. Объективно эта технология ближе всего к "нестираемой". Но абсолютной устойчивости нет и тут", - сказал эксперт.
По его словам, важнейший практический вопрос: а где граница "измененного с помощью ИИ?". "Нейросеть сегодня стоит в камере телефона, она настраивает шумоподавление, есть склейка кадров, есть автоматическая ретушь. Формально ночное селфи создано с применением ИИ. Порога участия алгоритма в проекте нет, а без него под требование попадает почти весь визуальный контент", - говорит Алексей Парфун.