Эми Клобушар считает, что важно защищать людей и запрещать на законодательном уровне использование их внешности с целью нанести вред.
«Сегодня реалистичный дипфейк — созданный ИИ видеоматериал, демонстрирующий действия или слова, которых человек никогда не делал, — способен обойти весь мир и оказаться в телефонах миллионов пользователей, пока правда остается незамеченной, словно запертой на устаревших линиях связи», — посетовала Клобушар.
Вирусные слова о Сидни Суини, которых никто не говорил
Американский политик призналась, что в прошлом месяце сама стала жертвой современных технологий. По словам Клобушар, в Сети стал вирусным дипфейк, в котором она якобы высказалась о рекламе джинсов с участием актрисы Сидни Суини.
По словам Клобушар, злоумышленники использовали кадры недавнего заседания подкомитета Сената США по юридическим вопросам, на котором рассматривалась тема защиты данных. По словам автора статьи, разговор был спокойным и в нем не было каких-либо партийных разборок. Спустя некоторое время Клобушар ждал сюрприз: видеоролик с ней на этом заседании набрал более миллиона просмотров в соцсетях.
«Я кликнула посмотреть, что вызвало такую реакцию. Именно тогда я услышала свой голос, безусловно, не мой собственный, извергающий вульгарную и абсурдную критику рекламной кампании джинсов с участием Сидни Суини. В дипфейке, созданном искусственным интеллектом, я использовала фразу “идеальные сиськи” и сетовала на то, что демократы “слишком толстые, чтобы носить джинсы, или слишком уродливые, чтобы выходить на улицу”. Я сразу поняла, что кто-то использовал материалы с моего выступления для создания дипфейка, но невозможно было отрицать тот факт, что все это выглядело и звучало очень правдоподобно», — призналась политик.
Клобушар подчеркнула, что, как и любой другой человек, хотела удалить видео или хотя бы обозначить его меткой «контент изменен искусственно». По словам политика, в ролике использовали ее образ, заставив сказать мерзкие вещи, чтобы намеренно спровоцировать конфликтную ситуацию там, где ее не было.
В статье со ссылкой на исследования утверждается, что у зрителей подобного контента формируется стойкое негативное отношение к человеку на видео, даже если они знают, что перед ними фейк.
Кто несет ответственность за дипфейки
Автор статьи рассказала, что на ее жалобы службы поддержки соцсетей отреагировали по-разному. Одни согласились удалить ролик, другие поставили на нем отметку ИИ, а третьи, ссылаясь на политику компании, заявляли, что нужно получить «общественные заметки» (когда пользователи сами добавляют контекст к спорным публикациям) о том, что это фейк, но не стали помогать с оформлением этого предупреждения. По словам Клобушар, ее опыт борьбы с распространением одного-единственного видео показал, насколько беспомощны мы сейчас.
«Почему прибыль технологических компаний должна преобладать над нашими правами на собственные изображения и голоса? Почему их акционеры и руководители получают больше денег за счет распространения вирусного контента в ущерб нашей конфиденциальности и репутации? И почему отсутствуют последствия для тех, кто незаконно создает дипфейки и распространяет лживую информацию?» — посетовала Клобушар.
Политик напомнила о том, что подобные ролики могут привести к серьезным последствиям. По словам Клобушар, «технология способна полностью перевернуть жизнь практически каждого».
«В прошлом году кто-то воспользовался искусственным интеллектом, чтобы скопировать голос директора школы в Мэриленде, и создал аудиозапись, на которой тот якобы делал расистские и антисемитские высказывания. К моменту, когда выяснилось, что запись была поддельной, директор уже был временно отстранен, а ученики и их семьи испытали сильную обиду», — сообщила политик.
Клобушар привела еще ряд ужасающих примеров, когда с помощью дипфейков от имени директора банка можно заставить людей массово снимать вклады, от имени инфлюенсеров пропагандировать наркотики среди детей, от имени президентов развязывать войны
Технологии ИИ опередили законы
По словам политика, проблема заключается в том, что благодаря развитию искусственного интеллекта технологии вырвались далеко вперед по сравнению с законами, и нельзя допустить, чтобы это продолжалось и дальше без соблюдения правил.
Она рассказала о принятии в США закона, который защищает права людей, чьи интимные изображения, в том числе дипфейки, распространяются без их согласия. По словам сенатора, недавно около 20 подростков покончили с собой из-за угроз распространения откровенных материалов без их разрешения.
Она также отметила, что в Евросоюзе законы обязывают четко маркировать и ставить водяные знаки на контент, создаваемый ИИ. В Дании, по словам Клобушар, предлагают и вовсе дать авторские права гражданам на их внешность и голос — это обяжет удалять незаконно созданные дипфейки подобно тому, как это делается с музыкой, защищенной авторским правом.
«Очевидно, мы находимся лишь на верхушке айсберга. Дипфейки подобно тому, что был сделан с моим изображением на слушаниях, станут еще чаще распространяться, при этом их станет сложнее распознавать как продукт ИИ. В Интернете бесконечно есть спрос на яркие спорные материалы, возбуждающие злость. Создатели подобных видео не собираются останавливаться на рекламном ролике с джинсами Сидни Суини. Можно любить технологии и пользоваться ими, но мы не можем полностью отказаться от контроля над нашими изображениями и нашей личной жизнью», — резюмировала Клобушар.
