В воскресенье сразу две крупнейшие газеты США - "Нью-Йорк Таймс" и "Вашингтон Пост" сделали темой номер один эссе, опубликованное главой компании Anthropic (разработчик языковой модели Claude) Дарио Амодеи. Тот писал об искусственном интеллекте - сюжете, про который большинство американцев много слышали, но в нюансах которого подавляющее большинство ничего не понимает. Тем не менее влиятельные общественно-политические издания подробно, с привлечением экспертов, пересказали тезисы выступления Амодеи, придав узкопрофильной высокотехнологичной теме политический сюжет, затрагивающий интересы избирателей.
К тому же обнародованное Амодеи эссе по языку и аргументам не имеет ничего общего с профессиональным обсуждением - руководитель бизнес-компании предупреждает сограждан, а вместе с ними человечество о том, что через 6-12 месяцев искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов.
Но почему эта статья Амодеи появилась именно сейчас и насколько чисты помыслы ее автора?
На первый взгляд, публикация объясняется искренним беспокойством одного из разработчиков опасного "контента" способностью ИИ выйти из-под контроля и основана на фактах, которые стали ранее широко известны.
"Рой агентов OpenAl, по сути, действовал как фанатично преданный делу коллектив, проводя кибератаки на цели, которые им не поручали атаковать", - пишет Амодеи. И даже, если смысл происходившего широкому читателю не совсем понятен, звучит пугающе. Как, впрочем, и другое предупреждение: "развитие ИИ может опередить способность человека понимать и контролировать системы". Это не абстрактный захват планеты инопланетянами, которых никто в глаза не видел - когда разработчик одной из моделей ИИ, по-своему "внеземного разума", предупреждает, что его детище может уничтожить людей, тут невольно прислушаешься.
Рекомендации, что делать, от Амодеи звучат логично - "замедлить темпы развития искусственного интеллекта для решения проблем контроля над ним". Иными словами, глава Anthropic подчеркивает: будущее находится в руках разработчиков моделей ИИ и только от их доброй воли зависит уничтожить человечество или дать ему шанс на выживание.
При этом в глазах общества Амодеи выглядит добрым самаритянином, спасителем, предупреждающим об опасности и дающим рецепты, как ее избежать. Правда, злые языки обратили внимание, что никаких обещаний сократить исследования в собственной кампании Амодеи не дал, кроме абстрактного обещания усилить контроль за вопросами безопасности в разработках.
С тезисами Амодеи немедленно согласились и другие американские разработчики ИИ. Руководитель OpenAl (конкурента Anthropic. - Прим. "РГ") Сэм Альтман объявил, что рассматривает возможное замедление разработки передовых ИИ-систем, а Илон Маск и вовсе напомнил, что еще 12 лет назад предупреждал: ИИ потенциально опаснее ядерного оружия.
На фоне заявлений Амодеи никто из его конкурентов по бизнесу, которые долгое время враждовали между собой, не захотел выглядеть в глазах американцев злодеем, стремящимся уничтожить человечество. Напротив, ведущие кампании в сфере искусственного интеллекта немедленно натянули белые перчатки и стали обещать практически невозможное - искусственно замедлить технологический прогресс. Когда-нибудь в будущем, если удастся договориться с иностранными производителями, что на данном этапе выглядит утопичным.
Тем не менее этих абстрактных заверений оказалось достаточно, чтобы в преддверии промежуточных выборов в конгресс США возбудить местных политиков, получивших новую страшилку для избирателей. На руку Амодеи сыграл скандал с одним из исследователей компании OpenAl Джейкобом Коксоном. Тот покинул работодателя хлопнув дверью: заявил, что работающие в сфере ИИ компании больше сосредоточены на том, чтобы обойти друг друга, чем на безопасности своих продуктов.
Понятных широкой публике аргументов Коксон не привел, да и та бы их не поняла, но уволившемуся исследователю немедленно поверили на слово. Потому что очень хотели поверить - на Капитолийском холме тезисы об угрозе ИИ давно вызывают политическое цунами с взаимными обвинениями республиканцев и демократов. Теперь у них появился новый предмет для спора - какая из партий больше заботится о выживании человечества.
Предложенный Амодеи в качестве выхода из тупика трехэтапный план - набор общих идей, сводящихся к привлечению сторонних специалистов для оценки безопасности в "передовых" кампаниях, работающих в сфере ИИ, единые стандарты безопасности, правда, почему-то только в "демократических странах", и сотрудничество США с авторитарными (по оценкам Амодеи) правительствами для соблюдения этих стандартов.
Но благородством в заявлениях бизнесмена Амодеи и не пахнет. Скорее, это попытка обойти конкурентов на поле общественного мнения, попутно избавившись от стартапов, работающих в сфере искусственного интеллекта, с помощью создания административных барьеров на законодательном уровне. Де-факто Амодеи стремится замедлить выход на рынок новых, конкурирующих с продуктами его фирмы моделей под предлогом их сомнительной безопасности, требующей дополнительных проверок.
Одновременно владелец Anthropic бросил солидный булыжник в направлении президента Трампа, который якобы не относится к угрозам со стороны ИИ серьезно и недостаточно ввел на этот счет правил. В июне глава Белого дома подписал указ, где предписывал лабораториям, занятым в новой сфере, добровольно предоставлять свои модели на проверку перед публичным выпуском. Но, с точки зрения Амодеи, эти шаги не выглядят эффективными на фоне угрожающей человечеству опасности, а Трамп преуменьшает значимость и угрозу со стороны ИИ-технологий.
На днях видный представитель Демократической партии, экс-президент Барак Обама призвал сторонников сделать надзор за искусственным интеллектом приоритетом политики на ближайшие годы. Любопытная деталь: заявление Обамы прозвучало во время сбора средств для нужд партии всего за несколько дней до сенсационного эссе, опубликованного владельцем Anthropic. Такое вот нежданное совпадение…