Спор о том, угрожает ли человечеству ИИ и стоит ли искусственно замедлять эти технологии, из проблемы узкопрофильной в США быстро превратился в модный политический дискурс. И теперь эксперты на страницах газет спорят о том, в чьих интересах были сделаны предложения, озвученные главой компании Anthropic Дарио Амодеем. Тот, напомню, в эссе, состоящем примерно из 4000 знаков, рассказал, что через 6-12 месяцев искусственный интеллект, над одной из моделей которого работает его компания, будет в состоянии захватить весь интернет и нанести ущерб в сотни миллиардов долларов.
Озвученные предсказания немедленно поддержал ряд других, работающих в этой сфере лидеров Кремниевой долины - и, в первую очередь, предложенный Амодеем план ответных действий, который следует предпринять властям. Его суть - в создании госсистемы проверок безопасности разрабатываемого контента, чтобы исключить возможность выхода ИИ из подчинения человеку. Но ни одна из поддержавших инициативы владельца Anthropic компаний не объявила о замедлении собственных программ, отделавшись абстрактным обещанием усилить контроль в вопросах безопасности.
В итоге дискуссия по поводу угрозы человечеству со стороны искусственного интеллекта быстро скатилась к обсуждению не менее насущного вопроса - чем, на самом деле, были продиктованы призывы к госрегулированию со стороны технологических лидеров и какова доля в этом алармизме реальной заботы о будущем планеты.
Своим получившим широкое распространение эссе Амодеи попытался убить двух зайцев - получить преимущество в конкурентной борьбе и заручиться поддержкой со стороны Демократической партии, представители которой могут победить на предстоящих в ноябре промежуточных выборах в Конгресс. Предложенный исполнительным директором Anthropic план означал бы появление неких независимых аудиторов, которым поручат контроль за соблюдением производителями ИИ стандартов безопасности. При этом сами аудиторы в силу специфичности отрасли будут связаны с уже существующими ключевыми компаниями в сфере искусственного разума - других экспертов взять просто неоткуда. Таким образом небольшая группа бизнесменов в сфере высоких технологий сможет легально ограничивать, а при необходимости уничтожать конкурентов под предлогом недостаточного соблюдения правил, ставить на их пути барьеры госрегулирования.
"Хватит притворяться, что стремление к замедлению - это исключительно альтруистский порыв", - прокомментировал инициативу г-на Амодеи технологический советник Трампа Дэвид Сакс, которого газета "Нью Йорк Таймс" называет бывшим "царем искусственного интеллекта и криптовалют" в Белом доме. Логика критиков владельца Anthropic сводится к выражению - "нечего на зеркало пенять". Ведь на сегодняшний день ничего не мешает технологическим компаниям без вмешательства со стороны государства самим замедлить создание опасных моделей ИИ. И добровольно отказаться от ранее заявленной ими же амбициозной цели - создать суперинтеллект, который будет намного умней человека.
"Самый просто способ не создавать суперинтеллект - это согласиться его не создавать. Тогда как требование создать удобную для вас (технологических компаний) нормативно-правовую базу в качестве платы за отказ от создания такого суперинтеллекта - шантаж общественности", - считает советник Сакс.
О попытке контролировать распространение ИИ горсткой организаций говорится в статье генерального директора Microsoft Сатьи Наделла, ставшей ответом на инициативы главы Anthropic.
"Должны ли избранные, доминирующие компании из Кремниевой долины, занятые искусственным интеллектом, определять правила для всего мира", - задается риторическим вопросом руководитель канадского стартапа в этой сфере в статье, опубликованной газетой Sunday. Он называет попытку таких бизнесменов из США прибрать к рукам новые технологии "олигополией", а самого г-на Амодеи "волком в овечьей шкуре", создающим картель, чтобы диктовать всем остальным условия. Злые языки припомнили связи Anthropic c двумя некоммерческими организациями, занятыми исследованиями в сфере ИИ и лоббирующими в публичном пространстве госрегулирование этого направления.
И еще один многое разъясняющий нюанс: пугающие общество искусственным интеллектом компании занимаются одновременно разработкой и продажей продуктов для кибербезопасности. "Что может быть лучше для создания спроса, чем создание проблемы, - иронично заметил по этому поводу генеральный директор Nvidia Дженсен Хуанг. - Кто не хочет, чтобы рынок был в восторге от его продукта и выстраивался в очередь за ним".
На пресс-конференции в Ирландии помимо идеи отменить американские пошлины на ирландский виски президент Трамп озвучил свою позицию в отношении искусственного интеллекта и инициатив главы Anthropic. Он назвал "негативными" силы, которые поднимают тему ограничений в этой сфере и связал свой отказ устанавливать ограничители с наличием конкуренции с Китаем.
Но для Демократической партии недостаточное внимание Трампа к страхам американцев перед ИИ - шанс вновь въехать в Белый дом. Газета "Вашингтон пост" цитирует стенограмму со встречи экс-президента Барака Обамы с единомышленниками, где они обсуждают перспективы новых технологий в свете будущих выборов. Обама называет ИИ опасным. "Я бы очень задумался об экономических последствиях этой технологии и о том, что это будет означать, если люди потеряют из-за нее работу, потому что их сократили. Как мы будет реагировать?", - задается вопросом, который волнует многих избирателей, Обама, ставший одним из влиятельных идеологических лидеров Демпартии.
На этой неделе, по словам директора Национального экономического совета США Кевина Хассетта, в Белом доме пройдет встреча с ведущими экспертами по кибербезопасности, чтобы "обдумать следующий шаг". Речь идет о скоординированной реакции на эссе главы Anthropic и вызванной им дискуссии об угрозах со стороны искусственного интеллекта
Тем временем, на завершившемся в Нью-Дели саммите БРИКС во время заседания в формате БРИКС+ председатель КНР Си Цзиньпин выдвинул инициативу по открытому и доступному для всех искусственному интеллекту. Китайский лидер, в частности, заявил, что КНР намерена создать открытую платформу ИИ стран БРИКС, поддерживать сотрудничество в разработке и применении больших языковых моделей, проводить специализированные программы обучения и формировать открытую экосистему искусственного интеллекта.