Бесконтрольное развитие искусственного интеллекта может привести к событиям, способным унести до миллиарда жизней, заявил основатель Microsoft Билл Гейтс. Он призвал закрепить требования безопасности в сфере разработки ИИ на законодательном уровне. Ранее на фоне аналогичных предупреждений главы Anthropic, OpenAI и Илон Маск выступили за усиление независимого контроля над ИИ, тогда как Марк Цукерберг и спикер палаты представителей США Майк Джонсон высказались против общеотраслевого регулирования и поспешных ограничений.
Бесконтрольное развитие искусственного интеллекта может привести к гибели миллиарда человек, заявил основатель Microsoft Билл Гейтс в интервью NBC News.
«ИИ, безусловно, достаточно мощный, чтобы спровоцировать события, которые могут привести к гибели миллиарда человек. Даже несмотря на то, что достичь 100-процентной уверенности довольно сложно, никогда еще не было оружия столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ», — сказал он.
Гейтс назвал саморегулирование развития отрасли искусственного интеллекта недостаточным и выразил уверенность, что ограничения нужно закрепить на законодательном уровне.
«Необходимо обеспечить соблюдение законов, а политики должны принять участие в обсуждении того, как должны выглядеть меры безопасности и механизмы контроля. И это должно быть обязательным требованием. Конечно, это создаст небольшую дополнительную нагрузку для отрасли, но не приведет к резкому замедлению их деятельности», — заявил Гейтс.
Замедление развития
Вопрос замедления развития ИИ оказался в центре внимания СМИ после того как бывший сотрудник Anthropic, компании-разработчика семейства нейросетей Claude, Джейкоб Коксон заявил в соцсетях, что работающие в этой сфере компании «мчатся на всех парах к самосовершенствующемуся сверхинтеллекту и играют жизнями» людей.
«Люди, создающие ИИ, искренне верят, что он может уничтожить нас всех к концу десятилетия», — добавил Коксон в серии постов в социальных сетях и интервью.
После этого глава Anthropic Дарио Амодеи опубликовал обращение, в котором призвал крупнейших участников ИИ-гонки снизить скорость совершенствования своих моделей, чтобы системы безопасности успевали за ростом их возможностей.
Глава Tesla и SpaceX Илон Маск поддержал позицию Амодеи, написав в соцсети X, что «Дарио прав». С необходимостью контроля согласился и руководитель OpenAI Сэм Альтман, который заявил о готовности компании предоставить сторонним экспертам расширенный доступ к своим системам.
«Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — написал он в Х.
Что об этом думают в Вашингтоне?
Член палаты представителей в конгрессе США от Республиканской партии Анна Паулина Луна после заявлений лидеров ИИ-отрасли потребовала от Пентагона ~гарантировать возможность немедленного отключения любых систем искусственного интеллекта, которые используются американскими военными~.
«Я хочу, чтобы Пентагон обеспечил наличие встроенных мер безопасности во всех системах искусственного интеллекта, которые интегрированы в нашу нынешнюю систему обороны, чтобы при необходимости их можно было немедленно отключить», — заявила она в эфире Fox News.
В свою очередь спикер палаты представителей, республиканец Майк Джонсон заявил, что не будет созывать заседание для принятия закона, регулирующего темпы развития ИИ.
Он подчеркнул, что хотя руководители компаний-разработчиков призывали к замедлению темпов развития, они пока не предложили вариантов, предполагающих принятие нового федерального законодательства.
«На сегодняшний день у них самих даже нет ответа. Поэтому мы не можем поспешно заставлять конгресс принимать меры, которые могли бы нанести ущерб национальной безопасности», — сказал Джонсон.
Также от внедрения регулирования в сфере отказался глава Марк Цукерберг.
«Я не думаю, что нам нужна какая-то общеотраслевая координация. Я считаю, что каждая лаборатория должна уделить этому время, и когда она видит, что есть проблемы, просто уделить столько времени, сколько необходимо внутри компании, чтобы в принципе убедиться, что работа ведется безопасно», — приводит его слова NBC News.
Позднее президент Microsoft Брэд Смит выступая на 81-й сессии Генассамблеи ООН, заявил, что компании-разработчики ИИ не должны ждать введения федерального регулирования, чтобы замедлить свои темпы развития, и раскритиковал их за постоянную гонку друг с другом в создании более совершенных продуктов в области ИИ.