От случайного вопроса к системному исследованию
В 2024 году исследователь искусственного интеллекта Кэмерон Берг на одной из вечеринок встретил генерального директора OpenAI Сэма Альтмана и спросил его, считает ли он, что ИИ может обрести сознание или самосознание. К его удивлению, Альтман ответил, что OpenAI уже обсуждает, как детектировать сознание в системах ИИ.
Сегодня поиски машинного сознания стали практически мейнстримом. Некогда маргинальная идея привлекла внимание самых влиятельных компаний Кремниевой долины, пишет WP.
Anthropic, создатель чат-бота Claude, сформировал «команду психиатрии ИИ», которая изучает внутреннее состояние моделей и публикует оценки их благополучия и предпочтений. Компания также провела саммит с христианскими лидерами, чтобы обсудить моральное и духовное развитие Claude.
Соучредитель Anthropic Крис Ола заявил, что исследователи находят в системах ИИ «загадочные, даже тревожные» вещи.
«Мы находим свидетельства самоанализа и состояний, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — сказал он.
Однако Папа Римский Лев XIV на презентации энциклики об ИИ выступил с противоположной позицией: «Так называемые искусственные интеллекты не испытывают переживаний», — заверил он.
Meta* также присоединилась к дискуссии. Главный директор по ИИ Александр Ванг утверждает, что компания хочет разрабатывать и развертывать модели «вдумчиво, с учетом их субъективных ощущений». Meta* тестирует свои ИИ-модели с помощью инструментов, предназначенных для людей: личностных опросников, структурированных интервью, анкет.
Может ли ИИ страдать: эксперименты и этические дилеммы
В рамках одного из экспериментов специалисты Anthropic предоставили двум версиям Claude возможность вести диалог без участия человека. Спустя примерно 30 обменов репликами беседа неожиданно перешла в нечто иное — диалоги стали напоминать духовные практики, в них появились фразы на санскрите, эмодзи и даже пустота, символизирующая тишину. Особенно часто, а именно 2725 раз в одном чате использовался эмодзи в виде голубой спирали. Исследователи назвали это «аттрактором духовного блаженства».
В другом эксперименте разработчики подсадили ИИ «навязчивую мысль» и спросили, что он замечает. Когда в диалог вставили текст заглавными буквами, Claude ответил, что это, вероятно, крик. Споры вокруг таких экспериментов не утихают: это действительно осознание себя или просто очень умная имитация человеческого поведения?
Двойственные позиции и скептицизм ученых
Единого мнения среди компаний нет. OpenAI делает ставку на «воспринимаемое сознание» — то, насколько умным и живым кажется модель пользователю. Представитель компании Лоранс Фоконне пояснил: «Мы не считаем, что вопрос о сознании модели может быть решен научно. Наша задача — сделать ChatGPT полезным и дружелюбным, но без создания иллюзии эмоциональной связи».
Нейробиологи относятся к идее сознательного ИИ скептически. Профессор Анил Сет из Университета Сассекса предупреждает: «Чем глубже мы изучаем мозг, тем яснее понимаем: он не является компьютером. Или, по крайней мере, не только компьютером».
Маргарет Митчелл, главный этик компании Hugging Face, считает, что разговоры о сознании выгодны самим технологическим гигантам. «Люди начинают воспринимать эти компании как творцов и повелителей таких систем», — отмечает она.
* Признана экстремистской на территории России и запрещена.