
Искусственный интеллект поддается похвале и шантажу
Манипуляции, как оказалось, влияют на работу ИИ вне зависимости от его характеристик.
Манипуляции, как оказалось, влияют на работу ИИ вне зависимости от его характеристик.
Сотрудники Института программного обеспечения Китайской академии наук выяснили, что на ИИ могут повлиять простые манипуляции. Результаты исследования были опубликованы на сервере препринтов arXiv.
Ученые получили более точные и качественные ответы от искусственного интеллекта с помощью похвалы и шантажа. Отмечается, что подобный результат был получен в 11 разных чат-ботах — от ChatGPT до Llama.
Во всех случаях они реагировали на эмоциональные сигналы со стороны человека. Теперь ученые предполагают, что эмоциональный интеллект можно использовать и при общении с чат-ботами и улучшения качества результатов запросов.
Недавно американские психологи обнаружили сходство между обычными голубями и моделями искусственного интеллекта. Оказалось, что и птицы, и нейросети полагаются на схожие принципы для решения проблем.
Олеся Маевская