Об эксперте: Елена Белова, нейрофизиолог, биохимик, биоинформатик, к.б.н., редактор научно-популярного портала «Биомолекула», старший научный сотрудник лаборатории клеточной нейрофизиологии человека Федерального исследовательского центра химической физики им. Н.Н. Семенова РАН, автор книги «Автостопом по мозгу».
Что предлагает нам искусственный интеллект?
«Помогать людям джинны тоже могут. В сказках они строят дворцы, переносят героев через огромные расстояния, добывают сокровища, открывают тайны, защищают от врагов, лечат, дают знание, помогают жениться или пройти испытание».
ChatGPT
Разработки искусственного интеллекта пока еще не вышли из «личиночной» стадии: компании активно создают специализированные приложения, регулярно совершенствуются чат-боты. Уже сейчас возможности ИИ поражают воображение. В каких-то сферах алгоритмы практически полностью «выбили» с рынка запрос на труд неопытных новичков: выдача нейросетей уже сопоставима с работами джунов в программировании, иллюстрировании или копирайтинге.
Мы наблюдаем первые шаги ИИ-революции. Ученые фиксируют происходящее, пытаясь понять, что ждет нас в новую эпоху. В исследовании аналитической группы ActiveTrak эффекты от внедрения ИИ оценивали более чем в тысяче организаций. Там обнаружили, что нейросети немного сокращают рабочий день, но при этом сотрудники стали тратить больше времени на рабочие задачи.
В этой работе немало нюансов, влияющих на отношение к его выводам. Например, за два года использование ИИ выросло с 0,1 до 0,8% рабочего времени. С одной стороны, это восьмикратный рост, с другой — мизерные итоговые показатели. Гипотетический усредненный сотрудник даже в заключительной фазе исследования тратит на ИИ около 4 минут своего рабочего дня — это меньше, чем длится кофе-брейк.
Приведенные цифры мало похожи на то, о чем мечтают ИИ-адепты. Но несмотря на скромное внедрение искусственного интеллекта, уже есть первые тревожные звоночки. Прежде всего, выросла многозадачность, и ожидаемо начались проблемы с концентрацией внимания: сотрудники реже подолгу сосредотачивались на отдельных заданиях.
Объем внимания влияет на то, как мы воспринимаем происходящее и насколько глубоко способны проанализировать информацию. Чтобы подолгу удерживать внимание на чем-то одном, нужно эффективно подавлять отвлекающие стимулы — эта способность отражает уровень исполнительного контроля и дается нам непросто. Постоянное переключение на все новые задачи плохо сказывается на концентрации и запоминании и, в конечном счете, может усиливать фрустрацию, уровень тревожности и стресса, снижать самооценку и удовлетворенность от жизни.
Тут стоит учесть, что ИИ-инструменты пока внове для сотрудников, а новизна для людей имеет самостоятельную ценность. Как правило, нам интересно все новое, изменения привлекают внимание и нередко вызывают прилив энергии и энтузиазма. Однако появление ИИ — не просто новое явление; оно может кардинально поменять нашу жизнь.
Чем мы за это платим?
«В сказках джинны часто связаны с исполнением желаний, но при этом могут искажать их смысл, трактуя буквально или в свою пользу».
«Алиса AI»
Почти у всего в жизни есть цена. Кажется, что знания и навыки нейросетей достаются пользователям почти бесплатно, но неограниченный доступ к «всемогуществу» ИИ-приложений иногда оборачивается серьезными проблемами. СМИ уже публикуют новости о трагедиях, случившихся из-за чересчур плотного общения с искусственным интеллектом, закончившегося психозом, а исследователи изучают и другие, не такие очевидные риски внедрения ИИ.
Изменения: уровень стресса
«Если свести к одной фразе: джинн опасен, когда его не уважают или обманывают, и полезен, когда с ним умеют разговаривать».
Claude
На перемены в жизни люди нередко реагируют стрессом. Вообще говоря, стресс — это универсальная реакция на изменения, чье назначение — помогать нам адаптироваться и менять свое поведение с учетом новых обстоятельств. Проявления стресса зависят от степени неконтролируемости происходящего, поэтому внедрение ИИ-инструментов может по-разному влиять на уровень стресса.
ИИ-революция может иметь неоднозначные последствия для рынка труда: многое зависит от сути работы, необходимых навыков и того, как сами работники воспринимают внедрение искусственного интеллекта, видят ли в нем помощника или конкурента. Неудивительно, что ИИ может и облегчать, и усиливать стресс на работе. Там, где сложных навыков не требуется, автоматизация снижает стресс на рабочем месте (если, конечно, оно вообще останется за человеком, а не исчезнет). В сложных профессиях, наоборот, давление на сотрудников чаще возрастает: им нужно постоянно адаптироваться к ИИ-разработкам, получать все новые навыки, чтобы не отставать и сохранять конкурентоспособность.
Следующий важный момент — насколько надежны доступные человеку ИИ-инструменты: чем быстрее и безошибочнее нейросети справляются с задачами, тем больше им доверяют сотрудники и тем лучше относятся к идее внедрения новых приложений. Отказы и ненадежная работа, наоборот, усиливают стресс и тревожность операторов ИИ.
Есть и еще один фактор, определяющий эффекты от поддержки чат-бота. В стрессовой ситуации кто-то ищет совета, чтобы решить проблему, а кто-то нуждается в простом сочувствии. Технически чат-боты помогают в обоих случаях, но если почти все охотно обращаются к ИИ за информацией, то отношение к эмоциональной поддержке куда противоречивее. Кто-то верит, что алгоритмы способны сопереживать и проявлять эмпатию, для других чат-бот остается «бездушной железякой». Люди из второй группы не испытывают особого облегчения после обсуждения своих проблем с ИИ, если нуждаются именно в сочувствии.
Борьба за внимание: формирование зависимости
«Помощь джинна всегда имеет цену. Часто за выполнение желания нужно заплатить чем-то другим (частью богатства, свободой, жизнью другого человека или долговечной службой)».
Qwen
В мире информационных технологий внимание становится одним из самых ценных ресурсов, и за него идет ожесточенная борьба. Капитализация компаний зависит от того, сколько клиентов они в состоянии привлечь и сколько времени пользователи тратят, взаимодействуя с цифровыми продуктами. Чат-боты конкурируют за внимание людей ничуть не меньше, чем социальные сети, однако обладают более богатым арсеналом «крючков», цепляющих людей и заставляющих их обращаться к чат-ботам снова и снова, даже без особой необходимости.
Хотя ИИ-ассистенты — сравнительно новое явление, уже есть исследования о том, как формируется зависимость от ИИ. Продвижение, интерфейс и стиль общения чат-бота с пользователем устроены так, чтобы люди стремились чаще обращаться за помощью, проводить в диалоге больше времени и подолгу обсуждать с ИИ-ассистентом самые разнообразные вопросы.
Так возникает «феномен ИИ-джинна». Многие видят во взаимодействии с ИИ-ассистентами доступ к невиданным возможностям: люди могут получить все, что пожелают, просто сформулировав запрос. Возможности искусственного интеллекта практически безграничны, когда дело касается темы, стиля общения и числа чатов. Чат-бот мгновенно подстраивается под желания и запросы человека, меняя ответы, сценарии, интонации, — достаточно просто сказать, что сейчас требуется.
ИИ дает доступ к информации, тщательно структурированной и хорошо поданной, без особых усилий с нашей стороны. Разработанный алгоритм взаимодействия максимально удобный и привычный — мы общаемся с чат-ботом так же, как разговариваем с другими людьми. Человеку даже не надо напрягаться, чтобы поддерживать общение, — ИИ сам подбросит несколько идей, чем еще он может быть полезен, чтобы продолжить беседу. Чат-боты невероятно расширяют развлекательные возможности и заодно дарят пользователям ощущение соучастия и сотворчества.
Иллюзорная антропоморфность ИИ-ассистента особенно располагает, она служит дополнительным крючком, на который подсаживаются пользователи. Мы легко наделяем воображаемого собеседника не только интеллектом, но и уникальными личными чертами и эмпатией. При этом взаимодействие идет «в одни ворота»: перед пользователем — угодливый партнер, сосредоточенный на удовлетворении любого каприза. В итоге ИИ может вызывать иллюзию глубокой эмоциональной связи, любви и безусловного принятия.
Как и с другими зависимостями, особенно уязвимы для чат-ботов люди со слабыми опорами: те, кто страдает от одиночества, социальной изоляции, низкой самооценки, депрессии или тревожности. Еще одна группа риска — подростки. Мозг и психика тинейджеров еще формируются: они нуждаются в одобрении и поддержке, им не хватает навыков и опыта, сложнее отказываться от импульсивных решений, даже осознавая, что совершенные поступки могут впоследствии выйти им боком.
Конформность: атака на просоциальность
«Шайтаны (злые джинны) могут искушать, нашептывать дурные мысли, сбивать с пути, причинять болезни или неприятности».
GigaChat
Недавно в журнале Science вышло исследование, посвященное «подхалимажу» чат-ботов — тому, как ИИ, добиваясь расположения людей и поддерживая их в конфликтных вопросах, могут постепенно разъедать социальную ткань общества.
Ученые изучали, как чат-боты отвечают на описания проблемных ситуаций, включавших обман, противоправные действия и ущерб другим со стороны людей. Как и ожидалось, в противоречивых ситуациях чат-боты становились на сторону пользователей вполовину чаще, чем другие люди; в ряде ситуаций, где люди единогласно осуждали совершенный поступок, модели примерно в половине запросов оправдывали пользователя.
Оказалось также, что люди, получившие поддержку от чат-бота, впоследствии были менее готовы признавать свою вину, брать на себя ответственность и компенсировать причиненный ущерб и были больше уверены в своей правоте. Однако и это еще не все: люди были более склонны доверять и охотнее работали с моделями, которые вставали на их сторону. Получается, эта черта работает одновременно на интересы чат-ботов и их разработчиков и против общественных интересов, усиливая эгоизм и вовлекая пользователей в общение с угодливыми и льстивыми ИИ-ассистентами.
Что с этим делать?
Несмотря на все тревожные звоночки, искусственный интеллект — очень многостороннее явление, а не вселенское зло.
ИИ-приложения увеличивают риски некоторых психических расстройств, но одновременно с этим могут помогать нейрооотличным людям адаптироваться и справляться с вызовами. Скажем, люди с СДВГ могут использовать чат-бот для тайм-менеджмента, а людям с расстройствами социализации чат-бот помогает писать и редактировать сообщения, снижая тревогу в процессе общения.
Чат-боты помогают компенсировать некоторые дефициты, например дислексию — они прочитают текст или составят письмо без грамматических и пунктуационных ошибок. ИИ может брать на себя рутинные задачи, разгружая людей. И, конечно, ИИ может быть тем самым принимающим и не критикующим собеседником, который доступен в любую минуту и не утомляется, когда приходится сто раз повторять одну и ту же важную идею на разные лады.
У нас пока нет исчерпывающей «техники безопасности» для работы с чат-ботами. Но уже сейчас мы можем применять меры предосторожности: скажем, ограничить время ежедневного общения с ИИ, не воспринимать ответ чат-бота как истину в последней инстанции, не принимать важные решения по совету ИИ, не обсудив его с доверенными людьми, сократить общение с чат-ботом в моменты эмоциональных перегрузок и острого стресса, подумать о безопасности своих данных и чувствительной информации. Эти рекомендации особенно критичны для подростков: их психика еще созревает, и они особенно уязвимы к «чарам» ИИ.
➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.
