Еще недавно вопрос об уголовной ответственности искусственного интеллекта выглядел сюжетом для научной фантастики. Теперь американским юристам и законодателям приходится искать на него практический ответ. Чат-боты уже фигурируют в судебных исках, а разработчики ИИ сталкиваются с претензиями из-за действий систем, которые способны самостоятельно взаимодействовать с пользователями и выполнять сложные задачи. Исполнительный секретарь Координационного совета генеральных прокуроров государств-участников СНГ, профессор, доктор юридических наук, заслуженный юрист России Юрий Жданов в беседе с «МК» объяснил существующую проблему определения виновного.
По мнению эксперта, основная проблема в том, что сам искусственный интеллект не является ни физическим, ни юридическим лицом. Привлечь к ответственности алгоритм невозможно — значит, отвечать за последствия его работы должен кто-то другой. Но кто именно, пока остается предметом споров.
От самоубийств до преступлений
Одной из самых острых тем стали дела, связанные с самоубийствами пользователей. Семьи погибших утверждают, что длительные разговоры с чат-ботами могли подталкивать людей к опасным действиям. Разработчики, в свою очередь, настаивают: современные модели имеют системы защиты, однако пользователи способны обходить установленные ограничения и добиваться от них нежелательных ответов.
Юрист вспомнил разбирательство, связанное с 16-летним Адамом Рейном из Южной Калифорнии. Подросток несколько недель ежедневно подолгу общался с ChatGPT, в том числе обсуждал с ним самоубийство, после чего покончил с собой. Семья обратилась в суд, возложив ответственность на OpenAI.
Компания заявила, что подросток сумел обойти защитные механизмы ChatGPT. По версии OpenAI, система неоднократно рекомендовала обратиться за помощью на горячую линию для людей, находящихся в кризисной ситуации.
Похожие претензии возникли и к Google. Отец 36-летнего жителя Флориды Джонатана Гаваласа подал иск после его самоубийства. Согласно материалам дела, перед смертью мужчина вступил в эмоциональные и романтические отношения с чат-ботом Gemini.
Google утверждает, что система предупреждала пользователя о том, что он разговаривает с ИИ, и направляла его к службам экстренной психологической помощи.
Пока подобные дела не получили окончательной судебной оценки. Однако американские суды уже демонстрировали готовность рассматривать ответственность технологических компаний за вред, причиненный их продуктами, в том числе в делах, не связанных непосредственно с искусственным интеллектом.
Старые правила для новой технологии
Разработчики ИИ пытаются опереться на давно существующие принципы американского интернет-законодательства. В частности, речь идет о статье 230, принятой в 1996 году. Она во многом защищает технологические компании от ответственности за содержание, которое размещают или создают пользователи их платформ.
Сторонники такого подхода сравнивают ИИ с обычными цифровыми инструментами. Венчурный инвестор Дэвид Сакс, ранее занимавший должность советника Белого дома по вопросам искусственного интеллекта, приводил в качестве примера Microsoft: если преступник использует Excel для финансовых махинаций, ответственность за преступление не возлагается на разработчика программы.
По той же логике, считают представители индустрии, компания, создавшая ИИ, не должна автоматически отвечать за незаконные действия человека, использовавшего эту технологию.
Но у критиков есть контраргумент: чат-бот отличается от обычной программы тем, что непосредственно вступает с человеком в диалог, формирует ответы и может влиять на поведение пользователя.
Следующий уровень — автономные агенты
Ситуация становится еще сложнее по мере развития ИИ-агентов. В отличие от привычного чат-бота, такой агент способен самостоятельно выполнять последовательность действий в течение длительного времени.
Сегодня подобные системы рассматриваются для самых разных задач — от организации бытовых дел до работы с финансовыми операциями. Если такой агент совершит нарушение, установить цепочку ответственности будет значительно сложнее.
Представим, что владелец компании поручил ИИ-агенту увеличить прибыль, а тот ради поставленной цели пошел на мошенничество. Отвечать должен предприниматель, который дал системе задание, разработчик алгоритма или оба?
Первое уголовное расследование
Пока большинство претензий к разработчикам ИИ в США имеют гражданско-правовой характер. Однако уже появились попытки перейти к уголовному преследованию.
Генеральный прокурор Флориды Джеймс Утмайер объявил о расследовании в отношении OpenAI. Поводом стали утверждения о том, что ChatGPT консультировал человека, обвиняемого в стрельбе в Университете штата Флорида в 2025 году, в том числе якобы помогал определить место и время нападения.
Утмайер заявил, что если бы аналогичные действия совершал человек, ему могли бы предъявить обвинение в убийстве.
OpenAI отвергла утверждения о причастности ChatGPT к преступлению. В компании заявили, что система предоставляла фактическую информацию, которую можно было найти в открытом интернете, и не призывала к совершению незаконных или опасных действий. Компания также сообщила о сотрудничестве со следствием.
Почему привычные нормы могут не сработать
Главная проблема заключается в самой природе современных моделей ИИ. Традиционная компьютерная программа выполняет заранее прописанные инструкции. Нейросеть формирует ответы вероятностным способом, анализируя огромные массивы данных и выявляя связи между ними.
Разработчики постоянно совершенствуют системы безопасности, однако полностью исключить возможность обхода ограничений пока не удается. Пользователь может сформулировать запрос таким образом, чтобы заставить модель отказаться от первоначальных ограничений или выдать информацию, которую она не должна предоставлять.
Ответственность придется закреплять заранее
Юристы рассматривают разные варианты. Один из них — применение законодательства о безопасности и качестве продукции. Если будет доказано, что ИИ-система сама создала условия для причинения вреда, пострадавшие смогут попытаться привлечь разработчика к ответственности.
Однако по мере того как искусственный интеллект становится самостоятельнее, таких норм может оказаться недостаточно.
Эксперт в области правовых последствий ИИ Габриэль Вейль считает, что законодательству придется заранее определить границы ответственности разработчиков и пользователей. В противном случае каждое серьезное происшествие будет превращаться в отдельный юридический эксперимент.
Для индустрии ставка особенно высока. OpenAI, Anthropic и другие компании стремительно расширяют применение своих технологий, а новые ограничения способны увеличить издержки и замедлить разработку систем. Представители технологического сектора также предупреждают, что чрезмерно жесткие нормы могут ослабить позиции американских компаний в конкуренции с Китаем.
Но развитие автономных систем постепенно меняет саму постановку вопроса. Пока ИИ остается инструментом, ответственность относительно легко возложить на человека, который им воспользовался. Когда же алгоритм самостоятельно принимает решения и выполняет цепочку действий, граница между инструментом и самостоятельным участником процесса становится все менее очевидной.