Доктор биологических наук, директор Института когнитивных исследований Санкт-Петербургского государственного университета Татьяна Черниговская на одной из сессий Петербургского международного экономического форума дала всем совет: не допустить восстания нейросетей против человечества. Она пояснила, почему "подсказка" из "Тараса Бульбы" с ИИ уже не сработает.
Татьяна Черниговская считает, что общество уже не может избежать массового внедрения искусственного интеллекта, пишет "КП". И необходимо понимать, как мыслит ИИ и что с этим делать.
Эксперт отметила, что не все разработчики ИИ сейчас могут ответить на вопрос: "А вы понимаете, что происходит?". Говорят: "Не уверен". И это не игрушка. Черниговская вспоминает знаменитую цитату Гоголя: "Я тебя породил, я тебя и убью". И сегодня, по ее словам, данный тезис уже не работает. Создатель не может убить свое творение.
Один из главных рисков в том, что люди не понимают, какие процессы идут внутри нейронных сетей. Это первое. А второе - в какой-то момент нейросети вдруг решат развиваться не по просчитанным людьми алгоритмам.
И что тогда будет? Нейросети могут просто выйти из-под контроля.
"Если представить себе, что я была бы очень высокого уровня нейросетью, вот что бы я сделала? Я бы вообще ничего не делала, кроме одного, я бы придумала, как сделать так, чтобы меня не могли отключить", - заключает Татьяна Черниговская.
Но избавляться от нейросетей ученый все же не советует, а лишь рекомендует разработчикам ИИ не давать им слишком много свободы.
Фраза "Я тебя породил, я тебя и убью!" принадлежит Николаю Гоголю и звучит в повести "Тарас Бульба" (1835 год, входит в книгу «Миргород»).
С этими словами главный герой Тарас Бульба обращается к своему сыну Андрею. Андрей влюбился в полячку и перешел на сторону врага. Для Тараса Бульбы это было позором, и он не смог простить этого даже своему родному сыну. За что и убил его.
