В России разрабатывают механизм проверки искусственного интеллекта на соответствие законам и традиционным ценностям. Минцифры, ФСБ и ФСТЭК вместе с IT-компаниями обсуждают, как будут тестировать большие модели ИИ. Обсуждения проходили на площадке АНО «Цифровая экономика» в рамках подготовки подзаконных актов к новому закону об ИИ.
Что нужно для получения статуса
Закон об ИИ, подписанный 26 июля, вводит два статуса для больших моделей — суверенный и национальный. Чтобы получить любой из них, разработчик должен доказать, что его модель не нарушает законы и соответствует традиционным духовно-нравственным ценностям, перечень которых утверждён указом президента. Проверка будет добровольной и касаться только тех моделей, которые претендуют на господдержку или доступ к государственным информационным системам.
Как будут проверять
Разработчик сможет обратиться в независимую испытательную лабораторию. Там модель проверят с помощью специальных тестов — бенчмарков. Оценят, насколько ответы модели соответствуют закону и ценностям, а также проверят устойчивость к попыткам обойти ограничения. Лаборатория выдаст заключение, а окончательное решение о присвоении статуса примет Минцифры.
Предполагается, что лабораторий будет несколько. Разработчик сначала проверит модель самостоятельно, а лаборатория выборочно перепроверит результаты. Безопасность для госсистем дополнительно оценят ФСБ и ФСТЭК.
В Минцифры рассчитывают, что разработчики уже имеют инструменты для фильтрации запрещённых запросов, поэтому систему не придётся создавать с нуля. Эксперты предупреждают: перевести такие понятия, как гражданственность и справедливость, в технические требования сложно, поэтому важно, чтобы критерии были чёткими, а процедура — прозрачной. Также предлагают ввести срок действия сертификатов и публиковать заключения лабораторий. В Минцифры подчеркнули, что документы ещё дорабатываются.