Модели искусственного интеллекта (ИИ) российских IT-компаний начнут проверять на соответствие «традиционным духовно-нравственным ценностям», рассказали «Ведомостям» осведомленные источники. По их словам, для этого разработчики должны будут предоставить в специальную испытательную лабораторию свою нейросеть, документы с описанием ее архитектуры, данные о механизмах фильтрации и другие сведения. После этого лаборатория проверит ответы модели, протестирует возможности обхода внутренних ограничений и выдаст заключение — соответствует нейросеть «традиционным ценностям» или нет.
В случае положительного заключения модель ИИ сможет претендовать на статус «национальной» или «суверенный». В дальнейшем это даст возможность участвовать в госзакупках и реализации значимых IT-проектов, а также откроет нейросети доступ к данным государственных информационных систем, пояснили собеседники издания. При этом IT-компании договорились с властями, что экспертизу сможет проводить не одна назначенная организация, а несколько. В то же время испытательные лаборатории для тестирования ИИ будут использовать наработки крупнейших российских разработчиков, которые уже создали инструменты, ограничивающие запрещенные запросы, отметил в разговоре с «Ведомостям» представитель Минцифры.
В конце июля Владимир Путин подписал закон, регулирующий работу ИИ в России. Согласно документу, «суверенные» модели должны разрабатываться российскими компаниями на всех стадиях цикла без использования зарубежных решений. В свою очередь «национальные» модели могут заимствовать иностранные решения и компоненты, но разрабатывать их должны также российские юрлица. При этом закон обязал проводить проверку «суверенных» и «национальных» нейросетей на соответствие российскому законодательству и «традиционным ценностям». Определить порядок того, как это будет осуществляться, должны в правительстве. На данный момент пакет подзаконных актов проходит согласование на уровне Минцифры, ФСБ и Федеральной службы по техническому и экспортному контролю (ФСТЭК).