Яндекс предложил правительству концепцию датасета для проверки ИИ на соответствие закону и духовно-нравственным ценностям

Яндекс подготовил и передал в правительство концепцию специального датасета — набора тестовых заданий и эталонных ответов, который позволит оценивать, насколько модели искусственного интеллекта соответствуют российским духовно-нравственным ценностям и «духу времени».

По информации источников, такой инструмент нужен для определения пригодности ИИ-систем к использованию в российских условиях. Инициатива вписывается в более широкий процесс, запущенный с одобрения Минцифры: российские IT-компании смогут направлять свои большие языковые модели на независимую проверку соответствия закону и традиционным ценностям.

В разработке критериев и методологии будут участвовать не только Минцифры, но также ФСБ и ФСТЭК. Это означает, что оценка ИИ-моделей постепенно приобретает межведомственный и регуляторный характер.

Для IT-отрасли и разработчиков ИИ это сигнал о формировании формализованных требований, которые в перспективе могут стать обязательными для моделей, претендующих на использование в государственном и коммерческом секторах России.