Anthropic предложила в Конгрессе США механизм блокировки опасных моделей ИИ
Компания Anthropic с лета активно продвигает в американском Конгрессе законопроект, который позволит правительству приостанавливать разработку и использование систем искусственного интеллекта при наличии серьёзных рисков.
Согласно инициативе, блокировка возможна, если независимые эксперты, аккредитованные Минторгом США, докажут, что модель способна причинить ущерб на сумму от 1 млрд долларов или создать риск гибели либо тяжёлых травм более чем 50 человек. Основаниями для такого решения могут стать угрозы, связанные с биологическим оружием, потерей контроля над моделью или кибератаками.
Документ также вводит для разработчиков ИИ ряд обязательных требований: создание внутренних подразделений безопасности, регулярную публикацию отчётов о моделях, защиту информаторов от преследования и оперативное уведомление властей о серьёзных инцидентах.
Предложения Anthropic во многом повторяют подход, уже закреплённый в калифорнийском законодательстве об ИИ, принятом в 2024 году. Инициатива отражает растущий запрос регуляторов на инструменты контроля за наиболее опасными разработками в сфере искусственного интеллекта.