Компания Anthropic в частном порядке обратилась к американским законодателям с проектом закона, регулирующего продвинутые модели искусственного интеллекта.
Об этом в пятницу первым сообщило издание Politico со ссылкой на три источника, знакомых с ситуацией.
Представители разработчика ИИ представили законодателям на Капитолийском холме проект закона, описывающий нормативную базу для обеспечения безопасности и защиты передовых моделей ИИ.
Согласно предложению, вмешательство государства допускается только в случае, если модель ИИ представляет предсказуемый и неминуемый риск причинения ущерба на сумму свыше $1 млрд или гибели либо серьёзного вреда здоровью более чем 50 человек.
При этом такие риски должны быть напрямую связаны с созданием или распространением биологического оружия, кибератаками или ситуациями, когда модель ИИ обходит механизмы безопасности, установленные её разработчиками.
Законопроект предусматривает создание системы независимых экспертов-оценщиков, зарегистрированных в Министерстве торговли США, которые будут проводить периодические проверки разработчиков ИИ и их передовых моделей.
Компании, занимающиеся разработкой ИИ, смогут оплачивать услуги таких оценщиков при условии, что размер вознаграждения не будет зависеть от результатов проверки.
Если оценщик выявит неминуемый риск, соответствующий критериям, указанным в законопроекте, он будет обязан уведомить Министерство торговли в течение 72 часов после завершения оценки.
После этого министерство сможет обратиться в суд с требованием приостановить выпуск или использование модели, если выявленные риски потребуют вмешательства.
Вместе с тем предложенный законопроект запрещает другим федеральным ведомствам, департаментам или должностным лицам самостоятельно приостанавливать разработку, внедрение или внутреннее использование моделей ИИ.
Правом выносить подобное решение о приостановке будет обладать исключительно федеральный судья Окружного суда США по округу Колумбия.
Anthropic и Министерство торговли США не ответили на запросы о комментариях.
Данная инициатива отражает растущие усилия по установлению федерального контроля над всё более мощными системами ИИ при одновременном ограничении оснований, по которым регуляторы могут ограничивать их разработку или коммерческое внедрение.