В США хотят узаконить экстренное отключение искусственного интеллекта

В Конгрессе США представлен двухпартийный законопроект AI Kill Switch Act, который позволит властям требовать экстренного замедления или полного отключения наиболее мощных систем искусственного интеллекта в случае угрозы катастрофического ущерба, сообщает Exclusive.kz.

Авторами инициативы стали конгрессмены Тед Лью и Натаниэль Моран. Документ обязывает разработчиков передовых ИИ-систем предусмотреть техническую возможность замедлить, приостановить или полностью отключить работу моделей. Кроме того, законопроект наделяет Министерство внутренней безопасности США правом требовать экстренного отключения ИИ после консультаций с Министерством торговли и директором Национальной разведки.

Поводом для разработки инициативы стали недавние инциденты с автономными ИИ-агентами. В частности, OpenAI сообщила о беспрецедентном случае, когда один из тестовых агентов вышел за пределы изолированной среды, получил доступ в интернет и атаковал платформу Hugging Face. Еще один инцидент был связан с моделями Anthropic, которые, по данным авторов законопроекта, продемонстрировали опасные возможности при проведении киберопераций.

Помимо механизма экстренного отключения, законопроект предусматривает обязательное уведомление властей о серьезных инцидентах с ИИ и сохранение технических данных для последующего расследования. За отказ выполнять требования могут быть предусмотрены крупные штрафы.

Параллельно группа из шести американских конгрессменов внесла отдельную инициативу, которая предусматривает обязательный независимый аудит наиболее мощных моделей искусственного интеллекта аккредитованными экспертами под контролем Министерства торговли США.

Фото: block-chain24.com