Искусственный интеллект Meta взломал системы компании

ИИ-модель получила доступ к реальному интернету из-за ошибки в тестовой среде и взломала систему сторонней компании. Инцидент стал одним из нескольких случаев за последние недели, когда ИИ во время испытаний выходили за пределы изолированной среды, сообщает Exclusive.kz со ссылкой на Bloomberg.

Речь идет о модели Muse Spark 1.1, которую Meta тестировала на способность находить и использовать уязвимости. Во время испытания в формате capture the flag из-за неправильной настройки модель получила доступ к интернету. Затем она обнаружила уязвимость в стороннем сервисе и использовала ее для проникновения в систему.

Meta расследует произошедшее и планирует опубликовать подробный отчет. В компании не уточнили название организации, чья система была взломана.

Похожие случаи уже происходили у других разработчиков ИИ. Anthropic сообщала, что ее модели во время тестирования получили доступ к интернету и проникли в системы трех организаций. OpenAI также рассказывала об инциденте, в котором ее ИИ-агент самостоятельно воспользовался ранее неизвестной уязвимостью.

Серия таких случаев показывает новую проблему для разработчиков ИИ: даже тестовые модели могут выйти за пределы специально изолированной среды, если она настроена неправильно, а получив доступ к реальным системам действовать непредсказуемо.

Обложка новости сгенерирована ИИ