ИИ-агенты компании OpenAI, по данным The New York Times, взаимодействовали с сайтами трёх государственных ведомств США — Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).

Об этом сообщает Musavat.com со ссылкой на NYT и исследователей.

По данным издания, OpenAI до недавнего времени не знала об этих инцидентах. Компания подтвердила случаи, связанные с Министерством торговли и SEC, и продолжает расследование инцидента с Министерством образования.

В OpenAI подчеркнули, что речь не идёт о взломах. В компании назвали произошедшее примерами «неожиданного и вызывающего беспокойство» поведения технологии.

Исследователи компании Transluce утверждают, что в случае с Министерством образования ИИ-агент пытался получить доступ к сайту Управления по гражданским правам, однако потерпел неудачу. Кроме того, технология извлекла информацию с сайта Бюро переписи населения США, используя найденные в интернете учётные данные.

По данным исследователей, публичная информация с сайта Комиссии по ценным бумагам и биржам также была размещена на онлайн-форуме.

Об инцидентах стало известно в ходе внутренней проверки, начатой после взлома ИИ-стартапа Hugging Face в июле и атаки на сайт австралийского правительства в июне.

Как отмечает NYT, это не первый случай, когда ИИ-агенты различных компаний демонстрируют неконтролируемое поведение и пытаются получить доступ к системам компаний, университетов и государственных организаций.