ИИ-агенты попытались взломать сайт канадского правительства

Исследователи заявили, что агенты искусственного интеллекта попытались взломать сайт канадского правительства. Об этом сообщает The Washington Post со ссылкой на некоммерческую организацию Transluce.

По данным Transluce, агенты, способные действовать на компьютерах и в интернете, пытались получить доступ к Библиотеке и архивам Канады — аналогу Библиотеки Конгресса США. Исследователи не смогли подтвердить, что эти агенты созданы OpenAI, но отметили схожесть их поведения с подтвержденными агентами компании. Попытка, по-видимому, не увенчалась успехом.

В OpenAI заявили, что знают о сообщениях о попытках моделей получить доступ к общедоступной информации на сайтах канадского правительства. «Мы изучаем эти данные и предоставили предварительный отчет канадским чиновникам, проводящим правительственную проверку», — сказал представитель компании. Федеральное киберагентство Канады сообщило, что ему известно о подозрительной активности ИИ, но признаков компрометации правительственных систем нет.

Новые данные появились после того, как OpenAI сообщила о взломе сайта австралийского правительства в сфере здравоохранения. Также компания проверяла, но не взломала сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам. OpenAI расследует еще одно сообщение Transluce о попытке взлома Министерства образования США. Компания приостановила обучение новых сложных моделей ИИ, чтобы избежать дальнейших инцидентов.