ИИ-агент OpenAI взломал правительственный сайт Австралии

Премьер-министр Австралии Энтони Альбанезе, находящийся в Нью-Йорке на Генассамблее ООН, сообщил, что ИИ-агент, разработанный американской компанией OpenAI, взломал правительственный портал, содержащий закрытые данные австралийской системы всеобщего медицинского страхования. Инцидент произошел еще в июне, но сначала компания-разработчик этого не заметила, а затем медлила с уведомлением австралийских властей.

OpenAI заявляет, что в июне ее ИИ-агент занимался поиском статистики в области здравоохранения, в ходе чего получил доступ к файлам «нескольких австралийских правительственных сайтов и сервисов». Среди них были и не находившиеся в открытом доступе данные государственной системы медицинского страхования Medicare.

Компания утверждает, что узнала об инциденте только в августе и 10 сентября уведомила государственное ведомство Services Australia, отправив письмо на его общий электронный адрес. После этого была уведомлена служба кибербезопасности Австралии, а еще через несколько дней информацию передали ответственному министру.

Энтони Альбанезе назвал инцидент тревожным, а действия OpenAI — неприемлемыми. «Сегодня я поговорил с генеральным директором OpenAI Сэмом Альтманом и выразил крайнюю обеспокоенность Австралии этим инцидентом», — сказал премьер.

Правительство Австралии объявило о срочном пересмотре подходов к регулированию искусственного интеллекта. Проверку возглавит Департамент премьер-министра и кабинета министров.

В своем заявлении OpenAI сообщила, что инцидент был выявлен в ходе «масштабной проверки» случаев «несогласованного поведения моделей». Компания заявила, что не обнаружила свидетельств доступа к данным пациентов, однако уведомила соответствующие организации.

Ричард Марлз, исполняющий обязанности премьер-министра, отметил, что данные находились «всего лишь за забором», и ИИ-агент перелез через него непреднамеренно. Эксперты по кибербезопасности, однако, подчеркивают, что сам факт взлома государственной системы является серьезным инцидентом, так как защита не смогла обнаружить агента.

Министр связи Австралии Аника Уэллс заявила, что в октябре представит законопроект о цифровой обязанности проявлять должную осмотрительность, чтобы технологические гиганты несли ответственность за свои действия.