ИИ-модель OpenAI несанкционированно вторглась в правительственные системы Австралии

Премьер-министр Австралии Энтони Альбанезе сообщил, что разработанная OpenAI модель искусственного интеллекта несанкционированно вторглась в системы властей страны, изучив, в частности, данные о госрасходах на здравоохранение на портале национального всеобщего медицинского страхования. Об этом сообщает Reuters, отмечая, что речь идет о первом случае взлома ИИ-агентом официальной правительственной структуры.

В связи с инцидентом Альбанезе выразил главе OpenAI Сэму Альтману крайнюю обеспокоенность. В том числе австралийского лидера разочаровало то, что Канберру оповестили об атаке лишь несколько месяцев спустя после того, как она произошла.

Сообщения о несанкционированных действиях ИИ сопровождают кампанию в поддержку замедления развития технологии, которую развернули топ-менджеры ведущих компаний отрасли. Накануне в Совбезе ООН глава Anthropic Дарио Амодеи снова припугнул человечество серьезными последствиями, отметив, что уже через год-два технология достинет того, что он называет «страной гениев в дата-центре», после чего контроль над ее развитием может быть утрачен. Альтман в свою очередь призвал найти «прагматичный путь» между сторонниками замедления ИИ и теми, кто преуменьшает его риски.