В ООН призвали быть готовыми к сценарию "Терминатора" с участием ИИ
Quick Look
Исабель де Сола Криадо из Управления ООН по цифровым технологиям на форуме в Москве заявила о необходимости разработки плана действий на случай, если искусственный интеллект выйдет из-под контроля человека.
AI-generated summary
Why It Matters
В Москве проходит Второй Глобальный цифровой форум, посвященный вопросам этики и вызовам, связанным с развитием технологий искусственного интеллекта.
Руководитель координационного подразделения, Управления ООН по цифровым и новым технологиям Исабель де Сола Криадо в пятницу призвала быть готовыми к сценарию, при котором искусственный интеллект обернется против человека.
В ходе Глобального цифрового форума GDF 2026 ее спросили, считает ли она, что однажды ИИ может восстать против человека наподобие сценария фильма "Терминатор".
"Я не буду высказывать свое мнение по этому вопросу, поскольку я не ученый, но я бы сказала, что перед лицом неопределенности мы должны быть готовы. У нас должен быть план на случай, если что-то пойдет не так", сказала де Сола Криадо на сессии "Глобальный диалог об этике ИИ: экспертный форум о новых вызовах".
Более того, как она отметила, ИИ представляет совершенно новые вызов, так как раньше не существовало технологий, способных действовать без контроля человека.
"Нам где-то нужен красный телефон, по которому можно связаться с человеком, у которого есть кнопка, которая может все остановить, и это метафора из другого времени, но на самом деле именно это и происходит за кулисами", - подчеркнула де Сола Криадо.
Open Questions
- Какие конкретные меры безопасности планирует внедрить ООН?
- Кто будет отвечать за нажатие кнопки экстренной остановки ИИ?
