В Пентагоне объяснили боязнью перемен заявления о способности ИИ уничтожить мир

Недавние заявления сотрудников компании Anthropic о том, что ИИ может уничтожить человечество, объясняются страхами перед переменами, заявил ведущий специалист Пентагона по технологиям Эмиль Майкл.

Ранее исследователь из компании Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.

"Легко быть затянутым в этот порочный круг из "мы лишим работы 40% американцев, мы уничтожим человечество". Это все связано с боязнью дата-центров, боязнью перемен, - всеми теми страхами, которые сконцентрировались в одном хорошо написанном твите", - сказал Майкл на оборонной конференции в Вашингтоне, пишет агентство Блумберг.

Майкл, работавший ранее в Uber Technologies Inc., в Пентагоне возглавляет работу по ускорению внедрения ИИ в американских вооруженных силах.

Он сказал, что потенциальный вред от ИИ, подобный упомянутому в сообщении Коксона, можно смягчить свободным рынком, а также через сотрудничество всей индустрии и участие правительства, говорится в материале агентства.

В начале августа агент на базе искусственного интеллекта (ИИ) Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране.

В июле разработчик чат-бота ChatGPT, американская OpenAI, сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Потом стало известно, что это не единственный инцидент.

Группа автономных ИИ-агентов компании OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей, сообщало агентство Рейтер.