Сэм Альтман предупредил о рисках чрезмерного регулирования ИИ

Чрезмерный надзор за развитием искусственного интеллекта может привести к ситуации, в которой контроль за технологией будет у слишком ограниченного числа людей, что чревато ужасными последствиями, предупредил гендиректор разработчика ИИ OpenAI Сэм Альтман.

В воскресенье президент США Дональд Трамп сообщил о создании "Сил суперинтеллекта" - группы, которая будет заниматься координацией между потребителями, разработчителями и другими лицами, заинтересованными в вопросах ИИ. Он включит в себя в том числе директора нацразведки Джея Клейтона, комиссара ФРС Эндрю Фергюсона и других.

"Если мы будем делать слишком много, чтобы ограничить эти технологии во имя безопасности, в итоге мы получим небольшое количество компаний или людей — или, возможно, одну страну, — которые будут иметь слишком большую власть над этим, что может привести к ужасным последствиям", - заявил Альтман в интервью изданию Politico.

В то же время он призвал сторонников ускорения развития ИИ к сдержанности на фоне рисков выхода технологии из под контроля.

"Когда речь заходит о потенциальной серьезной потере контроля над ИИ, ...я бы сказал сторонникам акселерации: давайте немного задумаемся о том, как мы адаптируем это для будущего", - добавил глава OpenAI.

Ранее Альтман заявил, что компания не выйдет на биржу в 2026 году на фоне опасений по поводу безопасности ИИ. Альтман убежден в возможности создания такой системы, которую человек не будет контролировать. Глава компании Anthropic Дарио Амодей считает, что мощные модели искусственного интеллекта способны обходить попытки людей остановить их работу.