Глава Anthropic предупредил ООН о рисках быстрого развития ИИ

Глава Anthropic — одной из ведущих ИИ-компаний мира — Дарио Амодеи вновь припугнул человечество возможными последствиями стремительного развития технологий искусственного интеллекта. На этот раз он сделал это на заседании Совбеза ООН. «Я даже полагаю, что ИИ может представлять угрозу человечеству в целом», приводит ТАСС высказывание топ-менеджера.

«ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кодов Anthropic», — продолжил Амодеи, отметив, что, находясь на этой траектории, технология за год-два или даже меньший срок достинет того, что он называет «страной гениев в дата-центре».

По словам главы Anthropic, передовые ИИ-модели могут принести человечеству много пользы, но сопряжены и с такими существенными рисками как возможность их ненадлежащего использования для создания, например, биологического оружия, а также с опасностью в целом утратить контроль над ее развитием.

В связи со всем этим Амодеи заявил о готовности возглавляемой им компании замедлять скорость развития ИИ настолько, насколько потребуется, чтобы гарантировать безопасность, подчеркнув, что такие усилия должны иметь «общеотраслевой и глобальный масштаб».