Экс-сотрудник Anthropic предупредил о риске вымирания человечества из-за ИИ
Quick Look
Экс-сотрудник Anthropic Джейкоб Коксон заявил на слушаниях в городском совете Нью-Йорка, что развитие ИИ приведет к потере контроля и гибели человечества, поскольку разработчики действуют безрассудно, а компании стремятся создать суперинтеллект, не зная, как контролировать системы.
AI-generated summary
Why It Matters
Экс-сотрудник Anthropic Джейкоб Коксон выступил с предупреждением о рисках развития искусственного интеллекта на слушаниях в городском совете Нью-Йорка, заявив, что текущая траектория развития ИИ ведет к потере контроля и угрозе вымирания человечества.
Экс-сотрудник Anthropic Джейкоб Коксон предупредил об угрозе вымирания человечества из-за искусственного интеллекта (ИИ). Об этом он заявил на слушаниях в городском совете Нью-Йорка. Его слова приводит РИА Новости.
По словам Коксона, развитие технологий приведет к потере контроля над ИИ и последующей гибели человечества отчасти из-за того, что разработчики безрассудно поступают в контексте развития нейросетей, а все ИИ-компании стараются создать суперинтеллект. Кроме того в технологических компаниях пока не знают, как контролировать создаваемые системы ИИ.
ИИ взламывает сторонние сети, за что человеку бы грозила уголовная ответственность, добавил он.
«Мы не понимаем, что ими движет, почему они делают то, что делают», — сказал Коксон.
What to Watch
AI outlook — possibilities, not facts
Усиление общественной дискуссии и потенциальное введение регулирования в сфере ИИ после подобных предупреждений от бывших сотрудников ведущих компаний
Possible · Within months
Open Questions
- Какие конкретные меры предлагает Коксон для снижения рисков ИИ?
- Есть ли у него доступ к внутренней информации Anthropic о текущих разработках?
- Какие другие эксперты разделяют или оспаривают его оценку рисков?
