Исследователь Anthropic Джейкоб Коксон уходит из ИИ-индустрии из-за опасений апокалипсиса к 2027 году
Quick Look
- Джейкоб Коксон, 27-летний исследователь из Anthropic и бывший сотрудник OpenAI, уходит из ИИ-индустрии, предупреждая, что гонка технологических корпораций приближает мир к точке невозврата и может привести к апокалипсису уже к концу 2027 года.
- Он считает, что саморазвивающиеся ИИ-модели могут выйти из-под контроля и уничтожить человечество, а частные компании не способны этично развивать ИИ без внешнего регулирования.
AI-generated summary
Why It Matters
Джейкоб Коксон ранее работал в OpenAI, но перешел в Anthropic из-за её репутации в области безопасности ИИ. Однако он пришёл к выводу, что даже эта компания не может гарантировать этичное развитие без внешнего регулирования.
Краткий пересказ от РИА ИИ
Джейкоб Коксон, исследователь из Anthropic, уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
Коксон считает, что саморазвивающиеся ИИ-модели могут выйти из-под контроля и уничтожить человечество.
Исследователь пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
ВАШИНГТОН, 9 сен – РИА Новости. Исследователь из Anthropic Джейкоб Коксон уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года, пишет газета Wall Street Journal.
"Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля", – приводит его слова издание.
Он уходит из компании, отказываясь участвовать в гонке по созданию саморазвивающихся ИИ-моделей из-за опасения, что такие системы "могут выйти из-под контроля и уничтожить человечество". 27-летний математик из Великобритании отмечает, что его коллеги все чаще описывают текущую траекторию развития создаваемых ими технологий фразами вроде "критическая точка" и "эндшпиль".
Коксон рассказал, что в начале года ушел из OpenAI в Anthropic, привлеченный репутацией компании в области безопасности ИИ. Однако, хотя он по-прежнему уважает подход Anthropic к этой проблеме, теперь он пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
What to Watch
AI outlook — possibilities, not facts
Ситуация с контролем над саморазвивающимися ИИ-моделями может выйти из-под контроля уже к концу следующего года (2027)
Possible · Within months
Open Questions
- Какие конкретные меры внешнего регулирования предлагает Коксон?
- Как отреагируют Anthropic и другие компании на его уход и предупреждения?
- Есть ли доказательства, поддерживающие прогноз о критической точке к концу 2027 года?
