Quick Look
Anthropic 聯合創辦人克拉克呼籲立法對人工智慧強制安裝終止開關，以應對潛在風險。此前 Anthropic 執行長阿莫戴已呼籲全球 AI 產業放緩開發並獲得馬斯克與奧特曼支持，而前研究員考克森離職並警告 AI 毀滅人類機率超過 10%。
AI-generated summary
Why It Matters
Anthropic 執行長阿莫戴先前呼籲全球 AI 產業放緩開發並強化安全評估，獲得馬斯克與奧特曼支持。隨後前研究員考克森離職並公開警告 AI 毀滅人類風險，引發廣泛討論。
Anthropic聯合創辦人克拉克，呼籲立法對AI強制安裝終止開關。（法新社）
Anthropic執行長阿莫戴喊話全球AI產業放緩開發、強化安全評估，xAI負責人馬斯克、OpenAI執行長奧特曼對此表態支持，引起國際關注，Anthropic聯合創辦人克拉克（Jack Clark）也呼籲立法對AI強制安裝「終止開關（kill switch）」。
據《BBC》報導，克拉克表示，當人工智慧變得太過危險，社會可能會希望透過制定規則來徹底將其關閉，雖然包括Anthropic在內的大多數AI實驗室都有不同的方法來終止，但或許需要立法做出強制要求。
請繼續往下閱讀...
Anthropic研究員考克森（Jacob Coxon），因擔心AI可能毀滅人類而離職，他上週發文後在網路引起瘟傳；人類學家胡賓格（Evan Hubinger）認為，AI在未來10年內毀滅人類的可能性超過10％。
對於AI有10％機率殺死全人類這件事，AI教父、諾貝爾獎得主辛頓（Geoffrey Hinton）認為並非無稽之談，因為AI可能會控制所有連接到網路的系統，並且藉此來對付人類。
不過，AI產業也有不少專家指出，對於AI會毀滅人類的說法被誇大了，或者可能是為了吸引關注而創造的噱頭。AI開發者平台Hugging Face負責人戴蘭格（Clement Delangue）表示，向考克森詢問AI滅絕人類的風險，就像是詢問冷氣維修工有關氣候變遷的事情，大家還是要理性看問題才對。
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
What to Watch
AI outlook — possibilities, not facts
各國將開始討論或制定 AI 安全相關立法，包括終止開關要求
Likely · Within months
AI 安全風險評估將成為產業標準流程
Possible · Within months
Open Questions
- 何種形式的「終止開關」最為可行？
- 立法範圍應涵蓋哪些類型的 AI 系統？
- 如何平衡創新與安全監管？
