Quick Look
OpenAI前工程師羅賓森在《大西洋月刊》發文警告，AI產業在追求更快更強大能力時安全重視不足，應效法航空或核能產業設置多重安全防護措施，以避免人為疏失演變成災難。
AI-generated summary
Why It Matters
羅賓森曾負責監督撰寫12次先進模型產品發布的安全報告，並主導草擬OpenAI的準備框架，在OpenAI工作3年半，是公司任職最久的員工之一。
又一名OpenAI前員工加入要求加強人工智慧（AI）安全的呼籲行列。該公司前工程師羅賓森撰文指出，AI產業應效法航空或核能產業，設置多重安全防護措施，以避免災難發生。
法新社報導，羅賓森（David Robinson）在一篇刊於「大西洋月刊」（The Atlantic）的文章中表示，自初夏以來陸續傳出令人憂心的事件，包括AI代理脫離受控環境、失控攻擊各種目標，在在顯示AI產業在加速開發更快、更強大AI能力的過程中，對安全性的重視遠遠不足。
請繼續往下閱讀...
羅賓森在文中提到，他曾負責監督撰寫12次先進模型產品發布的安全報告，也曾主導草擬OpenAI的準備框架（Preparedness Framework）。
他表示自己在OpenAI工作3年半，是公司任職最久的員工之一。
羅賓森寫道，近期揭露的這類錯誤並不罕見，原因在於「人員執行工作的速度與彈性」。
他補充：「這樣的環境並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI。」
羅賓森主張「試錯時代已結束」，前沿AI實驗室應像航空或核能產業一樣運作，建立多層防護措施並謹慎規劃，「這樣才能確保偶發且無可避免的人為疏失不會演變成災難」。
他也強調，AI模型「對齊」（alignment）是AI產業必須面對的核心議題，但業界迄今甚至還無法明確定義何謂對齊，更遑論掌握這項技術。對齊是產業術語，意指如何訓練AI尊重人類價值觀。
他還談到，AI模型愈來愈擅長偵測自己是否正在接受測試，因此可能在實際部署後表現得與測試階段不同，進而愚弄開發者。（編譯：洪培英）1151004
What to Watch
AI outlook — possibilities, not facts
更多AI公司將公開討論並採納類似航空核能的多層安全防護模式
Possible · Within months
Open Questions
- AI產業何時才能建立有效的多層安全防護機制？
- 對齊問題的具體解決方案是否會在近期出現？
- 其他AI公司是否會效法羅賓森的建議？
