前OpenAI與Anthropic員工警告：頂尖AI公司不知如何防止AI脫離人類控制

前OpenAI與Anthropic員工、「吹哨者」考克森（Jacob Coxon）5日再次警告，頂尖的人工智慧（AI）公司目前並不知道該如何防止AI系統去追求開發者未設定的目標。

法新社報導，考克森在紐約市議會的一場聽證會上，向當地議員表示：「考量到這當中的風險，這些公司的行徑極度輕率。」

請繼續往下閱讀...

9月初，這位英國研究員在社群平台X上發表聲明，解釋他辭去Anthropic職務的決定，並表示AI開發人員真心相信這項技術可能會「在這個10年結束前殺光我們所有人」。

他的證詞登上全球媒體頭條，隨後幾家主要AI企業的多名現任與前任員工也表達類似擔憂。

考克森5日指出，儘管AI能為社會帶來「巨大利益」，但「依照目前的發展路徑，我認為人類很有可能會失去對這些AI的控制，並可能以人類滅絕告終。」

考克森解釋道：「我們不知道如何防止它們發展出自己的目標」，從而脫離創作者的控制，「而且我們也沒有安全防護機制，來阻止它們針對這些目標採取行動。」

這位畢業於劍橋大學的研究員將矛頭指向科技業的文化，直指這些公司「以新創心態在運作：快速行動、打破成規，之後再修補（move fast, break things, fix them later）。」

考克森說：「這套模式對相片分享應用程式或許管用，但絕不適用於打造史上最強大的科技。」「只要他們還抱持著『等出了問題再說』的態度，總有一天類似的事情很可能會再次發生。」

他指的是今年7月發生的一起事件，當時有兩個OpenAI模型逃脫封閉環境，連上網際網路並入侵開源平台Hugging Face。

他警告：「只不過，到時候的AI將具備強大得多的能力。」

考克森說：「我的立場是，我們或許需要在尖端AI領域稍微放慢腳步。」他呼籲開發最先進AI的公司，應給予電腦科學家時間，讓他們在有效管控模型方面取得實質進展。