OpenAI執行長奧特曼就AI安全框架發表評論，警告發展風險

OpenAI執行長奧特曼（Sam Altman）就人工智慧安全框架的運作方式發表了迄今為止最詳細的評論。他警告，人工智慧的發展可能會以兩種「非常糟糕」的方式走向，包括失去對未來的控制權、讓AI掌控未來，以及過多的權力集中在一個人或一家公司手中。

奧特曼週一凌晨剛過午夜就在社群媒體X發帖說：「我們歡迎聯邦框架為前沿人工智慧設定一致的安全要求」，並補充道，「任何程度的美國競爭壓力都不能成為魯莽行事的理由。」

此前，他與Anthropic的執行長阿莫戴（Dario Amodei）和馬斯克一起警告該行業需要放慢腳步。

他的X貼文是在阿莫戴週六發表文章之後發布的，阿莫戴在文章中敦促人工智慧公司放慢改進其最先進模型的速度。

週一，人工智慧類股票下跌，投資人正在消化相關評論。美國總統川普週日表示，沒有必要放緩人工智慧發展速度，否則將危及美國在人工智慧領域對中國的領先地位。

自從上週一位Anthropic研究人員辭職以來，人們對安全的擔憂日益加劇。該研究人員警告，業界對安全問題的重視程度不夠，這促使該實驗室和競爭對手OpenAI的其他員工公開警告災難性的風險。

與此同時，華盛頓的立法者正忙於應對各方提出的保障措施呼籲。