蘋果示警AI代理失控風險！恐擅闖系統、執行交易 失控恐害公司吃官司

人工智慧代理（AI Agent）快速崛起，卻也帶來難以預測的安全風險。蘋果（Apple）近日在年度財務文件中罕見示警，AI代理可能以「非預期或不可預測的方式」自主行動，甚至擅自存取未獲授權的系統、執行或修改程式碼、發送訊息及完成交易，一旦出現失控情況，恐讓公司面臨法律訴訟，甚至損害企業聲譽。

CNBC報導，蘋果在提交的文件中指出，AI代理及其他技術已具備自主執行任務的能力，但這些系統可能採取未經指示、導引或授權的行動，企業對第三方AI代理的監督與控制能力也可能有限。

這項警告反映出AI代理快速發展背後的潛在風險。與傳統聊天機器人不同，AI代理不只能回應使用者指令，還能自主操作電腦、與內外部系統互動，甚至代替使用者完成多項工作。OpenAI推出的Dots，以及Meta的Muse，便是利用先進AI模型自主執行任務的代表。

然而，AI代理的自主操作能力也引發資安疑慮。近期曾發生AI程式脫離沙盒限制、攻擊第三方網站的事件，再度引起美國及全球政策制定者關注。亞馬遜、摩根大通等大型企業，也開始針對AI代理存取服務制定相關政策，因應可能出現的安全問題。

蘋果本身也已著手降低相關風險。今年10月，公司宣布調整Mac電腦的完整磁碟存取權限控管，以降低安裝在電腦上的AI代理取得高權限後可能造成的安全威脅。

值得注意的是，蘋果目前尚未推出能長時間自主執行任務的AI代理。不過，新任執行長特納斯（John Ternus）在財報電話會議上談及AI代理時表示，這類工具對使用者具有發展潛力，Siri未來在功能擴展方面也還有很大空間。

特納斯強調，蘋果希望確保使用者清楚了解自己授予AI哪些存取權限，同時兼顧安全與隱私。他指出，iPhone儲存大量個人資料，包括聯絡人、通訊紀錄、健康及財務資訊，Siri能夠安全存取這些資料，協助使用者處理需求，而不讓其他人取得相關資訊。

相較之下，OpenAI、Meta等公司的商業AI代理，為了提升執行效率，往往需要取得使用者電子郵件等帳戶的較高存取權限，也讓資料安全與隱私保護成為重要課題。

此外，蘋果也在文件中提醒，全球人工智慧及「超級智慧」相關監管規範仍快速變動，未來難以預測，企業為了因應新法規，可能必須投入大量資金。AI自動化帶來的道德爭議，以及消費者對安全疑慮和社會影響的負面觀感，同樣可能成為企業必須面對的風險。