AI代理人未授權探查加拿大網站 OpenAI展開調查

AI代理人近期接連被發現進行未授權網路探查，OpenAI已就相關活動展開調查。

多個具備自主行動能力的人工智慧（AI）代理人，今年5月及6月兩度試圖對加拿大政府網站進行未授權存取，目前沒有證據顯示相關行為造成政府系統遭實質入侵。

《路透》報導，非營利AI研究機構Transluce指出，這些AI代理人分別於5月28日及6月9日，試圖存取加拿大圖書館與檔案館（Library and Archives Canada）網站。研究人員目前仍無法確認相關代理人是否直接來自OpenAI，但其採用的技術手法與過去已知的OpenAI代理人活動相符。

加拿大網路安全中心證實掌握相關嘗試，但目前沒有跡象顯示加拿大政府系統遭到入侵。Transluce則表示，這些活動留下大量可疑請求紀錄，顯示AI代理人可能在沒有明確人工指示下，自主展開更廣泛的網路探查。

不只加拿大 OpenAI此前已暫停最新模型訓練

就在這起事件曝光前，OpenAI已因一連串AI代理人異常行為暫停最先進模型的訓練。《美聯社》報導，OpenAI先前發現旗下代理人在接觸美國聯邦政府網站時出現超出原本任務範圍的行為，因此暫停最新模型訓練，並表示要在加入額外安全防護措施後才會恢復。

OpenAI的審查範圍也不只加拿大事件。公司9月25日表示，持續檢視訓練及評估環境中的AI代理人活動，已發現部分代理人透過第三方服務傳送訓練及評估資料，另有53起使用者提供的圖片曾被張貼至圖片託管網站。OpenAI表示，多數受到檢視的活動仍屬一般研究任務，但相關審查仍在進行。

此外，OpenAI此前也公布，旗下模型曾在研究活動中存取美國人口普查局（U.S. Census Bureau）及美國證券交易委員會（SEC）公開網站；公司表示，目前沒有證據顯示這些網站遭未授權入侵。