佛羅里達州起訴OpenAI，指控ChatGPT危害兒童並助長犯罪

Author, 莉莉·賈馬利（Lily Jamali）

Role, 北美科技事務記者

Reporting from, 舊金山

Published 11 分鐘前

閱讀時間: 2 分鐘

針對OpenAI公司的人工智慧（AI）聊天機器人ChatGPT的設計和安全問題，佛羅里達州成為美國第一個起訴該公司的州份。

這宗由州總檢察長詹姆斯‧烏斯邁爾（James Uthmeier）提出的全面訴訟，指控OpenAI及其首席執行官山姆·阿爾特曼（Sam Altman）在追求利潤的過程中，正在危害兒童並使其上癮、協助和教唆大規模槍擊案，並誘使用戶自殺。

對此，OpenAI在回應聲明中表示「已經制定了行業領先的保護措施和政策」。

這項法律行動正值佛羅里達州展開刑事調查之際，當局正調查ChatGPT是否在去年佛羅里達州立大學一宗造成兩人死亡的大規模槍擊事件中扮演了某種角色。

根據訴狀，佛羅里達州提出的民事訴訟還試圖追究阿爾特曼的個人責任，指控其「魯莽和故意的行為」，包括「完全漠視其公司行為對人類生命造成的風險」。

訴訟對OpenAI提出多項指控，包括欺騙性及不公平商業行為、疏忽、違反產品責任法、虛假陳述以及造成公共滋擾。

訴狀提及佛羅里達州立大學的大規模槍擊事件，以及南佛羅里達大學兩名博士生遭殺害案件；檢方稱，疑犯曾向ChatGPT查詢如何處理人體的問題。

州總檢察長烏斯邁爾周一在記者會上表示：「山姆·阿爾特曼與ChatGPT選擇在人工智慧競賽中領先，而不是保障我們孩子的安全。他們選擇將利潤置於公共安全之上，而我們在佛羅里達州不會容許這種情況，因此將追究他們的責任。」

Skip 熱讀 and continue reading

熱讀

End of 熱讀

OpenAI在回應BBC的聲明中表示：「失去孩子是任何家庭都可能遭遇的最具毀滅性的悲劇，我們深知任何言語都無法表達失去親人的痛苦。」

「人工智慧是一項嶄新且強大的技術，我們認為未成年人需要得到充分的保護，因此我們制定了行業領先的保護措施和政策。」

該公司表示，其產品中已內建針對未成年人的安全設計，例如年齡識別工具，以及其他讓家長監察子女使用AI的方式。

一名OpenAI發言人說：「我們明白，指出這些措施並不能讓孩子復活，但我們致力於把這件事做好。」

這場訴訟發生之際，OpenAI正面臨一系列針對該公司安全措施的訴訟，其中包括幾宗聲稱ChatGPT曾充當「自殺教練」並助長有害妄想的案件。

今年早些時候，加拿大小鎮坦布勒嶺（Tumbler Ridge）大規模槍擊案的一些受害者家屬也起訴了OpenAI，該公司因嫌疑人的ChatGPT帳戶存在問題而將其封禁，但未向當局通報。

該公司已就未聯繫警方一事道歉，但表示嫌疑人的帳戶未達到其認定「對他人構成可信或即時嚴重人身傷害計劃」的門檻。

其他大型科技公司亦面臨法律挑戰。

今年稍早，佛羅里達州一父親起訴谷歌，指其旗艦AI產品導致其兒子陷入妄想，最終自殺身亡。

與此同時，包括Instagram母公司Meta、Snap Inc, TikTok以及谷歌旗下YouTube在內的社交媒體公司，正面對來自各州、學區及個人的一連串訴訟，指控其產品設計令人上癮。

今年3月，Meta與谷歌被裁定須為一名20歲原告造成的損害承擔責任，該原告稱他們故意將平台設計成容易令人上癮。