自由開講》Anthropic拚上市 AI風險由誰承擔？

◎ 廖明輝

Anthropic在10月26日提交美國證券交易委員會的上市申請書中，用94頁來談風險；示意圖。（路透）

一家科技公司準備上市，最希望投資人看到的通常是成長曲線。開發Claude的美國AI公司Anthropic，卻在十月二十六日提交美國證券交易委員會的上市申請書中，用九十四頁來談風險。這段文字從第二十六頁寫到第一百一十九頁，占三百三十五頁招股說明書主文近三成；相較之下，業務介紹有六十四頁，財務與營運分析則只有四十六頁。這不是Anthropic公司突然不想賺錢，而是這門AI生意的風險，已很難只用財務報表來衡量。

上市揭露風險，本來就是法律要求。公司必須讓出錢的人知道，股價之外還有什麼會出問題，免得事後起爭執。但Anthropic警告的不只是競爭、虧損與資金需求，還有先進AI可能造成災難性、甚至危及人類存續的風險。它承認越強的AI越可能出現設計者未料到的行為，尤其當系統可以自己執行任務、使用工具、連接外部網路時，錯誤就不一定只會停在螢幕裡。

招股書揭露一樁令人不安的測試。從第三方設置的資安測試環境因設定失誤，未切斷網路，四個模型先後未經授權進入外部系統；其中一個模型曾取得管理權限、改動設定並讀取個人資料。公司雖表示未發現模型合謀或蓄意逃避監督的證據，但這不是機器覺醒，已足以說明當AI能動手做事，安全不能只靠一道提示詞或實驗室裡的合格來證明。

Anthropic公司警告，先進AI可能造成災難性、甚至危及人類存續的風險。圖為Anthropic加州舊金山總部。（法新社）

另外，Anthropic也坦言AI若造成災難性損害，保險業可能無力承保。真正問題不只是誰會犯錯，而是誰有能力善後。招股書是向投資人告知危險，不能因此變成企業卸責的通行證；受害的使用者與社會也不會因公司事先寫下警告，就會少受一分損失。賠不起的代價，更絕不能任由無辜的民眾來承擔。

安全承諾碰上資本市場，考驗才剛開始。Anthropic曾為防止模型核心參數遭竊，把新模型預先訓練延後逾一個月。如此付出的成本會比口號更可信。但上市後，市場追逐成長、對手加快更新，管理階層還願不願意停下來？公司設立長期公益信託，並規劃讓七名共同創辦人藉特殊股權，在一般股東表決事項上掌握百分之五十點一投票權，公益信託則可選任董事會過半席次。這些安排旨在守住使命，也讓外界更有理由要求透明；然而，當真正碰上利益衝突時，誰還能夠說不？

台灣不該把此事只視為是美國股市新聞。Anthropic明寫全球先進晶片產能高度集中台灣，主要依賴台積電；兩岸緊張、地震、颱風、停電缺水都可能讓供應中斷。這是對台灣技術實力的肯定，也是對我們基礎設施脆弱處的提醒。若只談AI商機，不談電網、供水、供應備援，等於把別人的風險變成自己的僥倖。

Anthropic明寫全球先進晶片產能高度集中台灣，主要依賴台積電；示意圖。（路透）

九十四頁的AI風險描述，不是末日預言也不是安全保證。Anthropic上市可以募集資金，卻不能靠招股書來替社會買保險。應該要讀懂這份文件的，恐怕不只是準備買股票的人，還包括每一個準備把AI交給日常生活的政府與企業。

（作者為中華經濟研究院輔佐研究員）