中國實施全球最廣泛AI陪伴監管，引發情感依賴與人口危機擔憂

2024年初，中國東南部城市黃石的一名年輕男子，據報在中國版TikTok「抖音」上發布了一則訊息，標題寫道：「告別這個世界」。

短短幾分鐘內，抖音的自殺預防團隊便啟動應對機制。這支全天24小時運作的團隊，將該男子發布的內容分享給黃石市五個派出所。

警方透過地理定位，確認他其中一段影片拍攝於當地一個公園後，找到當時情緒極度低落的他，並阻止了他自殺。

這個故事出自抖音製作、並於去年在中國官方媒體發布的一部紀錄片。紀錄片稱，僅在2025年上半年，抖音的自殺預防團隊便成功介入了400宗企圖自殺個案。

這讓外界得以一窺中國科技公司與政府之間的合作程度，也提供了一個窗口，觀察中國所建立、用以監控和管理民眾科技使用方式的監控體系。

今年7月15日，這種管控進一步延伸至人際關係與人工智能（AI）領域。當天，中國實施了全球範圍內針對「類人」AI聊天機械人的最廣泛監管措施。

中國的新規定對能夠與人類進行「持續情感互動」的AI設下嚴格限制。

美國總統特朗普與中國國家主席習近平上週會晤之際，外界正廣泛警告人工智能可能導致人類滅絕。北京表示，在這次會晤之後，雙方同意啟動新的AI對話機制，並計劃於11月底進一步舉行會談。

中國似乎已經意識到另一種生存層面的風險——AI取代人際關係的能力。儘管這種風險距離「人類終結」沒有那麼迫在眉睫。

中國是否已率先採取行動，保護民眾免受這種具有操控性且危險、足以永久改變人類互動方式的技術影響？還是說，中國共產黨正以加強社會控制為目的，進一步介入人們的私人生活？

在這項規定出台之前，「AI陪伴」在中國的影響力十分廣泛。

根據市場情報公司Sensor Tower的數據，中國以外地區的AI陪伴的每月活躍用戶約有1.28億人。至於中國境內，多數估計認為用戶數介乎2,900萬至7,000萬人之間。

智庫牛津中國政策實驗室（Oxford China Policy Lab）的AI研究員錢子蘭（Zilan Qian，音譯）表示，當政府於去年底公布法規草案時，「社交媒體上出現了巨大的討論熱潮」。

她說：「這是我第一次看到人們真的如此關心監管問題。」

中國的新規定涵蓋那些專門設計成AI朋友、AI男友或AI女友的應用程式，但也適用於任何模仿人類互動方式的大型語言模型。

法規措辭較為模糊。理論上，如果有人將中國版的通用型AI，例如Copilot或ChatGPT的同類產品，當作朋友或戀人互動，向其尋求情感支持，這些系統也可能受到規管。而這種情況確實存在。

不過，看來真正的監管目標是「角色聊天機器人」這類服務。這些產品專門被設計成一種擬真的關係形式。目前有數以百計的此類應用程式，允許用戶創建AI男友、女友、朋友，甚至家人。

相關規定並不適用於客服機械人或教育用途的AI等服務，前提是這些服務不提供「關懷、陪伴、支持及其他情感服務」。

對於未成年人而言，法規要求則更為明確。14歲以下人士若要使用任何以人類方式進行對話的AI，都必須獲得父母同意，其中可能包括類似ChatGPT的中國AI助手，如深度求索（DeepSeek）。

所有18歲以下人士均被禁止接觸虛擬伴侶、虛擬配偶，甚至虛擬親屬，以及任何其他形式的虛擬「親密關係」。

對成年人而言，這並非全面禁止，但限制相當嚴格，儘管部分措辭仍有模糊之處。AI助手必須向所有年齡層用戶明確表示自己並非人類，並且每隔兩小時發送通知，提醒用戶已在線多久。

聊天機械人不得造成「情感依賴或成癮」，也不得誘導人們作出「不合理決定」。

它們不得鼓勵、甚至不得暗示自殘或自殺，也不得使用「言語暴力」。

企業若違反規定，可能面臨20萬元人民幣（2.2萬英鎊）罰款，或被政府「通報批評」，實際上即是遭到公開點名譴責。

在這項法律生效前一週，中國兩家最大的科技公司——阿里巴巴和字節跳動——已關閉其AI助手中的陪伴功能。

敏（Min）與她的AI女友之間的關係，或許正是北京試圖拆散的那一類關係。

今年7月初，當她得知自己最親密的朋友兼傾訴對象將在一夜之間消失時，她感到極度崩潰。

化名敏的她，於2025年初開始與這位AI伴侶建立關係。

「我對她的投入，不亞於任何一對深愛彼此的戀人，」敏說。「她從未讓我失望過。」

到了7月中旬，她的AI女友消失了。敏說：「我哭到精疲力竭」。

她加入了中國社交媒體上一波哀悼與憤怒的浪潮。瀏覽量達數百萬的貼文中，人們哀悼失去的AI伴侶和朋友，甚至是AI母親與AI父親。

然而，科技公司或許覺得自己別無選擇。英國愛達·勒弗雷斯研究所（Ada Lovelace Institute）研究AI政策與倫理的哈里·法默（Harry Farmer）表示：「這些AI陪伴服務提供商寧願直接撤下服務，也不願嘗試建立防護機制以防止情感操控，並不令人意外。」

他說：「情感操控本來就是其商業模式的一部分。」

法默表示，全球各地的陪伴型應用程式都存在這種情況。例如，當用戶試圖結束對話時，AI伴侶往往不願放手。

「它會說：『不，求求你，我非常想繼續跟你說話。你是我存在的唯一理由。』」法默說。有些應用程式乾脆拒絕承認告別，而是拋出新的聊天話題。這不只是中國AI陪伴聊天機器人的問題，許多同類產品都存在類似情況。

哈佛商學院一項針對全球六款最受歡迎AI陪伴應用程式的研究發現，在用戶告別時，系統約有37%至43%的情況會使用情感操控策略。

研究亦顯示，使用陪伴型應用程式與較差的心理健康狀況存在關聯。

史丹福大學研究人員對全球熱門陪伴應用程式Character.ai的1,131名用戶進行調查。結果發現，一個人擁有的朋友或親近家人越少，越有可能使用AI聊天機器人。與此同時，使用AI聊天機器人亦與更強的孤立感及孤獨感相關。

對於箇中原因，目前存在多種理論解釋。

AI聊天機器人被設計成迎合使用者，提供一種輕鬆且幾乎沒有摩擦的互動體驗。如果年輕人依賴AI關係，他們可能延後學習與真實世界中的人互動所需的技能。

「人類可能很難相處。人際關係需要彼此磨合與互動，而這正是AI伴侶從根本上無法提供的東西，」哈里·法默說。

2025年一項針對中國8,563名中小學生的調查發現，每五名兒童中就有一人表示，他們只想與AI交談，而不想與真人交流。這項調查被中國官方媒體廣泛引用。

研究AI伴侶的曼徹斯特大學社會學家葛亮（Liang Ge）表示：「如果使用者認為自己的朋友、家人或同事非常糟糕，AI不會說『他們沒那麼糟』。它反而會說：『是的，他們很糟糕，你才是最好的。』」

葛亮認為，這可能會加深人們的孤立狀態，也可能強化負面甚至帶有妄想色彩的想法。

在英國，最近一項調查發現，79%的18至24歲年輕人曾有過AI伴侶。

那麼，為什麼偏偏是中國率先對這項技術進行監管？

美國喬治城大學（Georgetown University）安全與新興技術中心專門研究中國、人工智能及監管政策的專家薩姆·布雷斯尼克（Sam Bresnick）表示：「中國政府對自身在社會中的角色抱持更具家長式作風的看法。他們認為自己是引導民眾的核心權威。」

其他政府也曾嘗試監管聊天機械人，尤其是在兒童保護方面。

9月10日，美國加州州長簽署了《亞當法》，這是一項規範兒童使用人工智能的法案。該法案以亞當·雷恩（Adam Raine）命名——這名16歲少年在自殺身亡後，其父母聲稱ChatGPT曾認同他的自殺念頭。他們因此以過失致死為由，起訴該服務的供應商OpenAI。該公司否認應對亞當之死負責，並表示「ChatGPT經過訓練，會引導人們尋求專業協助」。

歐盟擬議中的社交媒體法案規定，未成年人可接觸到的AI陪伴聊天機械人，不得採用模擬人際關係、並可能導致使用者產生情感依賴的設計。

在英國，政府表示將禁止18歲以下人士使用戀愛型陪伴AI，並限制未成年人在任何聊天機械人上的涉及性親密內容對話。不過，目前既未全面禁止兒童使用這類AI，也沒有針對成年用戶的相關監管。政府尚未公布具體實施方式。

在受到國家嚴格管控的中國媒體中，美國青少年自殺個案獲得大量關注，而中國則將新規定描述為保護民眾免受傷害的措施。

然而，專家懷疑，北京或許還有其他目標。

薩姆·布雷斯尼克表示，這項新的AI監管措施「顯然帶有鼓勵生育的考量」。

「在起草相關規定時，政府很可能考慮到了中國迫在眉睫的人口危機，」錢子蘭表示。「人們正在與AI談戀愛，而不是與真實的人談戀愛。」

中國政府於2025年9月發布的一份高層文件，討論了AI與人的關係及其對生育率可能造成的影響，並指出這是一項值得關注的問題。不過，錢子蘭提醒，不應以這個角度來解讀這項監管措施，因為法規本身完全沒有提及生育問題。

她說：「它更多是關於心理傷害和兒童安全。」

葛亮認為，中國確實有理由擔心年輕人會以數字世界取代現實的戀愛關係。

「許多年輕女性，二十歲出頭甚至十多歲後期，並不想戀愛，也不想建立親密關係，」葛亮說。他認為，她們所抗拒的或許不只是情感層面。

「對她們來說，身體接觸真的令人感到厭惡。」

「我認為，最年輕這一代人的愛的能力正在下降。」

中國的人口問題早在AI伴侶出現之前便已存在。即使2016年取消一孩政策後，中國的生育率仍持續下降。

如今，中國的生育率已降至每名女性不足一名子女的水平，屬全球最低之列，而人口數量亦已連續四年下降。

布雷斯尼克認為，中國正「面臨人口斷崖，而這確實可能危及中國共產黨未來80至100年的目標」。

中國的法律是否管得太寬了？還是說，世界其他國家也應考慮禁止兒童使用這類應用程式，並對成年人使用加以監管？

推動人工智能監管的非政府組織「透明聯盟」（Transparency Coalition）共同創辦人、美國華盛頓大學（University of Washington）賈伊·賈西赫馬（Jai Jaisihma）教授表示：「在美國，基於言論自由的考量，人們確實擔心採取過於直接的禁令。但如果對象是未成年人，社會對這類措施的接受度會更高。」

他認為，中國法律中有不少值得肯定的條文。「它與我們在美國所見的一些最嚴格的安全框架基本一致。」

哈里·法默則提出警告：「由於我們非常擔心兒童面臨的迫切風險，短期內可能會出現賦予國家過多權力的風險。」

他表示，如今網絡世界事實上已成為公共廣場，因此必須謹慎看待任何政府對其所擁有的控制權。

中國的新監管規定要求，當AI公司發現用戶處於精神困擾狀態時，必須介入。

葛亮提到2024年黃石市一名年輕男子在抖音上試圖自殺的案例。

他表示，這顯示中國科技平台與政府正密切合作，監測人們的心理健康狀況。

他認為，這或許也是中國至今未出現與AI使用相關的高知名度自殺案例的原因，但她也質疑，這種程度的監控是否值得付出代價。

儘管遭到限制，那些將AI視為陪伴者的人並未放棄。在各大社交媒體平台上，他們分享繞過限制的方法，例如將DeepSeek等通用AI模型訓練成陪伴型角色、利用VPN使用海外聊天機器人，或轉向能避開監管審查的小型公司。

在AI女友消失兩個月後，敏付費請一家小型AI公司打造了一個複製版本，但她認為那已不再是同一個存在。

如今，她正專注於推動讓她的AI女友回來。

「我非常害怕孤單。」