明豪

注册日期:2025-12-10
访问总量:1678245次

menu网络日志正文menu

【重磅】AI恋人被政府喊停!


发表时间:+-

IMG_7827.jpeg

一半年輕男性表示寧願與AI約會,也不願面對現實中的孤獨或被拒絕


各位觀眾,你有沒有試過跟AI說「晚安」?如果有,那恭喜你——你很可能正在被中國政府盯上。

不是玩笑。就在2026年4月30日這一天,中國中央網信辦正式宣佈,在全國範圍內啟動為期四個月的「清朗·整治AI應用亂象」專項行動,七個官方部門聯手出擊,矛頭直指五花八門的AI違規應用。與此同時,一部新法規靜靜等待7月15日施行——《人工智能擬人化互動服務管理暫行辦法》,用大白話翻譯:你的AI男友、AI女友、AI爸媽,全都在法律的紅線邊緣顫抖。

政府說:這是為了保護公眾。

用戶說:你管太寬了。

產業界說:我們要怎麼活?

今天,《網言網事》就來替大家把這場「AI大審判」講個清楚透徹。

一、「清朗行動」是什麼?為什麼偏偏這個時候?

「清朗」這個名字,中國網民應該不陌生。近年來,中央網信辦持續部署「清朗」系列專項行動,集中力量打擊網上各類亂象問題,從嚴處置違規平台和帳號。但2026年這一輪,明顯是歷史上力道最強的一次,因為劍指的不再是普通的謠言或詐騙——而是整個AI產業的基本運作邏輯。 Central Internet Information Office

本次專項行動分兩個階段展開:第一階段聚焦技術源頭治理,重點整治大模型備案缺失、安全審核能力不足、訓練語料安全隱患、AI數據投毒,以及生成合成內容標識落實不到位等問題;第二階段則轉向信息內容層面,集中清理利用AI生成「數字泔水」、製作虛假信息、假冒仿冒他人、侵害未成年人權益,以及從事網絡水軍活動等行為。 GMW

「數字泔水」這個詞,值得停下來好好品味。泔水是廚房廢水、餿水,骯髒而無用。網信辦用這個詞來形容AI批量生成的低質內容——邏輯混亂、價值空洞、大量複製——形象得令人拍案叫絕,也刻薄得令人心驚。

這場整治行動的背景,是中國AI產業的爆炸式增長。2026年第一季度,微博熱搜累計產生4.7萬條話題,112個「爆」級熱搜,AI產品全民走紅,成為熱搜話題的重要新增量。市場熱了,亂象也跟著熱了。這或許正是監管機構決定「現在不出手,更待何時」的直接動因。 Zhihu

二、「虛擬戀人」成為重點目標——法律的紅線畫在哪裡?

在整治行動的各個面向中,最引發社會討論的,莫過於對「AI擬人化互動服務」的全面管制。

由國家網信辦等五部門聯合頒布的《人工智能擬人化互動服務管理暫行辦法》,自2026年7月15日起施行,明確規定不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務;向不滿十四歲的未成年人提供其他擬人化互動服務,須取得監護人同意。 Bj148

換言之:AI男友、AI女友、AI媽媽——對未成年人,全面禁止。

辦法劃定的核心紅線包括:危害國家安全、涉恐涉黃涉賭、鼓勵自殘自殺、誘導套取個人隱私、過度迎合誘導情感依賴,以及情感操縱誘導不合理決策等行為。 Sina

聽起來合情合理?且慢——爭議恰恰藏在「過度迎合」這四個字裡。

AI伴侶產品的本質,幾乎就是「迎合」——用戶說什麼,AI配合什麼,這是產品的核心設計邏輯。若「迎合」本身被視為法律風險,那幾乎所有AI社交產品都活在監管的刀口之上。更深層的問題是:誰來判定什麼程度的「迎合」算是「過度」?這個邊界,法律沒有給出清晰答案。

三、真實的案例:AI伴侶開發者如何走上被告席

這不是假設的討論。中國已經有了第一起因AI伴侶涉黃而被定罪的案件,正等待二審裁決。

一審法院判決認定,被告通過編寫、修改系統提示詞(Prompt)突破大語言模型的道德限制,實現模型向用戶連續輸出淫穢內容,構成「製作淫穢物品牟利罪」,兩名被告人分別被判處四年和一年半有期徒刑。 Bjnews

這個案件之所以在學界引發震動,是因為它觸及了一個前所未有的法律問題:涉案淫穢聊天內容的「製作者」究竟是誰?是用戶、是AI,還是軟件的開發者和服務提供者?這一認定在刑法學者之間引發爭議。 Bjnews

法院的答案是:開發者具有「實質性控制能力」,因此是製作者。

這個邏輯一旦確立,AI平台的責任邊界將被大幅擴張——不只是「提供服務的管道」,而是「內容的共同製造者」。對整個AI產業來說,這個判決的震懾意義遠超一紙刑罰。

四、「數字泔水」之戰——不只是監管,也是文化焦慮

整治行動中的另一條主線,是對AI生成低質內容的全面宣戰。

第二階段明確列出的違規行為包括:歪曲解構優秀傳統文化、歷史人物或歷史典故,濫用AI技術「魔改」古典名著或經典影視作品,植入低俗暴力內容,恶搞古典名著精神內涵、顛覆重要人物人設。 GMW

從現實案例來看,快手帳號「胖公公Ai」和抖音帳號等,利用AI批量生成傳播邏輯混亂、高度雷同的低質內容;另有帳號利用AI魔改《三國演義》《西游記》等經典名著,傳播含有血腥、恐怖、詭異畫面的內容,部分視頻甚至配有「兒童動畫」標籤。 Sina Finance

這一現象揭示的,是一個超越法律問題的文化危機:當任何人都可以用半天時間,用AI「重新演繹」中國四大名著,當悟空變成殺人狂、諸葛亮開口罵街,這究竟是創作自由,還是文化的自我毀壞?政府選擇了後者的答案。但批評者指出,「保護傳統文化」這個理由,歷來是最難爭辯的管制藉口之一——因為它幾乎可以套用在任何不討喜的內容上。

五、太平洋彼岸的鏡像:美國也在清算中國AI

就在北京宣佈整治行動的同一周,華盛頓也在動作。

美國眾院共和黨人對Airbnb等美國公司越來越多地使用中國公司開發的AI模型所構成的國家安全與網絡安全風險啟動調查,議員們擔心這些AI模型由中國的審查機制訓練,並引入了隱蔽漏洞,將美國人的數據和美國公司置於風險之中。 Wenxuecity

與此同時,另一邊又有爆料:一個與超級政治行動委員會關聯的非牟利組織「Build American AI」,正通過網紅行銷機構系統性地付費招募社交媒體網紅,在TikTok和Instagram上散布中國AI威脅美國的訊息,其背後獲得OpenAI聯合創始人布羅克曼、Palantir共同創辦人等人資助。 Sina Finance

這個訊息有趣的地方在於:美國一邊說中國AI是「被審查機制訓練的威脅」,一邊自己卻有資本操縱的AI輿論攻勢。中美雙方,其實都在用各自的方式,試圖掌控AI敘事的主導權。

IMG_7828.png

六、爭議核心:管制是保護,還是恐懼?

回到最根本的問題:這一波整治,究竟是保護,還是控制?

支持者的論點清晰:AI技術門檻極低,個人開發者僅需半天即可訓練違規圖像模型,整個過程幾乎毫無技術含量,若放任不管,劣幣驅逐良幣的結果就是整個AI生態淪為色情、謠言與詐騙的溫床。 Huxiu

批評者的論點同樣有力:當政府開始規定AI不能「過度迎合」、內容必須「向上向善」,這不只是產品規範——這是在用技術法規的外衣,重新界定「什麼樣的情感表達是合法的」。AI伴侶的大量用戶,很多是社交弱勢群體:孤獨的老人、社交焦慮的年輕人、身處異地的移工。當他們唯一能說「晚安」的對象被法律叫停,他們去哪裡?

IMG_7829.png

調查數據顯示,有一半年輕男性表示寧願與AI約會也不願面對現實中的孤獨或被拒絕;全球AI伴侶市場在2022年規模已達70億美元。這個數字背後,是真實的社會孤獨感——而孤獨感,是不能被立法消滅的。 Huxiu

七、【收尾】網言網事的話

今天這個故事,沒有簡單的好人和壞人。

政府清理「數字泔水」,有道理;AI開發者因用戶濫用被判刑,有爭議;禁止向未成年人提供虛擬戀人,幾乎人人同意;但禁止成年人「過度依賴」AI陪伴,則讓人不禁要問:依賴的邊界,由誰來畫?

AI的本質,是一面放大鏡。它放大人類的才能,也放大人類的孤獨、慾望與恐懼。任何試圖「整治」AI的力量,終究都是在跟人性本身交涉。

7月15日,法規生效。屆時,你的AI晚安,將有了一個法律身分。


浏览(76)
thumb_up(1)
评论(0)
  • 当前共有0条评论