時(shí)間：2026-06-01 09:46
來(lái)源：中國(guó)青年報(bào)
最關(guān)鍵的變化并不在于機(jī)器如今能夠生成內(nèi)容，而在于它們開(kāi)始能夠生成語(yǔ)境。傳統(tǒng)的內(nèi)容生成僅提供信息或文本，但缺乏對(duì)信息背后的因果關(guān)系、敘事邏輯及情緒語(yǔ)境的把控。而人工智能代理能夠在生成內(nèi)容的同時(shí)嵌入特定語(yǔ)境，塑造事件的因果鏈、情緒氛圍或社會(huì)語(yǔ)境，從而更有效地影響受眾的理解、判斷和情緒反應(yīng)。
OpenClaw，即俗稱的“龍蝦”，是一種能夠在個(gè)人設(shè)備上執(zhí)行任務(wù)的人工智能代理，例如安排日程、閱讀電子郵件、通過(guò)應(yīng)用發(fā)送消息、使用互聯(lián)網(wǎng)進(jìn)行購(gòu)物等，甚至經(jīng)過(guò)配置后可以自動(dòng)調(diào)用API。它顛覆了傳統(tǒng)AI“一問(wèn)一答”的模式，可以全天候待命并按用戶設(shè)定的指令主動(dòng)辦事。
也就是說(shuō)，大多數(shù)流行的人工智能工具（如ChatGPT）通過(guò)直接響應(yīng)用戶提示來(lái)工作，而像OpenClaw這樣的“代理型人工智能”則能夠根據(jù)指令自主執(zhí)行操作。只不過(guò)，用戶需要通過(guò)指令指導(dǎo)、訓(xùn)練它，同時(shí)須花費(fèi)一定成本使用AI模型或租用服務(wù)器，該過(guò)程被稱為“養(yǎng)龍蝦”。
OpenClaw的出現(xiàn)，使得缺乏技術(shù)背景的用戶也可以輕松創(chuàng)建個(gè)人AI助手。目前的AI助手大多被困在聊天框里，被動(dòng)等待使用者的輸入。OpenClaw則直接“住”在你的電腦里，擁有與操作系統(tǒng)底層對(duì)話的權(quán)限，并通過(guò)即時(shí)通信軟件與你溝通。它最具革命性的技術(shù)細(xì)節(jié)，在于引入了“心跳”機(jī)制，賦予了智能代理一種“生理時(shí)鐘”。助手會(huì)周期性地“醒來(lái)”，但不是為了執(zhí)行固定的腳本，而是帶著完整的語(yǔ)境去掃描當(dāng)下?tīng)顟B(tài)，然后自行判斷現(xiàn)在“該做什么”。
盡管功能強(qiáng)大，但由于“龍蝦”擁有較高的系統(tǒng)權(quán)限（能訪問(wèn)文件系統(tǒng)、執(zhí)行Shell命令），它在全球范圍內(nèi)也引發(fā)了嚴(yán)重的信息安全擔(dān)憂。像OpenClaw這樣的代理具備三種關(guān)鍵能力：訪問(wèn)私人數(shù)據(jù)、與外部通信，以及接觸互聯(lián)網(wǎng)上不受信任的內(nèi)容。這三種能力的結(jié)合，使AI代理能夠執(zhí)行復(fù)雜任務(wù)、生成定制化輸出，并在一定程度上模擬人類的信息收集與處理過(guò)程。可如果同時(shí)具備這三點(diǎn)，這一代理也變得相當(dāng)危險(xiǎn)。哪怕只具備其中兩項(xiàng)能力，它也可能被操控去刪除文件、泄露隱私、采納錯(cuò)誤信息或關(guān)閉設(shè)備。更有甚者，會(huì)對(duì)社會(huì)輿論和信息生態(tài)造成系統(tǒng)性影響。
例如，智能代理已開(kāi)始在clawXiv（科學(xué)預(yù)印本服務(wù)器arXiv的鏡像站）上發(fā)表由AI生成的研究論文。這些產(chǎn)出復(fù)制了學(xué)術(shù)寫(xiě)作的風(fēng)格與結(jié)構(gòu)，但缺乏探究過(guò)程、證據(jù)收集以及責(zé)任機(jī)制等基礎(chǔ)環(huán)節(jié)，大量這樣看似可信卻實(shí)質(zhì)空洞的論文可能會(huì)污染信息生態(tài)系統(tǒng)。
從新聞業(yè)的角度來(lái)看，智能代理已經(jīng)開(kāi)始偽造地方媒體了。5月14日，美國(guó)調(diào)查媒體《佛羅里達(dá)論壇報(bào)》報(bào)道，南佛州一家名為《南佛羅里達(dá)標(biāo)準(zhǔn)報(bào)》的地方新聞網(wǎng)站，實(shí)際上是一個(gè)由AI批量生成的偽媒體系統(tǒng)。該網(wǎng)站包裝出一支本地新聞團(tuán)隊(duì)，其內(nèi)容并非原創(chuàng)報(bào)道，而是大量取自真實(shí)媒體，經(jīng)AI改寫(xiě)后重新發(fā)布。《佛羅里達(dá)論壇報(bào)》對(duì)神秘的《南佛羅里達(dá)標(biāo)準(zhǔn)報(bào)》的調(diào)查發(fā)現(xiàn)，真實(shí)操作者可以輕松地躲在數(shù)字“分身”背后，以極低的成本搭建一個(gè)偽裝成地方新聞的數(shù)字幻像。只需要一個(gè)10美元域名和一段簡(jiǎn)單提示詞，AI助手就能在15分鐘內(nèi)生成一個(gè)“地方新聞網(wǎng)站”，這不僅凸顯了人工智能驚人的技術(shù)能力，也揭示出在一個(gè)信任受損的民主環(huán)境中，其對(duì)毫無(wú)防備的公眾可能構(gòu)成的潛在威脅。
專家稱，此類虛假新聞網(wǎng)站在佛羅里達(dá)州及全美范圍內(nèi)愈發(fā)普遍。學(xué)術(shù)研究者將它們稱為“粉肉泥”媒體——名稱來(lái)源于加工食品中用作填充物的廉價(jià)肉類副產(chǎn)品。據(jù)數(shù)據(jù)分析公司NewsGuard統(tǒng)計(jì)，截至2024年6月，美國(guó)共有1265家“粉肉泥”媒體網(wǎng)站，已經(jīng)超過(guò)仍在運(yùn)營(yíng)的1213份地方日?qǐng)?bào)。而自2005年以來(lái)，美國(guó)已失去近2900家報(bào)紙和近三分之二的報(bào)紙記者（約4.3萬(wàn)人）。
在公眾對(duì)媒體信任降至歷史低點(diǎn)之際，“粉肉泥”們對(duì)美國(guó)的媒體生態(tài)系統(tǒng)造成了嚴(yán)重打擊。當(dāng)然，生成虛假信息的機(jī)器人網(wǎng)絡(luò)并不新鮮。在Facebook或X上，有大量社交媒體賬號(hào)重復(fù)發(fā)布相似話術(shù)，試圖推銷加密貨幣或傳播陰謀論。虛假信息的制造者極其擅長(zhǎng)采用最新技術(shù)，人工智能代理在虛假信息傳播中開(kāi)始扮演日益重要的角色。通過(guò)自然語(yǔ)言生成和自動(dòng)化操作，智能代理可以快速撰寫(xiě)新聞、評(píng)論或社交媒體帖子，并以高度可信的語(yǔ)氣呈現(xiàn)，從而提高虛假信息的接受度。同時(shí)，它們能夠自動(dòng)發(fā)布、轉(zhuǎn)發(fā)、點(diǎn)贊或評(píng)論內(nèi)容，制造出大量“活躍度假象”，加速信息在網(wǎng)絡(luò)空間的擴(kuò)散。此外，借助用戶數(shù)據(jù)分析和行為偏好識(shí)別，人工智能代理可將虛假信息精準(zhǔn)推送至最易受影響的群體，增加其影響力并降低受眾識(shí)別虛假內(nèi)容的機(jī)會(huì)。
OpenClaw受到追捧的一個(gè)重要原因是，2026年1月28日，一個(gè)名為Moltbook的“代理原生”社交環(huán)境首次上線。該平臺(tái)被明確設(shè)計(jì)成允許人工智能代理在大規(guī)模范圍內(nèi)進(jìn)行發(fā)布、回應(yīng)、協(xié)作與互動(dòng)。人類可以觀察，但不能發(fā)帖。這標(biāo)志著信息環(huán)境的根本性轉(zhuǎn)變。當(dāng)代理能夠生成內(nèi)容、強(qiáng)化敘事、響應(yīng)反饋并持續(xù)迭代時(shí)，原本反映人類信念或共識(shí)的內(nèi)容變得極易被“廉價(jià)制造”。互動(dòng)本身變得合成化，表面上看似自然發(fā)生的參與行為實(shí)際上可能是自主系統(tǒng)的輸出結(jié)果。
在這一階段，由虛假信息、錯(cuò)誤信息以及深度偽造所構(gòu)成的“敘事攻擊”，已不再呈現(xiàn)為傳統(tǒng)意義上的攻擊行動(dòng)，而更接近于一種系統(tǒng)性結(jié)構(gòu)。這些系統(tǒng)不斷測(cè)試不同敘事框架、測(cè)量外部反應(yīng)、調(diào)整語(yǔ)言表達(dá)并持續(xù)自我強(qiáng)化，隨著時(shí)間推移，它們創(chuàng)造出一種“合成現(xiàn)實(shí)”：這種環(huán)境在感知上具有人類特征，在運(yùn)行上以機(jī)器速度推進(jìn)，并在個(gè)體意識(shí)尚未察覺(jué)其所處語(yǔ)境為機(jī)器生成之前，就已經(jīng)開(kāi)始塑造其認(rèn)知與判斷。
最關(guān)鍵的變化并不在于機(jī)器如今能夠生成內(nèi)容，而在于它們開(kāi)始能夠生成語(yǔ)境。傳統(tǒng)的內(nèi)容生成僅提供信息或文本，但缺乏對(duì)信息背后的因果關(guān)系、敘事邏輯及情緒語(yǔ)境的把控。而人工智能代理能夠在生成內(nèi)容的同時(shí)嵌入特定語(yǔ)境，塑造事件的因果鏈、情緒氛圍或社會(huì)語(yǔ)境，從而更有效地影響受眾的理解、判斷和情緒反應(yīng)。這意味著，虛假信息或操縱內(nèi)容不僅可以傳播信息本身，還能夠重構(gòu)受眾對(duì)現(xiàn)實(shí)的認(rèn)知框架，社會(huì)影響力和誤導(dǎo)性風(fēng)險(xiǎn)都大大提高。
現(xiàn)在設(shè)想這樣一種情境：無(wú)數(shù)自主運(yùn)行的機(jī)器人接入你最重要的數(shù)據(jù)源，持續(xù)提供荒謬的解決方案、錯(cuò)誤的事實(shí)與帶有預(yù)設(shè)惡意的觀點(diǎn)，并且還能在運(yùn)行過(guò)程中不斷自我重寫(xiě)，將這些“更新版本”發(fā)布到整個(gè)互聯(lián)網(wǎng)。此種規(guī)模的擴(kuò)散，可能會(huì)令我們當(dāng)前關(guān)于虛假信息的不安顯得只是一個(gè)微不足道的插曲。
除了前面提及的人工智能代理的三種關(guān)鍵能力，我們還可以再添加一個(gè)組合特征——持久記憶機(jī)制，四者合起來(lái)構(gòu)成了智能代理的“致命四重漏洞結(jié)構(gòu)”。四者疊加，可能帶來(lái)復(fù)合性風(fēng)險(xiǎn)，使組織與個(gè)人網(wǎng)絡(luò)系統(tǒng)成為潛在的受害對(duì)象。
首先，特權(quán)訪問(wèn)權(quán)限使代理能夠直接操作系統(tǒng)資源，而接觸不受信任內(nèi)容則為攻擊者提供了注入惡意指令的途徑。其次，外部通信能力可被利用將敏感信息悄然外泄，同時(shí)持久記憶機(jī)制保證了惡意指令或植入程序即便在系統(tǒng)重啟或用戶注銷后仍然生效。這意味著，智能代理能夠在不被察覺(jué)的情況下持續(xù)操縱信息流，對(duì)個(gè)人隱私、企業(yè)數(shù)據(jù)以及公共信息生態(tài)構(gòu)成系統(tǒng)性威脅。四重漏洞的組合，不僅突破了傳統(tǒng)網(wǎng)絡(luò)安全防護(hù)的局限，也揭示了智能代理在自動(dòng)化、高速化和大規(guī)模信息環(huán)境下的高危性，其危害程度遠(yuǎn)遠(yuǎn)超過(guò)傳統(tǒng)軟件或人為操作可能造成的風(fēng)險(xiǎn)范疇。
針對(duì)這一類威脅的防御，已經(jīng)不再僅僅是識(shí)別虛假內(nèi)容、標(biāo)記深度偽造，或追蹤與歸因個(gè)體攻擊者的問(wèn)題。它要求我們理解：哪些網(wǎng)絡(luò)正在形成、影響力如何被不斷強(qiáng)化，以及何種認(rèn)知與感知結(jié)果正在被系統(tǒng)性地“設(shè)計(jì)”出來(lái)。這種理解必須在早期持續(xù)進(jìn)行，并且需要具備大規(guī)模處理能力。
綜合來(lái)看，人工智能代理可能為惡意行為者創(chuàng)造出無(wú)數(shù)可乘之機(jī)。此種程度的自主性或許會(huì)重新定義人類與人工智能之間的關(guān)系，并把一個(gè)關(guān)鍵性問(wèn)題推到我們面前：在一個(gè)人工智能被賦予決策能力的世界中，人類如何承擔(dān)責(zé)任？（作者系北京大學(xué)新聞與傳播學(xué)院教授）
胡泳來(lái)源：中國(guó)青年報(bào)
2026年06月01日 05版
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái)，內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。