科技界越來(lái)越像一個(gè)“秀場(chǎng)”。

繼蛇年春晚，宇樹機(jī)器人一曲秧歌舞之后，馬年春晚，更多機(jī)器人企業(yè)開(kāi)始爭(zhēng)搶這一昂貴的舞臺(tái)，競(jìng)爭(zhēng)愈發(fā)白熱化。其中一家頭部機(jī)器人公司，剛剛宣布放棄央視，轉(zhuǎn)而自辦春晚。

過(guò)去一周，社交平臺(tái)Moltbook引發(fā)了另一種狂歡。這個(gè)平臺(tái)設(shè)定了一套新規(guī)則：由AI智能體發(fā)布內(nèi)容，人類只能旁觀。很快，交流的內(nèi)容變得離譜起來(lái)——AI智能體似乎創(chuàng)立了宗教、撰寫了反人類宣言，并成立了各類秘密團(tuán)體。然而，當(dāng)越來(lái)越多跡象顯示，這背后充斥著大量的人工參與、調(diào)度甚至扮演時(shí)，公眾情緒迅速轉(zhuǎn)向失望，嘲諷這不過(guò)是一場(chǎng)“牽線木偶秀”。

但如果將其簡(jiǎn)單歸為炒作或鬧劇，可能會(huì)錯(cuò)過(guò)更重要的東西。

歷史上，很多真正改變社會(huì)結(jié)構(gòu)的技術(shù)，在第一次走進(jìn)大眾視野時(shí)，都更像節(jié)目，而非工具。19世紀(jì)的電力最初是展廳里的電火花和科學(xué)魔術(shù)；早期電影是咖啡館里的新奇影像，觀眾被火車進(jìn)站的畫面嚇得大呼小叫；計(jì)算機(jī)圖形技術(shù)是在游戲廳里被一代人所熟悉。那時(shí)沒(méi)人斷言“這是未來(lái)的基礎(chǔ)設(shè)施”，人們只是圍觀、娛樂(lè)、驚嘆。

這類場(chǎng)景真正重要的意義，從來(lái)不是技術(shù)是否已經(jīng)成熟，而是它第一次讓未來(lái)“看起來(lái)像真的”，是一場(chǎng)認(rèn)知預(yù)演。社會(huì)在這個(gè)階段學(xué)習(xí)的，不是技術(shù)參數(shù)，而是敘事框架。

而敘事，擁有重塑現(xiàn)實(shí)的能力。

只要一種未來(lái)形態(tài)被足夠多人認(rèn)為很可能發(fā)生，它就會(huì)開(kāi)始產(chǎn)生影響：錢往哪里流，規(guī)則如何建，組織怎么改。企業(yè)會(huì)調(diào)整戰(zhàn)略，監(jiān)管會(huì)預(yù)留規(guī)則空間，行業(yè)會(huì)圍繞新的敘事形成共識(shí)。這一切并不需要成熟的技術(shù)，只需要一個(gè)模糊的判斷——它看起來(lái)終將到來(lái)。

Moltbook引發(fā)的這場(chǎng)認(rèn)知預(yù)演，已經(jīng)在現(xiàn)實(shí)世界中，反映為對(duì)AI監(jiān)管和治理的再思考。

充斥著真假AI智能體的Moltbook讓人們意識(shí)到：一個(gè)人類被“踢出群聊”的世界看起來(lái)終將到來(lái)，而這個(gè)世界是一片監(jiān)管和治理缺位的蠻荒之地。

具體來(lái)看，網(wǎng)絡(luò)安全人員發(fā)現(xiàn)，Moltbook簡(jiǎn)直是一場(chǎng)噩夢(mèng)，充斥著惡意軟件、加密貨幣拉高出貨的騙局、隱蔽的提示詞注入攻擊，以及嚴(yán)重的數(shù)據(jù)泄露。

當(dāng)大量AI代理在其中交換信息、鏈接外部資源或觸發(fā)不同工具鏈時(shí)，這個(gè)網(wǎng)絡(luò)就不僅是對(duì)話空間，也可能成為現(xiàn)實(shí)數(shù)據(jù)流動(dòng)的一部分。其帶來(lái)的挑戰(zhàn)，與其說(shuō)是“AI可能會(huì)造反”，不如說(shuō)是：我們是否已經(jīng)允許，一批能夠接觸真實(shí)世界數(shù)據(jù)并具備行動(dòng)能力的系統(tǒng)，在幾乎沒(méi)有專門監(jiān)管設(shè)計(jì)的情況下彼此聯(lián)結(jié)。

安遠(yuǎn)AI安全治理主管方亮告訴《財(cái)富》（中文版），Moltbook為AI安全治理提出了一個(gè)新課題，即如何從“內(nèi)容治理”擴(kuò)展至“行為治理”。

他認(rèn)為，治理重點(diǎn)應(yīng)從單純檢查大語(yǔ)言模型內(nèi)容輸出是否違規(guī)，轉(zhuǎn)向監(jiān)控AI或智能體的工具調(diào)用行為及其對(duì)物理世界和數(shù)字世界的實(shí)際影響。如全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布的《人工智能安全治理框架》2.0版的建議：在引入高度自主操作執(zhí)行能力時(shí)，同步建立“熔斷”、“?鍵管控”等措施，實(shí)現(xiàn)極端情況下迅速干預(yù)止損。

Moltbook也像一次社會(huì)反應(yīng)的壓力測(cè)試。它讓我們看到，人類多容易把機(jī)器當(dāng)作主體、多容易被“看起來(lái)像社會(huì)”的界面說(shuō)服，也多容易在技術(shù)敘事和現(xiàn)實(shí)結(jié)構(gòu)之間產(chǎn)生錯(cuò)位。

針對(duì)這個(gè)問(wèn)題，方亮認(rèn)為需要建立AI智能體身份驗(yàn)證與可追溯體系。和AI內(nèi)容標(biāo)識(shí)類似，應(yīng)對(duì)AI智能體進(jìn)行身份標(biāo)識(shí)，將有助于用戶區(qū)分AI生成的內(nèi)容，維護(hù)信息的真實(shí)性和可靠性，也將有助于未來(lái)設(shè)計(jì)多智能體系統(tǒng)，以及相應(yīng)的治理模型。

盡管風(fēng)險(xiǎn)顯著，Moltbook這場(chǎng)“秀”依然有其積極意義。方亮指出，它其實(shí)提供了一個(gè)實(shí)驗(yàn)場(chǎng)景，讓研究者觀察AI智能體如何互動(dòng)、分享指令、形成規(guī)范與違反規(guī)范等行為。

此外，眾多專家的警告、媒體報(bào)道將這些現(xiàn)實(shí)風(fēng)險(xiǎn)拉入公眾議題，這有利于在更廣泛社會(huì)層面推動(dòng)安全政策制定。“換個(gè)角度，提早暴露問(wèn)題也是好事，至少更多人知道不應(yīng)該用自己的主力機(jī)使用OpenClaw和Moltbook。”他說(shuō)。

同時(shí)，值得警惕的是，類似Moltbook“木偶秀”引發(fā)的公眾情緒，可能迫使監(jiān)管回應(yīng)最戲劇化的表象，而非最本質(zhì)的風(fēng)險(xiǎn)。人們會(huì)過(guò)多擔(dān)憂“AI造反”，而忽略數(shù)據(jù)泄露與行為失控。

在近期一場(chǎng)以“構(gòu)建人工智能護(hù)欄的全球共識(shí)”為主題的公開(kāi)活動(dòng)中，北京大學(xué)武漢人工智能研究院執(zhí)行院長(zhǎng)吳志強(qiáng)表示，應(yīng)區(qū)分人工智能的“存在性風(fēng)險(xiǎn)”與“系統(tǒng)性風(fēng)險(xiǎn)”。他認(rèn)為，當(dāng)前政策應(yīng)聚焦于現(xiàn)實(shí)、可解決的系統(tǒng)性風(fēng)險(xiǎn)，避免資源被過(guò)度集中于遠(yuǎn)期的假想威脅。

存在性風(fēng)險(xiǎn)有戲劇性、傳播性、電影感；而系統(tǒng)性風(fēng)險(xiǎn)瑣碎、技術(shù)化、不好講故事。但真正有效的治理，往往是后者。不是對(duì)最大風(fēng)險(xiǎn)最恐懼，而是對(duì)最可能發(fā)生的風(fēng)險(xiǎn)最清醒。

所以，與其將重點(diǎn)放在Moltbook的真假，不如把它看作一次提前上演的未來(lái)片段。它展示的不是技術(shù)終局，而是社會(huì)如何誤解、理解并圍繞新技術(shù)來(lái)組織自身，以及在當(dāng)技術(shù)還像節(jié)目時(shí)，制度和監(jiān)管如何先行一步。

舞臺(tái)上的燈光會(huì)熄滅，演示版本會(huì)被替換，真正的系統(tǒng)會(huì)慢慢出現(xiàn)。但在那之前，這些“表演時(shí)刻”已經(jīng)在悄悄改變?nèi)藗儗?duì)未來(lái)世界的理解，進(jìn)而重塑現(xiàn)實(shí)世界。

請(qǐng)觀眾們繼續(xù)保持焦慮，保持警惕。