我們每天刷到的內(nèi)容里，有多少是真實(shí)的記錄，又有多少是AI的產(chǎn)物？當(dāng)一張圖片、一段視頻可以輕易被生成，我們還能靠什么去判斷？當(dāng)技術(shù)可以偽造一切，我們還能相信什么？又該靠什么去相信……

3月28日下午，一場主題為“眼見非實(shí)·我心為尺”的AI系列主題開放日活動在上海楊浦V聚場舉行。作為“清朗浦江·2026”網(wǎng)絡(luò)生態(tài)治理旬的重要活動之一，這場活動沒有停留在對AI技術(shù)的簡單褒貶，而是試圖將“真實(shí)”這個(gè)被反復(fù)討論卻日益模糊的概念，重新放回每個(gè)人的手中。

活動由嗶哩嗶哩與楊浦V聚場聯(lián)合主辦，上海市人大代表潘敬芳、林和春，上海市政協(xié)委員方建安，來自主辦方以及學(xué)界、業(yè)界共計(jì)60余人在近3個(gè)小時(shí)的碰撞中，共同面對同一個(gè)追問：當(dāng)AI可以生成以假亂真的圖像、聲音時(shí)，我們該如何守護(hù)一個(gè)清朗、真實(shí)的網(wǎng)絡(luò)空間。

“AI會產(chǎn)”三特點(diǎn)：低成本、高效率、難追蹤

作為長期在B站分享AI科普的創(chuàng)作者，UP主“Git源寶”將AI偽造的三種主要形式——聲音克隆、AI換臉、AI造謠——逐一拆解。

“Git源寶”現(xiàn)場分享了一個(gè)真實(shí)案例：某公司財(cái)務(wù)接到“領(lǐng)導(dǎo)”的視頻通話，說要轉(zhuǎn)一筆錢。畫面里的“領(lǐng)導(dǎo)”坐在辦公室里，表情自然，嘴唇動作和聲音也對得上。財(cái)務(wù)于是就按照“領(lǐng)導(dǎo)”的要求完成轉(zhuǎn)賬。結(jié)果證實(shí)這段視頻通話里領(lǐng)導(dǎo)的臉和聲音全是AI合成的，犯罪分子根本沒有盜號，就是用幾張照片和幾段語音，實(shí)時(shí)生成了一個(gè)假“領(lǐng)導(dǎo)”。

“更可怕的是，這些東西太容易做了。以前造假需要團(tuán)隊(duì)、需要技術(shù)、需要成本?，F(xiàn)在呢？一個(gè)普通人，花幾十塊錢買個(gè)軟件，幾分鐘就能生成一段以假亂真的視頻。”“Git源寶”稱，目前AI會產(chǎn)已具備低成本、高效率、難追蹤三個(gè)特點(diǎn)。

如何預(yù)防和識別AI詐騙？“Git源寶”給出了三招簡單好記的方法：慢、問、查。

“慢”——制造信息差。AI詐騙最大的特點(diǎn)就是制造“緊急感”。只要在電話、微信里聽到“急、快、別告訴別人、轉(zhuǎn)賬”這四個(gè)關(guān)鍵詞，我們需要條件反射地告訴自己：停！掛斷電話，回?fù)芤粋€(gè)電話。那個(gè)AI的臨時(shí)通話鏈路，瞬間就斷了。

“問”——設(shè)置暗號。我們可以和家人商量一個(gè)“家庭暗號”，比如“咱們家那只貓叫什么名字？”或者“我們上次吵架是因?yàn)槭裁矗俊边@種涉及隱私且非公開的信息，是AI無法通過大數(shù)據(jù)抓取到的。

“查”——尋找穿幫鏡頭，查找多個(gè)信息源。AI畫人像經(jīng)常手指數(shù)量不對，要么六根手指，要么手指扭曲。如果對方讓你轉(zhuǎn)賬，我們可以讓他“摸一下鼻子”“轉(zhuǎn)頭看看側(cè)面”——目前大部分的AI實(shí)時(shí)換臉，在處理大幅度動作和面部遮擋時(shí)，都會出現(xiàn)邊緣閃爍、皮膚紋理不自然的情況。

“AI會讓真正有價(jià)值的內(nèi)容越來越少”

AI對MCN行業(yè)的沖擊，遠(yuǎn)比外界想象的要深刻。

活動現(xiàn)場，月鷺文化內(nèi)容主編楊付博杰表示，隨著AI的不斷應(yīng)用和普及，MCN行業(yè)里的很多“潛規(guī)則”和結(jié)構(gòu)性問題被不斷放大。

楊付博杰表示，“洗稿”和“信息搬運(yùn)”在MCN行業(yè)一直存在，只是以前成本高?，F(xiàn)在用AI，幾分鐘就可以生成一篇“看起來完全不一樣”的內(nèi)容?！按蠹铱雌饋矶荚谧霾煌膬?nèi)容，但本質(zhì)上講的都是同一套東西。時(shí)間久了，觀眾也會疲勞的。而且對于做深度內(nèi)容的人來說，這是一個(gè)很現(xiàn)實(shí)的沖擊，你花三天查資料做出來的東西，別人用AI可能半天就能復(fù)刻一個(gè)大概。那你還要不要繼續(xù)做深度？”

“很多人會覺得，AI讓內(nèi)容生產(chǎn)更容易，未來內(nèi)容會越來越多。但從我們的觀察來看，真正有價(jià)值的內(nèi)容，反而可能會變少?！睏罡恫┙苷f。

復(fù)旦大學(xué)可信具身智能研究院青年研究員馬興軍則將討論從行業(yè)實(shí)踐拉升到學(xué)術(shù)思辨?；顒蝇F(xiàn)場，馬興軍以“龍蝦風(fēng)暴”為喻，梳理了AI智能體的前世今生。他表示，當(dāng)AI開始具備一定的決策與交互能力時(shí)，內(nèi)容平臺面臨的治理挑戰(zhàn)也將從“內(nèi)容真?zhèn)巍睌U(kuò)展到“行為邊界”。

由上海市委網(wǎng)信辦主辦的“清朗浦江·2026”網(wǎng)絡(luò)生態(tài)治理旬，于2026年3月20日啟動。今年治理旬以“網(wǎng)聚民心，攜手共筑良好生態(tài)”為主題，會同有關(guān)部門、各區(qū)、互聯(lián)網(wǎng)企業(yè)集中推出40多項(xiàng)形式多樣的主題日、平臺開放日、校園日活動，并創(chuàng)新舉辦“清朗集市”，廣泛動員各方力量參與網(wǎng)絡(luò)生態(tài)治理，充分體現(xiàn)“監(jiān)管有行動、企業(yè)有擔(dān)當(dāng)、網(wǎng)民有參與、社會有共識”的良好氛圍。