漫畫/高岳

近日，安徽一名女子使用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)送給在外聚餐的丈夫，本想測(cè)試其反應(yīng)，不料丈夫信以為真，當(dāng)即報(bào)警求助。

民警現(xiàn)場(chǎng)核實(shí)情況，確認(rèn)是虛假信息，對(duì)該女子的行為進(jìn)行了提醒：“AI技術(shù)生成的內(nèi)容雖逼真，但以此制造恐慌并引發(fā)警方出警，屬于浪費(fèi)公共資源的行為?！?/p>

類似由AI生成圖片引發(fā)的“烏龍事件”并非個(gè)例：廣東廣州某小區(qū)業(yè)主的孩子用AI生成圖片后發(fā)給父母稱“流浪漢試圖闖進(jìn)家門”，圖片被轉(zhuǎn)到業(yè)主群后引起樓棟業(yè)主恐慌；近日，多名電商平臺(tái)賣家曝光，有消費(fèi)者利用AI工具生成商品變質(zhì)、損壞的圖片，以此申請(qǐng)“僅退款”；山東威海網(wǎng)民張某為博取關(guān)注，使用AI工具編造“在監(jiān)獄直播帶貨”圖片的謠言信息并發(fā)布，引發(fā)大量網(wǎng)民關(guān)注討論，張某因擾亂公共秩序已被公安機(jī)關(guān)處以行政處罰。

今年9月1日，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式實(shí)施，要求人工智能生成合成內(nèi)容應(yīng)當(dāng)通過顯著標(biāo)識(shí)、數(shù)字水印等方式進(jìn)行顯式與隱式標(biāo)注，以保障內(nèi)容的可識(shí)別性。這標(biāo)志著，AI生成內(nèi)容全面進(jìn)入“持證上崗”時(shí)代。

然而，《法治日?qǐng)?bào)》記者近日對(duì)多個(gè)主流平臺(tái)展開的調(diào)查顯示，新規(guī)落地效果參差不齊，仍有大量未標(biāo)識(shí)內(nèi)容在各大平臺(tái)持續(xù)傳播。這些愈發(fā)逼真的AI生成圖無標(biāo)識(shí)“裸奔”，使“有圖有真相”的傳統(tǒng)認(rèn)知面臨挑戰(zhàn)，公眾難辨真?zhèn)巍?/p>

AI圖片“隨心定制”

記者在調(diào)查中發(fā)現(xiàn)，如今網(wǎng)絡(luò)上存在多款A(yù)I制圖軟件，一些社交平臺(tái)甚至自帶AI生成圖功能。只需上傳相關(guān)人物、背景素材，輸入一句指令，短短幾秒便能生成一張幾可亂真的AI圖片，還可隨意按照個(gè)人喜好對(duì)圖片的細(xì)節(jié)和內(nèi)容進(jìn)行調(diào)整。

受訪專家指出，如今AI生成圖片或視頻已很難從面部表情、肢體結(jié)構(gòu)等方面識(shí)別真?zhèn)?，如果不?duì)內(nèi)容作顯著標(biāo)識(shí)，很容易讓人信以為真。

為調(diào)查平臺(tái)與創(chuàng)作者對(duì)AI生成內(nèi)容的實(shí)際標(biāo)注情況，記者在一周時(shí)間內(nèi)于6個(gè)主流短視頻平臺(tái)及社交平臺(tái)的推薦頁(yè)面，分別隨機(jī)瀏覽并記錄了100條AI生成或高度疑似AI生成的視頻內(nèi)容，并就其標(biāo)注情況展開記錄。

經(jīng)統(tǒng)計(jì)，在隨機(jī)瀏覽的視頻中，約有60%的視頻附有作者主動(dòng)標(biāo)注的AI創(chuàng)作聲明；約30%雖未獲作者標(biāo)注，但被平臺(tái)在顯著位置標(biāo)識(shí)為“內(nèi)容可能為AI生成”。然而，在各大平臺(tái)中，仍有部分高度疑似AI生成的視頻，既無作者標(biāo)識(shí)，也無平臺(tái)提示。

以某短視頻平臺(tái)一個(gè)擁有30多萬(wàn)名粉絲的賬號(hào)為例，其發(fā)布的內(nèi)容多以萌寵、兒童和農(nóng)村生活為主題。其置頂?shù)?條視頻，內(nèi)容均呈現(xiàn)明顯的AI生成痕跡：小狗輕易撞破機(jī)場(chǎng)玻璃；行李箱的顏色瞬間變化；數(shù)十名長(zhǎng)相雷同、頭身比例嚴(yán)重失調(diào)的嬰兒一邊走一邊喊“奶奶”。然而，其中僅1條在視頻右下角有AI創(chuàng)作標(biāo)識(shí)。

在該賬號(hào)的首頁(yè)介紹中，明確附有其私人社交賬號(hào)，并注明“可學(xué)習(xí)教學(xué)”。記者添加該賬號(hào)私聊咨詢后，對(duì)方承認(rèn)所有內(nèi)容均為AI生成，并表示“120元即可獲取提示詞以及全套教程，包教包會(huì)”“制作一條AI視頻僅需十幾分鐘”。

靠AI生成內(nèi)容引流賣貨

此外，AI生成內(nèi)容也被用于引流與商業(yè)推廣。

“在××（地名），女兒已經(jīng)過上了普通人里最好的生活”。近日，在某社交平臺(tái)中，記者頻繁刷到以此為標(biāo)題的帖文。不同的帖文中，這個(gè)地名被換成北京、長(zhǎng)沙、珠海等不同城市。

在這些帖文中，孩子父母的“人設(shè)”高度一致：爸爸做生意、媽媽在國(guó)企工作，父母學(xué)歷均為985本/碩。雖然是不同賬號(hào)發(fā)布的內(nèi)容，但文案幾乎完全雷同，均為教育經(jīng)驗(yàn)分享或情感激勵(lì)類內(nèi)容，極易引發(fā)家長(zhǎng)群體的共鳴。

這類帖文的配圖普遍采用父母和孩子在校門前或景點(diǎn)前的合照。盡管賬號(hào)的IP地址顯示在不同地區(qū)，且背景不斷變化，但畫面中父母和孩子的形象高度一致。

同一張臉、同一個(gè)家庭，卻有多段“精彩人生”？記者下載相關(guān)帖文照片后發(fā)送給多個(gè)AI軟件詢問“是否為真實(shí)圖片”，得出的結(jié)論是“背景元素存在邏輯沖突、人物細(xì)節(jié)有AI特征，高度疑似AI生成圖”。

然而，平臺(tái)并未對(duì)這些圖片添加提示AI生成的相關(guān)內(nèi)容，圖片本身也未包含任何水印標(biāo)注。

記者進(jìn)一步觀察發(fā)現(xiàn)，這些賬號(hào)用AI生成圖塑造“成功家庭”形象的目的實(shí)為兜售課程。在某賬號(hào)發(fā)布的帖文中，其表示“成功家庭”的核心秘訣是孩子的教育，進(jìn)而圍繞塑造孩子數(shù)學(xué)思維，展開長(zhǎng)篇論述。評(píng)論區(qū)內(nèi)不少網(wǎng)友留言“求推數(shù)學(xué)思維課”。記者咨詢后，對(duì)方發(fā)來某數(shù)學(xué)課程商家賬號(hào)，該賬號(hào)經(jīng)營(yíng)的店鋪內(nèi)售賣標(biāo)價(jià)為5450元的新數(shù)理課程。

值得注意的是，部分賬號(hào)的主頁(yè)直接關(guān)聯(lián)某些線上教育機(jī)構(gòu)的官方賬號(hào)，并在后綴標(biāo)注“產(chǎn)品體驗(yàn)官”“規(guī)劃師”等身份標(biāo)識(shí)。這類綁定關(guān)系顯示出其內(nèi)容與商業(yè)推廣間的明確關(guān)聯(lián)，客觀上構(gòu)成軟性廣告，但大多數(shù)家長(zhǎng)往往難以辨別其營(yíng)銷性質(zhì)。

除此之外，AI生成技術(shù)也被廣泛應(yīng)用于直播帶貨與商品展示。

某社交平臺(tái)部分穿搭博主賬號(hào)分享的內(nèi)容中，AI生成特征較為明顯：背景雜志上的人物和標(biāo)題多為亂碼、電梯場(chǎng)景中樓層按鈕明顯失真，并非真人實(shí)穿。然而，平臺(tái)和博主均無任何關(guān)于AI生成的標(biāo)注，博主還會(huì)通過評(píng)論區(qū)與用戶積極互動(dòng)：當(dāng)粉絲詢問服裝鏈接時(shí)，博主會(huì)直接引導(dǎo)至商品櫥窗；對(duì)于涉及身高、體重等個(gè)人特征的問題，博主也未提示任何AI生成屬性。

在某購(gòu)物平臺(tái)上，多家銷售睡蓮的店鋪均使用相同的商品宣傳圖，圖片呈現(xiàn)明顯的AI制作特征：背景失真、花朵呈半透明狀。相關(guān)商品的買家評(píng)論最多達(dá)7萬(wàn)余條，而其評(píng)論區(qū)卻幾乎未見成功開花的反饋。在偶有的一些開花圖片中，花朵數(shù)量和形態(tài)也與宣傳圖相差甚遠(yuǎn)。而上述商品宣傳圖中，均未出現(xiàn)AI生成圖片的相應(yīng)提示。

去標(biāo)識(shí)就能“騙”過平臺(tái)

為驗(yàn)證平臺(tái)對(duì)AI內(nèi)容的識(shí)別能力，記者購(gòu)買了一款宣稱“可去除品牌水印”的某AI軟件會(huì)員，使用該軟件可生成視頻并進(jìn)行去水印處理。隨后，記者將有水印與無水印版本同時(shí)發(fā)布于4個(gè)主流社交平臺(tái)，且均未主動(dòng)標(biāo)注AI創(chuàng)作。

調(diào)查結(jié)果顯示，上述平臺(tái)對(duì)有水印的版本均作出“含AI生成內(nèi)容”的標(biāo)識(shí)，對(duì)于無水印內(nèi)容，僅有一個(gè)平臺(tái)在后期補(bǔ)充了AI內(nèi)容標(biāo)識(shí)，并在后臺(tái)私信發(fā)來風(fēng)險(xiǎn)提示外，其余平臺(tái)均無提示。

為驗(yàn)證AI生成內(nèi)容標(biāo)識(shí)系統(tǒng)的實(shí)際有效性，記者對(duì)當(dāng)前市面6款使用人數(shù)較多的生圖軟件展開調(diào)查。結(jié)果顯示，雖然在內(nèi)容生成時(shí)全部默認(rèn)標(biāo)注水印，但有些軟件只要充值成為“高級(jí)會(huì)員”，即可解鎖“去水印”功能。

此外，市面上存在多家提供低價(jià)去水印服務(wù)的商家。其中一款售價(jià)6元、宣傳“終身包更新”的軟件包，明確提示可去除圖片與視頻中的各類水印，并且不限使用時(shí)間和次數(shù)。

記者購(gòu)買了該安裝包進(jìn)行實(shí)測(cè)，在按照要求完成軟件安裝后，發(fā)現(xiàn)僅需對(duì)水印位置進(jìn)行簡(jiǎn)單涂抹，即可完整去除AI標(biāo)識(shí)，且不破壞畫面整體效果。隨后，記者將去水印后的圖片上傳至4個(gè)社交平臺(tái)進(jìn)行驗(yàn)證，結(jié)果顯示，這些原本帶有AI水印的內(nèi)容，在去除水印后均未觸發(fā)任何平臺(tái)的AI生成提示機(jī)制。

受訪專家認(rèn)為，平臺(tái)在AI內(nèi)容標(biāo)識(shí)的落地執(zhí)行方面還有很大的提升空間。不少網(wǎng)友把使用AI生成圖視為娛樂或惡作劇，卻忽視了背后可能存在擾亂社會(huì)治安、引發(fā)恐慌的風(fēng)險(xiǎn)。因此，在完善技術(shù)監(jiān)管機(jī)制的同時(shí)，也要加強(qiáng)公眾網(wǎng)絡(luò)素養(yǎng)教育，提升公眾對(duì)AI生成內(nèi)容的辨識(shí)能力和社會(huì)責(zé)任意識(shí)。

AI生成內(nèi)容真假難辨對(duì)平臺(tái)治理提出挑戰(zhàn)

專家建議明確平臺(tái)法律責(zé)任提升審核識(shí)別精度

近年來，生成式人工智能（AIGC）技術(shù)迅速發(fā)展。昔日需要整個(gè)團(tuán)隊(duì)協(xié)作完成的視頻制作，如今僅憑一張圖片、一句文字指令即可實(shí)現(xiàn)。然而，伴隨技術(shù)普及而來的是濫用風(fēng)險(xiǎn)的加劇。紛雜的AI生成內(nèi)容常常令人真假難辨，不僅干擾公眾認(rèn)知，對(duì)行業(yè)監(jiān)管和平臺(tái)治理也提出了新的挑戰(zhàn)。

今年9月1日起，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《辦法》）施行，意味著所有利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應(yīng)的聲明標(biāo)識(shí)。

然而在實(shí)際應(yīng)用中，AI生成內(nèi)容標(biāo)注仍存在諸多難點(diǎn)。例如，用AI工具生成的視頻，若用戶有心將水印去除，平臺(tái)往往難以有效識(shí)別其AI屬性，導(dǎo)致大量未標(biāo)識(shí)內(nèi)容持續(xù)傳播。

對(duì)此，《法治日?qǐng)?bào)》記者采訪西南政法大學(xué)公法研究中心執(zhí)行主任楊尚東、中國(guó)農(nóng)業(yè)大學(xué)法律系副教授薛鐵成、中央財(cái)經(jīng)大學(xué)法學(xué)院教授王葉剛以及北京航空航天大學(xué)法學(xué)院副教授王天凡，共同探討應(yīng)對(duì)之策。

記者：平臺(tái)是內(nèi)容傳播和觸達(dá)公眾的關(guān)鍵環(huán)節(jié)，因此承擔(dān)著監(jiān)督和管理的重要責(zé)任。據(jù)觀察，一些平臺(tái)通常會(huì)在相關(guān)帖文上標(biāo)注類似“疑似AI創(chuàng)作，請(qǐng)謹(jǐn)慎甄別”等提示。此類提示，是否足以認(rèn)定平臺(tái)已經(jīng)盡到合理的注意義務(wù)？是否能使其自動(dòng)免除法律責(zé)任？

王葉剛：不能據(jù)此當(dāng)然認(rèn)定平臺(tái)已經(jīng)盡到合理的注意義務(wù)。平臺(tái)在性質(zhì)上屬于網(wǎng)絡(luò)服務(wù)提供者，我國(guó)民法典侵權(quán)責(zé)任編對(duì)網(wǎng)絡(luò)服務(wù)提供者的侵權(quán)責(zé)任具體規(guī)定了通知規(guī)則（避風(fēng)港規(guī)則）、知道規(guī)則（紅旗規(guī)則）。判斷平臺(tái)是否盡到了合理的注意義務(wù)，是否需要承擔(dān)侵權(quán)責(zé)任，需要依據(jù)侵權(quán)責(zé)任編的規(guī)定進(jìn)行判斷，而不能以標(biāo)注“疑似AI創(chuàng)作，請(qǐng)謹(jǐn)慎甄別”等提示語(yǔ)為由認(rèn)定其盡到了注意義務(wù)。

王天凡：判斷平臺(tái)是否履行“合理注意義務(wù)”，需綜合多方因素考量。比如，標(biāo)識(shí)的顯著性與有效性方面，提示語(yǔ)是否足夠清晰、醒目，不易被忽略或裁剪；數(shù)字水印是否能抵抗壓縮、剪輯等。防控措施方面，平臺(tái)是否建立了與其技術(shù)能力和規(guī)模相匹配的、主動(dòng)的侵權(quán)內(nèi)容識(shí)別與過濾機(jī)制，以及在接到侵權(quán)通知后，平臺(tái)是否能夠迅速響應(yīng)并采取刪除、屏蔽等必要措施。另外，對(duì)于顯而易見的、利用名人肖像進(jìn)行虛假?gòu)V告的深度偽造內(nèi)容，法律對(duì)平臺(tái)的“應(yīng)知”要求會(huì)更嚴(yán)格。

記者：調(diào)查顯示，很多AI生成內(nèi)容引發(fā)的整蠱、造謠亂象，均是內(nèi)容發(fā)布者有意為之，甚至故意繞開平臺(tái)監(jiān)管。對(duì)此，應(yīng)如何加強(qiáng)管理？

薛鐵成：必須明確，蓄意發(fā)布AI生成圖片、視頻整蠱甚至造謠的行為，可能涉嫌違法。若內(nèi)容發(fā)布者明知其行為可能引發(fā)恐慌、報(bào)警、擾亂社會(huì)秩序，仍主動(dòng)發(fā)布AI生成的圖片、視頻等誤導(dǎo)性內(nèi)容，其主觀上可能構(gòu)成謊報(bào)警情的間接故意，最終行為或被認(rèn)定為報(bào)假警。根據(jù)治安管理處罰法相關(guān)規(guī)定，當(dāng)事人將被處以行政處罰。若情節(jié)嚴(yán)重，還可能觸犯刑法中的“編造、故意傳播虛假信息罪”，須依法承擔(dān)刑事責(zé)任。

加強(qiáng)對(duì)內(nèi)容發(fā)布者的管理，要進(jìn)一步壓實(shí)平臺(tái)責(zé)任?！掇k法》采用的是漏洞填補(bǔ)和責(zé)任加重的AI標(biāo)識(shí)管理規(guī)則。在關(guān)涉AI生成內(nèi)容發(fā)布的各個(gè)環(huán)節(jié)中，后一環(huán)節(jié)對(duì)前一環(huán)節(jié)負(fù)有檢驗(yàn)和審核的責(zé)任。例如，提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)平臺(tái)發(fā)布AI生成內(nèi)容時(shí)，既需要檢驗(yàn)用戶提供的AI生成內(nèi)容是否有平臺(tái)的隱式標(biāo)識(shí)，還需要檢驗(yàn)用戶是否聲明AI生成內(nèi)容。如果均沒有相關(guān)AI內(nèi)容標(biāo)識(shí)和聲明，本平臺(tái)檢測(cè)到顯式標(biāo)識(shí)或者其他生成合成痕跡的，識(shí)別為疑似生成合成內(nèi)容，也應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，提醒公眾該內(nèi)容疑似AI生成內(nèi)容。

楊尚東：首先，平臺(tái)應(yīng)明確AI生成內(nèi)容的管理規(guī)范。平臺(tái)需制定清晰的AI生成內(nèi)容管理規(guī)則，一方面強(qiáng)制要求用戶對(duì)AI生成內(nèi)容進(jìn)行標(biāo)注或主動(dòng)聲明；另一方面完善平臺(tái)細(xì)則，針對(duì)惡意傳播AI違規(guī)內(nèi)容的視頻及賬號(hào)，依法依規(guī)采取提示、下架、封號(hào)等階梯式處置措施。

其次，平臺(tái)應(yīng)加強(qiáng)AI生成內(nèi)容的審核與標(biāo)識(shí)。內(nèi)容發(fā)布前，平臺(tái)應(yīng)升級(jí)審核機(jī)制，通過“技術(shù)檢測(cè)+人工復(fù)核”的雙重模式提升AI內(nèi)容識(shí)別精度，精準(zhǔn)篩選出可能擾亂社會(huì)秩序的內(nèi)容及賬號(hào)，并降低此類整蠱內(nèi)容的傳播權(quán)重。內(nèi)容發(fā)布后，平臺(tái)需在聊天、評(píng)論等交互環(huán)節(jié)，進(jìn)一步強(qiáng)化AI生成內(nèi)容的明確標(biāo)識(shí)與風(fēng)險(xiǎn)提示，引導(dǎo)用戶理性判斷。

最后，平臺(tái)應(yīng)建立快速響應(yīng)與事實(shí)核查機(jī)制。平臺(tái)可搭建公眾舉報(bào)通道，及時(shí)發(fā)現(xiàn)審核疏漏的問題內(nèi)容。針對(duì)可能擾亂公共秩序的信息，第一時(shí)間啟動(dòng)事實(shí)核查與應(yīng)急響應(yīng)，快速采取限流、刪除等措施，防止內(nèi)容擴(kuò)散造成更大負(fù)面影響。

記者：針對(duì)AI生成內(nèi)容標(biāo)識(shí)的規(guī)范與治理，當(dāng)前實(shí)踐中還存在哪些核心問題，又該從哪些方面推進(jìn)完善以保障落地效果？

薛鐵成：當(dāng)前相關(guān)法律制度仍缺乏AI服務(wù)提供平臺(tái)和網(wǎng)絡(luò)信息傳播平臺(tái)未履行AI標(biāo)識(shí)義務(wù)的責(zé)任規(guī)定，難以建立對(duì)相關(guān)平臺(tái)未履行AI標(biāo)識(shí)義務(wù)的懲戒機(jī)制。在相關(guān)規(guī)定已經(jīng)明確AI服務(wù)提供平臺(tái)和網(wǎng)絡(luò)信息傳播平臺(tái)在內(nèi)容生成和發(fā)布環(huán)節(jié)義務(wù)的基礎(chǔ)上，還應(yīng)進(jìn)一步明確其未履行義務(wù)的責(zé)任種類和承擔(dān)責(zé)任的方式，以督促相關(guān)責(zé)任主體履行監(jiān)管義務(wù)。

楊尚東：其一，健全AI生成內(nèi)容管理的法規(guī)體系。未來，應(yīng)在《辦法》基礎(chǔ)上進(jìn)一步細(xì)化平臺(tái)治理規(guī)范、明確政府監(jiān)管職責(zé)、規(guī)范用戶使用行為，強(qiáng)化法律執(zhí)行效力，為生成、制作與傳播合成內(nèi)容的相關(guān)主體設(shè)定清晰的法律紅線。

其二，構(gòu)建跨部門協(xié)同監(jiān)管機(jī)制。推動(dòng)網(wǎng)信、公安等相關(guān)部門形成全鏈條監(jiān)管合力，加強(qiáng)對(duì)生成式人工智能大模型的審核管理及其應(yīng)用場(chǎng)景的監(jiān)督，嚴(yán)格落實(shí)內(nèi)容標(biāo)識(shí)要求。同時(shí)，建立跨領(lǐng)域信息共享平臺(tái)，提升監(jiān)管聯(lián)動(dòng)能力與精準(zhǔn)性，實(shí)現(xiàn)高效協(xié)同治理。

其三，強(qiáng)化網(wǎng)絡(luò)空間法治宣傳教育。借助各類媒體平臺(tái)，向公眾普及人工智能基礎(chǔ)知識(shí)與AI生成內(nèi)容的識(shí)別技巧，提升全民數(shù)字素養(yǎng)與技術(shù)認(rèn)知水平。