小紅書將限制分發(fā)未主動標識的AI生成合成內(nèi)容。

2月12日，小紅書薯管家發(fā)布關于加強自主標識AI生成合成標識的公告。公告稱，近期，平臺收到多例利用AI生成合成技術仿冒公眾人物形象、制作虛假視頻的用戶舉報。此類未經(jīng)本人授權制造的內(nèi)容，即侵害了公眾人物的合法權益，也因部分內(nèi)容未主動做AI生成/合成標識，有損社區(qū)用戶的信任。

小紅書呼吁用戶在發(fā)布由AI生成合成的圖文或視頻內(nèi)容時，主動添加AI生成合成標識，便于用戶甄別。標明AI創(chuàng)作手段不僅不會減損作品價值，反而能讓交流更透明。

小紅書表示，依據(jù)《人工智能生成合成內(nèi)容標識辦法》要求，平臺將持續(xù)加強AI生成合成內(nèi)容的識別檢測能力，如創(chuàng)作者在發(fā)布環(huán)節(jié)未主動對AI生成合成內(nèi)容做標記，平臺將基于檢測結果對未聲明內(nèi)容添加標識。此類未主動標識的AI生成合成內(nèi)容，平臺將限制分發(fā)。對于借由AI生產(chǎn)虛假仿冒信息、魔改經(jīng)典、宣揚不良價值觀的內(nèi)容，發(fā)布教唆祛除AI標識的教程，平臺將予以嚴厲打擊。

公告指出，接下來，小紅書將繼續(xù)完善AI標識和AI造假內(nèi)容的識別工作，也歡迎用戶積極參與平臺共治，如發(fā)現(xiàn)AI生成不良內(nèi)容，第一時間通過舉報按鈕向平臺反饋。

2月12日，據(jù)“網(wǎng)信中國”微信公眾號，近期，部分網(wǎng)絡賬號發(fā)布AI生成合成信息時，不添加AI標識，存在利用虛假不實內(nèi)容欺騙誤導公眾的問題，破壞網(wǎng)絡生態(tài)，造成惡劣影響。網(wǎng)信部門督促網(wǎng)站平臺深入排查整治，依法依約處置賬號13421個，清理違法違規(guī)信息54.3萬余條。

部分典型案例通報包括：一、微博賬號“澄馫”、快手賬號“玲子愛狗狗”、嗶哩嗶哩賬號“空空說電影”等，發(fā)布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚傷人等視頻時，未添加AI生成標識，借虛構感人故事、獵奇事件惡意博取流量。相關賬號已被依法依約處置。

二、微信賬號“浮萍9419”、微博賬號“乘風已歸來”、快手賬號“東東情感”等，以AI換臉、聲音克隆等方式，假冒運動員、演員、主持人、企業(yè)家等公眾人物，發(fā)布不實言論，借此吸粉引流，或未經(jīng)授權，售賣AI生成的公眾人物“送祝?！薄鞍菽辍钡纫曨l，從中不當牟利。相關賬號已被依法依約處置。

三、抖音賬號“巷子里的魚”“禾粟”、快手賬號“朵姐正能量”“小豬豬”等，發(fā)布AI生成的虛假火災現(xiàn)場圖片、視頻，惡意編造、炒作火災事故，混淆視聽，擾亂公共秩序。相關賬號已被依法依約處置。

四、嗶哩嗶哩賬號“真難我知道”、抖音賬號“小奧特曼大智慧”、百度賬號“清崽影視”等，借AI魔改未成年人喜愛的動畫角色，制作刀切小馬寶莉頭部、奧特曼懷孕等視頻，傳播低俗驚悚、血腥暴力內(nèi)容，宣揚不良價值觀，侵擾未成年人身心健康。相關賬號已被依法依約處置。

五、小紅書賬號“浪淘達人”“南坤的店”等，發(fā)布“豆包圖片去水印神器”等內(nèi)容，分享去除AI標識教程、軟件，淘寶、閑魚、拼多多店鋪“浙江智意AI”“鼎建祥旗艦店”等，售賣去AI標識教程、軟件及服務。相關賬號已被依法依約處置，違規(guī)商品已下架。

下一步，網(wǎng)信部門將對無AI標識的虛假不實信息保持高壓嚴管態(tài)勢，發(fā)現(xiàn)即處置，嚴厲打擊違規(guī)行為。同時，也呼吁廣大網(wǎng)絡內(nèi)容創(chuàng)作者按照相關規(guī)定主動添加AI標識，避免誤導公眾，共同營造風清氣正的網(wǎng)絡環(huán)境。

另值得關注的是，2月12日消息，為了營造喜慶祥和、積極向上的春節(jié)網(wǎng)絡氛圍，中央網(wǎng)信辦決定即日起開展為期1個月的“清朗·2026年營造喜慶祥和春節(jié)網(wǎng)絡環(huán)境”專項行動。

專項行動著力整治四方面突出問題，其中包括對生成傳播“數(shù)字泔水”等垃圾信息的整治，一是利用AI等新技術新應用批量生成邏輯混亂、信息空洞、高度雷同的低質(zhì)內(nèi)容。二是濫用AI技術對經(jīng)典動畫、影視作品等植入低俗暴力內(nèi)容，進行戲謔惡搞。三是對文學名著、歷史典故等進行“魔改”，歪曲解構優(yōu)秀傳統(tǒng)文化。四是批量炮制“父母偏心”“婆媳矛盾”“姐弟互毆”等渲染家庭矛盾、代際沖突文案和劇情，營銷炒作博取流量。五是利用AI批量生成所謂“雞湯網(wǎng)文”“霸總爽劇”“專家科普”等圖文、短視頻內(nèi)容，影響網(wǎng)民認知判斷。