近日，總臺(tái)記者按照消費(fèi)者舉報(bào)的線索，在多個(gè)互聯(lián)網(wǎng)平臺(tái)上進(jìn)行檢索，發(fā)現(xiàn)不少平臺(tái)上有人在公開兜售“利用AI技術(shù)制作色情擦邊視頻”的教程，號(hào)稱僅憑一張圖片，甚至幾句話就可自行“手搓”“讓自己滿意的大尺度視頻”。有的教程帖子還赫然寫著“AI擦邊賽道日入5位數(shù)”等標(biāo)題。

報(bào)道中呈現(xiàn)的內(nèi)容及其細(xì)節(jié)讓人震驚，但是隨著技術(shù)的狂飆，出現(xiàn)這樣的AI“造黃”產(chǎn)業(yè)鏈，又似乎不難預(yù)料。從批量生產(chǎn)謠言，到批量生產(chǎn)論文，再到批量生產(chǎn)黃色視頻，AI打開的潘多拉魔盒，還在憑借其強(qiáng)大的“生產(chǎn)力”持續(xù)張開血盆大口。

AI“造黃”產(chǎn)業(yè)的危害是不言而喻的。除了直觀的“傳播淫穢色情”，還有一個(gè)潛在的風(fēng)險(xiǎn)點(diǎn)是，隨便用一張圖就可以生成色情視頻，那么這張圖有沒有可能是現(xiàn)實(shí)中真人的照片？別忘了，就在最近，相關(guān)AI短劇中的人物形象還因?yàn)楹同F(xiàn)實(shí)中的明星藝人撞臉而遭受爭(zhēng)議，乃至引發(fā)維權(quán)官司。

此外，由于未成年人很容易接觸到社交平臺(tái)和相關(guān)AI應(yīng)用，其對(duì)未成年人身心健康的影響，也不容忽視。

據(jù)報(bào)道，眾多社交平臺(tái)上，一些博主還發(fā)布售賣各類AI生成擦邊視頻的“提示詞”的帖子，堪稱“一條龍服務(wù)”。這樣的黑色生意，輕而易舉便在某些平臺(tái)上開展，問題又回到了平臺(tái)的治理責(zé)任上。至少，在基本的關(guān)鍵詞檢測(cè)、辨別、屏蔽上，平臺(tái)不應(yīng)該讓自身成為“漏魚之網(wǎng)”。

整體來看，AI“造黃”產(chǎn)業(yè)鏈具有低門檻、批量生產(chǎn)、快速傳播等特征，且形成了制作教程、提示詞、軟件、引流變現(xiàn)的完整黑色鏈條。對(duì)此，相關(guān)平臺(tái)和監(jiān)管部門必須及時(shí)介入，迅速斬?cái)唷霸禳S”產(chǎn)業(yè)鏈。

這不只是一個(gè)法律問題，更是一個(gè)技術(shù)倫理問題。這兩年，AI打開的新世界讓人應(yīng)接不暇，出現(xiàn)的一些新場(chǎng)景、新應(yīng)用可以說是泥沙俱下。此前就有一種觀點(diǎn)認(rèn)為，一項(xiàng)新技術(shù)的誕生，往往首先就被用于下三濫的地方，這句話或許太過絕對(duì)，卻是一個(gè)十分現(xiàn)實(shí)的提醒。

一方面，出現(xiàn)問題就要立即開展針對(duì)性的治理；另一方面，完善和更新法律法規(guī)的腳步也要隨之跟上。

4月10日，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式公布，其第八條規(guī)定，提供擬人化互動(dòng)服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，并明確不得從事“傳播淫穢、色情、賭博、暴力或者教唆犯罪”“向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容”等活動(dòng)。

虛擬世界從來不是憑空制造的，虛擬往往取材于現(xiàn)實(shí)，又深刻影響著現(xiàn)實(shí)。AI仍將持續(xù)挑戰(zhàn)更多的行業(yè)、領(lǐng)域，也會(huì)帶來不少讓人詫異、擔(dān)憂的問題。和AI共成長(zhǎng)，積極、健康地共成長(zhǎng)，注定是我們這代人要解決的課題。

AI“造黃”產(chǎn)業(yè)鏈又一次警醒：技術(shù)本無善惡，但使用者必須守住法律底線，使用范圍和程度必須有標(biāo)準(zhǔn)、有規(guī)范。唯有如此，才能讓AI造福社會(huì)。