- +1
今日頭條升級(jí)“靈犬反低俗助手”程序:新增反色情、謾罵模型


移動(dòng)互聯(lián)網(wǎng)時(shí)代,海量?jī)?nèi)容創(chuàng)作的快速增長(zhǎng),給內(nèi)容識(shí)別帶來(lái)很大挑戰(zhàn)?!伴_(kāi)放靈犬,是為了匯聚全民力量打擊低俗。我們希望升級(jí)服務(wù),更好地幫助用戶(hù)檢測(cè)低俗信息,共同營(yíng)造清朗的網(wǎng)絡(luò)空間?!苯袢疹^條總編輯張輔評(píng)稱(chēng)。
對(duì)于人工智能,目前開(kāi)展反低俗工作至少有三個(gè)難點(diǎn):一是識(shí)別“內(nèi)涵色情”,這類(lèi)場(chǎng)景需要聯(lián)想能力,對(duì)機(jī)器學(xué)習(xí)要求很高;二是短文本識(shí)別,一般來(lái)說(shuō),機(jī)器接收的上下文、語(yǔ)境越充分,判斷準(zhǔn)確度才會(huì)越高;三是對(duì)書(shū)面語(yǔ)和口頭語(yǔ)的分辨,相比規(guī)范的書(shū)面語(yǔ),口頭語(yǔ)很隨意,變化程度大,較難識(shí)別。
據(jù)張輔評(píng)介紹,為了解決以上難點(diǎn),“靈犬”制定了專(zhuān)門(mén)的低俗分類(lèi)標(biāo)準(zhǔn),并新建反色情短文本模型,學(xué)習(xí)了近萬(wàn)個(gè)標(biāo)準(zhǔn)案例,重點(diǎn)加強(qiáng)對(duì)短文本、色情、內(nèi)涵色情的識(shí)別,同時(shí)注意口語(yǔ)語(yǔ)言和標(biāo)題語(yǔ)言?xún)蓚€(gè)維度的覆蓋。“靈犬”還新建反謾罵模型,加強(qiáng)對(duì)謾罵內(nèi)容的識(shí)別。
基于人工智能模型的訓(xùn)練路徑:“收集數(shù)據(jù)-標(biāo)注樣本-訓(xùn)練模型”,在反復(fù)訓(xùn)練中,靈犬會(huì)變得越來(lái)越聰明?!办`犬”還設(shè)有專(zhuān)門(mén)的“反饋有獎(jiǎng)”入口,鼓勵(lì)網(wǎng)民積極反饋,提供“靈犬”識(shí)別不準(zhǔn)確的案例或任何改善意見(jiàn)建議,并給予實(shí)物獎(jiǎng)勵(lì)。
今日頭條方面表示,目前在內(nèi)容審核方面,除了配備“靈犬”等,包括色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模型在內(nèi)的180多個(gè)人工智能模型,今日頭條還投入了6000多人的專(zhuān)業(yè)審核團(tuán)隊(duì),結(jié)合人工、技術(shù)手段,致力于提升內(nèi)容審核的效率和準(zhǔn)確度。
(原題為《今日頭條升級(jí)“靈犬”服務(wù) 超60萬(wàn)人次打擊低俗》)





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




