中新網(wǎng)5月16日消息，16日，今日頭條通過(guò)官方微頭條宣布，“靈犬反低俗助手”日前已經(jīng)完成服務(wù)升級(jí)，新增反色情短文本模型和反謾罵模型，將準(zhǔn)確率從73%提升至82%，提高了9個(gè)百分點(diǎn)。截至目前，已經(jīng)有超過(guò)60萬(wàn)人次使用“靈犬”小程序，參與打擊低俗，凈化網(wǎng)絡(luò)環(huán)境。

據(jù)悉，這是“靈犬”上線以來(lái)，第一次大規(guī)模更新。“靈犬”于2018年4月8日正式上線，是國(guó)內(nèi)首款人工智能反低俗小程序?！办`犬”只需要一段文字或文章鏈接，就能檢測(cè)內(nèi)容健康指數(shù)，并返回鑒定結(jié)果，包括：是否可以獲得算法推薦，是否需要引入人工判斷等。對(duì)于用戶(hù)輸入的內(nèi)容，“靈犬”會(huì)先進(jìn)行提取、分詞和語(yǔ)義識(shí)別，然后根據(jù)算法規(guī)則，輸出對(duì)應(yīng)的分?jǐn)?shù)、評(píng)級(jí)和結(jié)論。這一切，都在短短幾秒內(nèi)完成。

移動(dòng)互聯(lián)網(wǎng)時(shí)代，海量?jī)?nèi)容創(chuàng)作的快速增長(zhǎng)，給內(nèi)容識(shí)別帶來(lái)很大挑戰(zhàn)?！伴_(kāi)放靈犬，是為了匯聚全民力量打擊低俗。我們希望升級(jí)服務(wù)，更好地幫助用戶(hù)檢測(cè)低俗信息，共同營(yíng)造清朗的網(wǎng)絡(luò)空間?！苯袢疹^條總編輯張輔評(píng)稱(chēng)。

對(duì)于人工智能，目前開(kāi)展反低俗工作至少有三個(gè)難點(diǎn)：一是識(shí)別“內(nèi)涵色情”，這類(lèi)場(chǎng)景需要聯(lián)想能力，對(duì)機(jī)器學(xué)習(xí)要求很高；二是短文本識(shí)別，一般來(lái)說(shuō)，機(jī)器接收的上下文、語(yǔ)境越充分，判斷準(zhǔn)確度才會(huì)越高；三是對(duì)書(shū)面語(yǔ)和口頭語(yǔ)的分辨，相比規(guī)范的書(shū)面語(yǔ)，口頭語(yǔ)很隨意，變化程度大，較難識(shí)別。

據(jù)張輔評(píng)介紹，為了解決以上難點(diǎn)，“靈犬”制定了專(zhuān)門(mén)的低俗分類(lèi)標(biāo)準(zhǔn)，并新建反色情短文本模型，學(xué)習(xí)了近萬(wàn)個(gè)標(biāo)準(zhǔn)案例，重點(diǎn)加強(qiáng)對(duì)短文本、色情、內(nèi)涵色情的識(shí)別，同時(shí)注意口語(yǔ)語(yǔ)言和標(biāo)題語(yǔ)言?xún)蓚€(gè)維度的覆蓋。“靈犬”還新建反謾罵模型，加強(qiáng)對(duì)謾罵內(nèi)容的識(shí)別。

基于人工智能模型的訓(xùn)練路徑：“收集數(shù)據(jù)－標(biāo)注樣本－訓(xùn)練模型”，在反復(fù)訓(xùn)練中，靈犬會(huì)變得越來(lái)越聰明?！办`犬”還設(shè)有專(zhuān)門(mén)的“反饋有獎(jiǎng)”入口，鼓勵(lì)網(wǎng)民積極反饋，提供“靈犬”識(shí)別不準(zhǔn)確的案例或任何改善意見(jiàn)建議，并給予實(shí)物獎(jiǎng)勵(lì)。

今日頭條方面表示，目前在內(nèi)容審核方面，除了配備“靈犬”等，包括色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模型在內(nèi)的180多個(gè)人工智能模型，今日頭條還投入了6000多人的專(zhuān)業(yè)審核團(tuán)隊(duì)，結(jié)合人工、技術(shù)手段，致力于提升內(nèi)容審核的效率和準(zhǔn)確度。

（原題為《今日頭條升級(jí)“靈犬”服務(wù) 超60萬(wàn)人次打擊低俗》）