AI幻覺頻發(fā)，誤導(dǎo)用戶、毀損名譽的責任，該由誰來承擔？

南京律師李小亮在百度上搜索自己的信息，結(jié)果百度“AI智能回答”竟然給出“李小亮律師被判三年有期徒刑”的不實文字內(nèi)容。今年3月，二審法院作出終審判決認定，百度構(gòu)成名譽侵權(quán)，判決其作出書面道歉。一度，百度給出了AI幻覺不可預(yù)見的抗辯理由，但法院并沒有認可。

AI以其強大的內(nèi)容生成能力，正深刻改變著人們獲取信息的方式，其甚至成為重要的信息源頭。怎么保障AI幻覺不會污染信息源頭，影響社會正確認知？這是一個非常嚴肅的話題。

人工智能技術(shù)還處于爆發(fā)期，既不能求全責備、要求“零幻覺”，那會影響到中國的人工智能產(chǎn)業(yè)的迭代升級；也要立下基本的規(guī)則，引導(dǎo)技術(shù)向上向善。在具體個案中，明確AI幻覺造成的誹謗侵權(quán)、誤導(dǎo)的責任邊界、責任范圍，極有現(xiàn)實必要。

今年年初，杭州互聯(lián)網(wǎng)法院審結(jié)了首例AI幻覺侵權(quán)糾紛案：用戶梁某在某AI應(yīng)用中查詢高校報考信息時，模型輸出了明顯錯誤的校區(qū)及招生信息，梁某以遭受誤導(dǎo)為由起訴AI服務(wù)提供商，最終法院駁回了其訴訟請求。

兩起案件不能說是“同案不同判”，因為兩者顯然有很大的區(qū)別：一對一的人機對話中產(chǎn)生高校信息差錯，傳播范圍有限、社會危害輕微；而公開搜索平臺憑空編造“律師被判刑”的虛假事實，具有極強的公開傳播性，直接構(gòu)成人格權(quán)侵害，平臺防控義務(wù)與過錯認定標準自然不能等同。

對于AI技術(shù)發(fā)展而帶來的新型法律糾紛，法學家提出了“利益平衡說”：不能要求“零幻覺”，但是服務(wù)商需對可預(yù)見、可防控的幻覺要承擔“過錯”責任，而判定“過錯”的標準包括：是否全面履行合理注意義務(wù)、是否向社會提供低風險合規(guī)服務(wù)、是否建立完備有效的事后救濟機制，等等。

AI不是中立管道，而是主動生成內(nèi)容，本質(zhì)是服務(wù)商訓練、算法設(shè)計、輸出管控的延伸行為，不能以“技術(shù)中立”“算法自主”為由推卸責任。服務(wù)商要努力防范AI幻覺對用戶造成的侵害，而司法規(guī)則也要推動技術(shù)向上向善。比如，強調(diào)平臺盡到“行業(yè)最優(yōu)可行技術(shù)（BAT）”義務(wù)，不能以“技術(shù)初期”豁免，特別對涉及人格權(quán)的高風險幻覺，應(yīng)堅持更高標準。

筑牢AI幻覺治理防線，強化服務(wù)商的合規(guī)責任，也要明晰侵權(quán)歸責原則、責任邊界：

首先，服務(wù)商要履行顯著風險提示義務(wù)，在AI生成內(nèi)容界面醒目告知存在虛構(gòu)事實的可能，明確提示相關(guān)內(nèi)容不得直接作為醫(yī)療、法律、投資等專業(yè)決策依據(jù)。

其次，建立高風險內(nèi)容事前審核攔截機制，針對自然人名譽身份、刑事裁判記錄、個人隱私、企業(yè)商業(yè)信譽等敏感領(lǐng)域，落實人名實體精準對齊、權(quán)威信源事實校驗、違規(guī)敏感詞攔截、司法文書文號核驗等硬性舉措，從源頭遏制惡意幻覺生成。

再者，要完善侵權(quán)懲戒規(guī)則，對刻意放松風控、故意放任幻覺侵權(quán)、反復(fù)違規(guī)且拒不整改的平臺，依法支持懲罰性賠償，以剛性懲戒倒逼責任落地。

守法公民被AI造謠判刑，不能全部甩鍋給“技術(shù)不可預(yù)測”。的確，AI技術(shù)不完美，但是司法應(yīng)要求服務(wù)商盡到“合理技術(shù)義務(wù)”下的防范責任，提升幻覺防控準確率、敏感信息的核實率，推動平臺從被動擔責轉(zhuǎn)向主動防幻覺，最終讓人工智能在法治軌道上健康發(fā)展。