當前，各種人工智能軟件、辦公自動化工具密集涌現(xiàn)，人工智能正從“能回答問題”走向“能執(zhí)行任務(wù)”。然而，有用戶反映在使用某些App和人工智能工具時，被提示存在信息泄露和高權(quán)限運行風險。當智能化應(yīng)用進入日常生活，用戶隱私該如何保護，發(fā)展和安全如何統(tǒng)籌？

過去說隱私泄露，人們往往想到平臺漏洞或信息販賣。而在人工智能時代，看似普通的單次數(shù)據(jù)調(diào)用、單個操作，經(jīng)由信息整合、歸納、推斷后，就可能還原出遠超用戶預(yù)期的個人畫像。隱私風險不單來自惡意盜取，也可能出現(xiàn)在系統(tǒng)“正常運行”的過程中。

更值得警惕的是，一些產(chǎn)品為制造爆點不斷放大自動化能力，弱化了風險提示、邊界說明和操作約束。用戶看到的是“更聰明”“更省事”，卻未必知道背后意味著怎樣的數(shù)據(jù)調(diào)取。尤其普通用戶與技術(shù)提供方之間本就存在明顯的信息差，如果平臺把復雜風險包裹在便捷體驗之中，把本該由產(chǎn)品承擔的安全責任轉(zhuǎn)化為用戶自行承擔的使用風險，那么“智能化紅利”就可能演變?yōu)樾碌慕箲]源。

處理好發(fā)展和安全的關(guān)系，要把安全前置到產(chǎn)品設(shè)計階段，落實“最小必要原則”。哪些權(quán)限是完成任務(wù)所必需的，哪些關(guān)鍵操作必須經(jīng)過再次確認，都應(yīng)當在設(shè)計之初就講清楚。涉及文件刪除、數(shù)據(jù)導出、賬戶調(diào)用、支付驗證等高風險操作，不能靠一次籠統(tǒng)授權(quán)就一路放行，而應(yīng)建立清晰的分級授權(quán)、即時提醒和可撤回機制。

隱私保護不能只寄希望于用戶“自己多留個心眼”。人工智能高度專業(yè)化、快速迭代，讓普通人逐項看懂接口權(quán)限、數(shù)據(jù)流向和模型邏輯并不現(xiàn)實。對于高風險應(yīng)用，應(yīng)建立更有針對性的分類分級治理機制，對數(shù)據(jù)收集、插件接入、自動決策等環(huán)節(jié)設(shè)置更細致的規(guī)范要求。企業(yè)應(yīng)增強測試驗證能力，完善兼容性評估和安全審查，少一些“先上線再優(yōu)化”的僥幸。

監(jiān)管部門應(yīng)盡快細化相關(guān)規(guī)則規(guī)定，圍繞數(shù)據(jù)收集、權(quán)限調(diào)用、插件接入、自動決策等關(guān)鍵環(huán)節(jié)，明確權(quán)限與責任；強化安全測評、風險備案，督促企業(yè)把分級授權(quán)、操作確認等要求落到產(chǎn)品設(shè)計中。此外，還應(yīng)加強風險提示和日常巡查，對誘導過度授權(quán)、模糊權(quán)限邊界、侵害用戶權(quán)益等行為及時糾偏、依法查處。

安全不是發(fā)展的對立面，隱私也不是創(chuàng)新的包袱。只有把用戶權(quán)益放在更突出的位置，把風險治理嵌入創(chuàng)新過程，人工智能才能在釋放紅利的同時減少不安、贏得信任，走上健康的發(fā)展軌道。

來源丨經(jīng)濟日報（劉沛愷）