隨著大數(shù)據(jù)、人工智能等技術(shù)的快速發(fā)展，“數(shù)據(jù)主義”隨之流行，算法推薦、排名算法等不同的形態(tài)催生并推動(dòng)了不同領(lǐng)域的企業(yè)，這些企業(yè)及其產(chǎn)品在為公眾提供便利的同時(shí)，也產(chǎn)生了不少新的問題。如何為冰冷的算法注入人文情懷，成為一個(gè)不得不面對(duì)的倫理問題和治理問題。不久前，有關(guān)部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，依法對(duì)算法亂象進(jìn)行監(jiān)管整治。

日前，著名學(xué)者、清華大學(xué)新聞傳播學(xué)院常務(wù)副院長(zhǎng)陳昌鳳教授與清華大學(xué)新聞傳播學(xué)院博士后李凌聯(lián)合主編出版了《算法人文主義：公眾智能價(jià)值觀與科技向善》。本期政邦茶座邀請(qǐng)到兩位作者，為“算法”把把脈。

本期政邦茶座嘉賓：

陳昌鳳：清華大學(xué)新聞傳播學(xué)院常務(wù)副院長(zhǎng)，出版《智能傳播：理論、應(yīng)用與治理》、《算法人文主義：公眾智能價(jià)值觀與科技向善》等

李凌：清華大學(xué)新聞傳播學(xué)院博士后、中國(guó)倫理在線執(zhí)行主編。

政邦茶座主持人：

高明勇：政邦智庫理事長(zhǎng)。

高明勇：赫拉利在《未來簡(jiǎn)史》中宣稱“大部分的科學(xué)機(jī)構(gòu)都已經(jīng)改信了數(shù)據(jù)主義”，您也曾提出：“大數(shù)據(jù)正以空前的速度和規(guī)模滲透到人類社會(huì)生活的方方面面，在一定程度上它已經(jīng)逐步改變著人們觀察、認(rèn)識(shí)、思考乃至生存與發(fā)展的方式”。請(qǐng)問什么是數(shù)據(jù)主義，數(shù)據(jù)主義是如何產(chǎn)生的？

陳昌鳳：大數(shù)據(jù)、智能算法等技術(shù)催生了新的哲學(xué)思潮，數(shù)據(jù)主義的觀念和思維日益成為一種流行的意識(shí)形態(tài)。數(shù)據(jù)主義作為一種社會(huì)思潮，主要包括以下觀點(diǎn)：

一是篤信數(shù)據(jù)更加真實(shí)、準(zhǔn)確、客觀和可靠，更值得人們信任，最早提出“數(shù)據(jù)主義”概念的《紐約時(shí)報(bào)》專欄作家布魯克斯就明確宣稱：“數(shù)據(jù)是透明可靠的濾鏡，幫助我們過濾掉情感主義和意識(shí)形態(tài)”。

二是主張一種算法世界觀，數(shù)據(jù)主義將整個(gè)世界，包括人的生命都視為各種算法計(jì)算的結(jié)果，正是在這個(gè)意義上，赫拉利認(rèn)為人類將賦予算法權(quán)力，這樣才能做出更加科學(xué)、理性當(dāng)然也就更加正確的決定。

三是主張信息自由是最高的善，數(shù)據(jù)主義的支持者認(rèn)為，如果我們要?jiǎng)?chuàng)造一個(gè)更美好的世界，關(guān)鍵就在于生產(chǎn)數(shù)據(jù)、連接數(shù)據(jù)，并且給數(shù)據(jù)以自由。

數(shù)據(jù)主義的流行，與人工智能等信息技術(shù)在經(jīng)濟(jì)社會(huì)等各個(gè)領(lǐng)域取得的巨大成功密不可分，但從更深層次原因來看，數(shù)據(jù)主義是與互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)發(fā)展的生產(chǎn)結(jié)構(gòu)相適應(yīng)的價(jià)值觀念，體現(xiàn)了互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)發(fā)展的話語和意識(shí)形態(tài)需要。

按照數(shù)字經(jīng)濟(jì)研究學(xué)者范戴克的觀察研究，互聯(lián)網(wǎng)平臺(tái)主要通過數(shù)據(jù)化、商品化、選擇性這三種核心機(jī)制來構(gòu)建自身的數(shù)字化生態(tài)系統(tǒng)，其中，數(shù)據(jù)化一切是前提，商品化是目的，而用戶的選擇性則是實(shí)現(xiàn)商品化的途徑。這三種機(jī)制推動(dòng)了互聯(lián)網(wǎng)平臺(tái)的發(fā)展，也促成了數(shù)據(jù)主義思想的發(fā)展，并且通過自我論證進(jìn)一步強(qiáng)化了數(shù)據(jù)主義的合理性和正確性，加劇了人們對(duì)數(shù)據(jù)化一切的推崇和信仰。

從互聯(lián)網(wǎng)平臺(tái)的視角而言，只有萬物皆媒介、皆數(shù)據(jù)、皆算法，才能利用算法技術(shù)服務(wù)于這個(gè)世界，最終實(shí)現(xiàn)商品化目標(biāo)。

李凌：數(shù)據(jù)主義在本質(zhì)上是數(shù)字資本主義的意識(shí)形態(tài)。從表象上看，企圖最大化的是數(shù)據(jù)，但實(shí)質(zhì)上是資本。數(shù)字資本主義之所以熱衷于將人和萬物數(shù)據(jù)化并推崇數(shù)據(jù)最大化，就是因?yàn)橹挥袑⑷撕腿f物都數(shù)據(jù)化、算法化了，數(shù)字資本主義才能在對(duì)數(shù)據(jù)的利用、開發(fā)過程中，實(shí)現(xiàn)數(shù)據(jù)價(jià)值的最大化，當(dāng)然也就是資本的最大化。對(duì)于數(shù)字資本主義及其意識(shí)形態(tài)數(shù)據(jù)主義而言，人和萬物不僅應(yīng)該被視為數(shù)據(jù)，而且必須被數(shù)據(jù)化。

高明勇：數(shù)據(jù)主義對(duì)整個(gè)社會(huì)產(chǎn)生了什么樣的影響，如果進(jìn)一步發(fā)展，將會(huì)對(duì)人類社會(huì)構(gòu)成哪些挑戰(zhàn)？

陳昌鳳：我們可以看到，數(shù)據(jù)主義對(duì)于互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)的發(fā)展起到了重要的推動(dòng)作用，數(shù)據(jù)主義成為支持企業(yè)創(chuàng)造價(jià)值的一種觀念。對(duì)于企業(yè)而言，“數(shù)據(jù)最大化”和“信息創(chuàng)造價(jià)值”符合工具理性，也有助于他們拓展市場(chǎng)、服務(wù)社會(huì)并獲得收益。

不過，數(shù)據(jù)主義所倡導(dǎo)的無條件推崇數(shù)據(jù)最大化的思維方式，也存在著很大的片面性和局限性。就正如近年來“大數(shù)據(jù)殺熟”、“外賣騎手被困在系統(tǒng)里”等算法倫理問題所揭示的，數(shù)據(jù)主義不僅導(dǎo)向了算法對(duì)社會(huì)規(guī)則和生態(tài)的重構(gòu)，還存在著侵犯?jìng)€(gè)體尊嚴(yán)、自由和破壞社會(huì)公正等倫理風(fēng)險(xiǎn)，可能危及到人的主體性。

以前我們常常樂觀地說，互聯(lián)網(wǎng)技術(shù)的賦能極大地拓展了人類自由，讓我們能夠享受到更便捷的服務(wù)，但是現(xiàn)在來看，技術(shù)應(yīng)用的負(fù)面效應(yīng)正在出現(xiàn)。由于我們?cè)絹碓絹黼x不開各種互聯(lián)網(wǎng)平臺(tái)，人們只有依附于這些芒德福所言的“巨型機(jī)器”，才能言說和行動(dòng)，才能獲得價(jià)值和意義，我們很難說更自由、更強(qiáng)大了。

數(shù)據(jù)主義者的眼里只有數(shù)據(jù)算法而沒有人，他們將作為人類認(rèn)識(shí)和行動(dòng)結(jié)果的數(shù)據(jù)、算法顛倒為起決定作用和支配地位的“主體”，真正的人類主體則淪為被算法塑造和支配的客體，被置于工具化、從屬性的地位。

算法背后隱藏著復(fù)雜的權(quán)力關(guān)系。表面上看是算法擁有了權(quán)力，人們被算法支配和控制，但實(shí)質(zhì)上是被研發(fā)、設(shè)計(jì)和掌握算法平臺(tái)的人所支配和控制。誰控制了平臺(tái)，誰就掌握了數(shù)據(jù)；誰擁有了先進(jìn)技術(shù)，誰就擁有更大的權(quán)力。如果一切都相信數(shù)據(jù)和算法，人將會(huì)陷入“算法囚籠”之中。

在這個(gè)意義上，數(shù)據(jù)主義及其所倡導(dǎo)的“數(shù)據(jù)最大化”與“信息自由至善”，走向了價(jià)值理性和工具理性的二元對(duì)立，既與人文主義這一人類所有價(jià)值觀底線相對(duì)立，也是現(xiàn)實(shí)虛無主義的產(chǎn)物，值得我們警惕。

李凌：數(shù)據(jù)主義以“記錄、上傳、分享”為口號(hào)，正在創(chuàng)造一種獨(dú)特的數(shù)字景觀——互聯(lián)網(wǎng)上的免費(fèi)勞動(dòng)。蕓蕓大眾成為資本主義生產(chǎn)的免費(fèi)勞動(dòng)力卻不自知。

我們?cè)诨ヂ?lián)網(wǎng)指點(diǎn)江山，為了獲取關(guān)注主動(dòng)曝光、自我展示，忙于生產(chǎn)內(nèi)容樂此不疲，這些免費(fèi)勞動(dòng)都被互聯(lián)網(wǎng)平臺(tái)轉(zhuǎn)化為數(shù)據(jù)化的生產(chǎn)資料，投入到算法的優(yōu)化和服務(wù)當(dāng)中。數(shù)據(jù)主義巧妙地將這種利用用戶免費(fèi)生產(chǎn)數(shù)據(jù)的做法隱藏在“參與”、“分享”等概念之中，讓用戶產(chǎn)生了自我實(shí)現(xiàn)和自我解放的錯(cuò)覺：我并沒有被剝削，而是通過主動(dòng)積極地參與來發(fā)展展示自我。

正如韓裔德國(guó)哲學(xué)家韓炳哲所說：“作為新自由主義自我技術(shù)的永恒自我優(yōu)化，不過是一種有效的統(tǒng)治和剝削方式?！睌?shù)據(jù)主義通過自我參與等概念，對(duì)數(shù)字資本主義的合理性進(jìn)行了有力的辯護(hù)，借此掩蓋了數(shù)字化生產(chǎn)過程的很多問題和矛盾，讓公眾處于不利地位，甚至連個(gè)人隱私、經(jīng)濟(jì)權(quán)益受到侵犯卻不自知。這是數(shù)據(jù)主義的欺騙性所在，值得我們關(guān)注和進(jìn)一步研究。

高明勇：有觀點(diǎn)認(rèn)為，21世紀(jì)將會(huì)是由算法主導(dǎo)的世紀(jì)。這種趨勢(shì)，會(huì)不會(huì)在某個(gè)時(shí)間節(jié)點(diǎn)產(chǎn)生“逆轉(zhuǎn)”？

陳昌鳳：人類總是不遺余力地按照自己的需求主動(dòng)開發(fā)新技術(shù)，這是人類構(gòu)建現(xiàn)實(shí)的方式與過程。最近20年以來，媒介化已經(jīng)成為與城市化、全球化和個(gè)體化等相提并論的高度現(xiàn)代性的重大變革，其趨勢(shì)和過程都是難以逆轉(zhuǎn)的。

在媒介化過程中，數(shù)據(jù)與算法起到了基礎(chǔ)性的作用。特別是諸如微軟、蘋果、元宇宙等互聯(lián)網(wǎng)平臺(tái)，他們通過構(gòu)建有形的通信系統(tǒng)、無形的通信協(xié)議、可見的接口界面以及隱形的平臺(tái)算法等信息基礎(chǔ)設(shè)施，主導(dǎo)了日常數(shù)字活動(dòng)和全球經(jīng)濟(jì)。

作為最前沿信息技術(shù)的集大成者，元宇宙可以說是當(dāng)下最炙手可熱的話題。如果說工業(yè)革命解放了人類的手和腳，人工智能解放了人類的大腦，元宇宙則通過深度媒介化，朝著解放人類一切需求和愿望的方向邁進(jìn)。在元宇宙技術(shù)所建構(gòu)的虛擬現(xiàn)實(shí)之中，人類可以發(fā)揮最大可能的想象力來建造它，它也可以最大程度地滿足人類的需求和愿望，甚至可以使人無處不在、永遠(yuǎn)在場(chǎng)、永遠(yuǎn)“活著”。

不過，這個(gè)過程到底是以算法為代表的信息技術(shù)馴化、主導(dǎo)人，還是人馴化、主導(dǎo)各種技術(shù)，則在很大程度上取決于人類自己的理解和行動(dòng)，如何在算法自動(dòng)化運(yùn)行中保持人的獨(dú)特性，如何維護(hù)個(gè)體的自由和整體的安全？諸如此類的問題，都需要我們堅(jiān)守與弘揚(yáng)以人為本的價(jià)值觀。

高明勇：算法在誕生之初，很多人是欣然接受并樂在其中的，但后來出現(xiàn)“大數(shù)據(jù)殺熟”“外賣騎手被困在系統(tǒng)里”“個(gè)人隱私保護(hù)”等現(xiàn)象，越來越多的人開始抵制算法，拒絕成為“算法囚徒”。為什么短短幾年，人們對(duì)算法的認(rèn)識(shí)，就發(fā)生了這么大的轉(zhuǎn)變？

陳昌鳳：人們往往會(huì)在技術(shù)應(yīng)用的初期，為其全新功能給人類生活帶來的正面效益所驚喜，再加上資本主導(dǎo)下的互聯(lián)網(wǎng)企業(yè)為了擴(kuò)大用戶基數(shù)而采取的免費(fèi)或者高補(bǔ)貼戰(zhàn)略、口碑營(yíng)銷方式和龐大宣傳攻勢(shì)，公眾和輿論可能傾向于贊美和“擁抱”這一新興技術(shù)。

但隨著人工智能、大數(shù)據(jù)等信息技術(shù)的深度應(yīng)用，特別是在人與算法機(jī)器的頻繁交互過程中，新技術(shù)引發(fā)的爭(zhēng)議性問題日益凸顯，對(duì)人們的現(xiàn)實(shí)利益和個(gè)人權(quán)利產(chǎn)生了負(fù)面影響，則會(huì)引發(fā)人們對(duì)于技術(shù)邏輯本身存在的倫理風(fēng)險(xiǎn)的擔(dān)憂。

在我和李凌主編的《算法人文主義：公眾智能價(jià)值觀與科技向善》一書中，收錄了我們“智能時(shí)代信息價(jià)值觀引領(lǐng)研究”項(xiàng)目組對(duì)2020年度與智能技術(shù)密切相關(guān)的十大熱點(diǎn)輿情事件的價(jià)值觀指向報(bào)告，從應(yīng)然和實(shí)然的角度，分析了公眾（主要是微博用戶）的智能技術(shù)價(jià)值取向。

這十大熱點(diǎn)輿情事件，既包括你所說的“大數(shù)據(jù)殺熟”、“外賣騎手困在算法里”、“APP違規(guī)搜集個(gè)人隱私”，還包括“中國(guó)人臉識(shí)別第一案”、“人工智能換臉”、“老人健康碼使用困境”、“無人駕駛汽車試運(yùn)營(yíng)”等熱點(diǎn)事件。

報(bào)告通過采集分析微博用戶的輿情數(shù)據(jù)顯示，公眾對(duì)于智能技術(shù)應(yīng)用引發(fā)的價(jià)值爭(zhēng)議和倫理風(fēng)險(xiǎn)開始覺醒。圍繞2020年智能技術(shù)應(yīng)用的十大熱點(diǎn)輿情事件，微博用戶對(duì)人類尊嚴(yán)、人類自主、公平、透明、個(gè)人信息保護(hù)、安全、責(zé)任和可持續(xù)發(fā)展等價(jià)值維度都表現(xiàn)了一定的關(guān)切，特別是對(duì)關(guān)涉到自身利益和權(quán)利的智能技術(shù)應(yīng)用，表現(xiàn)了較高的關(guān)注和價(jià)值期盼。在熱度上，“多款違法違規(guī)收集個(gè)人信息APP被處罰”事件最受輿論關(guān)注，很多網(wǎng)友都明確提出保護(hù)個(gè)人隱私的訴求。在責(zé)任價(jià)值方面，微博用戶呼吁政府相關(guān)部門解決智能技術(shù)倫理爭(zhēng)議的呼聲較高，體現(xiàn)了較高的期盼。

不過，微博用戶對(duì)智能技術(shù)的價(jià)值和倫理探討更多集中在工具價(jià)值層面，體現(xiàn)了一定的功利主義和實(shí)用主義的傾向，而忽略了目的價(jià)值層面，對(duì)涉及到人類社會(huì)文明的底線價(jià)值如人類尊嚴(yán)、自主性、自由等價(jià)值關(guān)注不夠。

報(bào)告還顯示，相比于公共性議題，當(dāng)智能技術(shù)應(yīng)用涉及到娛樂領(lǐng)域，尤其是流量明星時(shí)，微博用戶的關(guān)注度更高。例如在社交機(jī)器人賬號(hào)對(duì)輿論生態(tài)影響的這一議題中，肖戰(zhàn)粉絲辟謠事件的熱度遠(yuǎn)遠(yuǎn)高于外交部指責(zé)美方利用機(jī)器人賬號(hào)散播謠言事件的熱度；在人工智能換臉這一議題中，影視明星換臉等娛樂事件，比人工智能換臉引發(fā)新型詐騙的熱度更高，說明公眾智能信息價(jià)值觀呈現(xiàn)出一定的娛樂化傾向。

李凌：公眾對(duì)算法應(yīng)用從欣然接受到如今的批判，由“粉”轉(zhuǎn)“路”甚至轉(zhuǎn)“黑”的過程，體現(xiàn)了公眾對(duì)智能技術(shù)應(yīng)用的社會(huì)選擇。技術(shù)的發(fā)展演變有其自身邏輯和客觀規(guī)律，但是人們的主觀意志和價(jià)值取向，在技術(shù)選擇和演變過程中起到了重要作用。

按照技術(shù)的社會(huì)塑造理論，技術(shù)的發(fā)展演變是政府、市場(chǎng)、科技工作者、公眾互動(dòng)、協(xié)商和博弈的結(jié)果，“發(fā)明某物只是意味著給社會(huì)提供一種可能性，社會(huì)才決定這種可能性是否值得實(shí)現(xiàn)?！逼渲?，市場(chǎng)和用戶是技術(shù)社會(huì)選擇的重要因素。無論是工程師還是資本家，他們對(duì)技術(shù)研發(fā)設(shè)計(jì)路徑的選擇，都要在一定程度上反映用戶的選擇，接受選擇的檢驗(yàn)。很多互聯(lián)網(wǎng)產(chǎn)品的研發(fā)，都不再是一次性研發(fā)的結(jié)果，而是一個(gè)快速更新迭代的過程，是產(chǎn)品經(jīng)理、工程師與用戶多次互動(dòng)、協(xié)商、反饋而協(xié)同共建的產(chǎn)品。

正因?yàn)槿绱?，互?lián)網(wǎng)平臺(tái)應(yīng)當(dāng)重視公眾對(duì)智能技術(shù)應(yīng)用的價(jià)值取向和倫理態(tài)度，主動(dòng)自覺地將以人為本、尊重人的尊嚴(yán)、保護(hù)和增進(jìn)個(gè)體自由、維護(hù)社會(huì)公正、增進(jìn)人類福祉、促進(jìn)可持續(xù)發(fā)展等價(jià)值維度納入智能技術(shù)的研發(fā)、設(shè)計(jì)之中，推動(dòng)算法善用。