——讀《錯覺：AI如何通過數(shù)據挖掘誤導我們》有感

西澤研究院特約研究員  鄧宇

 

《錯覺：AI如何通過數(shù)據挖掘誤導我們》

       大數(shù)據時代，讓我們置身于智能化與大數(shù)據時代快節(jié)奏、便利化的生活方式當中，并且通過人工智能AI技術逐步滲透到社交、購物、出行、新聞媒體、政治事件等各個領域，甚至通過人工智能這種強大的學習能力和數(shù)據分析開始左右我們的思考、誘導我們的日常選擇。

       美國經濟學教授加里·史密斯的新著《錯覺：AI如何通過數(shù)據挖掘誤導我們》（以下簡稱《錯覺》）一書提供了非常獨特的視角，與大多數(shù)倡導大數(shù)據和追逐大數(shù)據產業(yè)的研究者不同，史密斯教授更多的是對計算機挖掘大數(shù)據以及應用到各個領域的現(xiàn)象進行批判性研究，這項研究將啟迪我們思考大數(shù)據與人工智能的社會意義、倫理價值、科學內涵。如果只考慮大數(shù)據和計算機應用的優(yōu)勢，忽視其負面效應和局限性，那么大數(shù)據以及AI將可能失去其科學與社會價值，這也是作者對“理論先于數(shù)據”這一科學方法的有力辯護。

       《錯覺》列舉了很多思想性實驗以及案例研究，如圖靈測試、漢語室思想實驗、威諾格拉德模式挑戰(zhàn)賽等等，這些實驗無不揭示計算機本身的思維模仿與學習并不是完全超越人類，計算機的語言、閱讀和寫作缺乏靈魂、語境。而計算機模型以及數(shù)據分析結果無法替代人類的判斷，仍然需要人類充分的討論與批判，完全依賴計算機的數(shù)據結果將導致很多混亂和錯誤的決策。

 

       從理論上來說，計算機技術的演進以及大數(shù)據、人工智能的應用的確已從實驗室進入到人們的日常生活當中，特別是隨著移動互聯(lián)網、5G通信技術的進步，計算機甚至在某些領域，如計算能力、學習能力、數(shù)據分析、儲存以及模型預測方面超越人類智慧。數(shù)據挖掘成為各個科技公司、高科技企業(yè)、創(chuàng)業(yè)公司的核心競爭力，一切產業(yè)發(fā)展都以大數(shù)據為支撐，而這的確產生了巨大的經濟、社會效益和廣告宣傳效益?；ヂ?lián)網產業(yè)以及數(shù)字經濟的崛起為大數(shù)據與人工智能的應用提供了廣泛的市場，數(shù)據庫的泛濫也間接引發(fā)了諸多的爭議，特別是一些購物網站、新聞媒體、社交軟件大肆應用數(shù)據挖掘，跟蹤用戶的日常應用習性、消費特點和社交網絡，企圖誘導用戶選擇購買服務或訂制某些產品。

       值得注意的是，當前計算機的運算能力早已比人類更快，承載的數(shù)據資源也更為龐大，這些依據人工智能開發(fā)的應用系統(tǒng)已滲透進人們的生活，甚至左右人們的思維。如果缺乏對計算機語言以及數(shù)據分析結果本身的識別，將帶來很多消極的結果。《錯覺》這本書通過一系列數(shù)據結果質疑計算機的“壞數(shù)據”，而使用數(shù)據同樣存在較大的“隨機性”，作者指出，模型不可避免地是由無法解釋的隨機事件創(chuàng)建出來的，我們應該承認自己容易受到模型的誘惑。

 

AI大數(shù)據融入日常生活

       看似無所不能的計算機技術卻也存在諸多的缺陷，與人類的智慧、思維相比還有很多的局限性。其中，最重要的一點，正如作者在文章開篇表明的那樣，計算機在批判性思維方面存在嚴重缺陷。計算機在數(shù)據處理、儲存以及記憶方面的優(yōu)勢是人類無法匹敵的，隨著計算機與人工智能的深度融合，大量的產業(yè)、產品以及思維將受制于計算機技術。有一點可以明確，現(xiàn)代人們的生活、生產以及創(chuàng)新大都依靠計算機模型和數(shù)據分析，海量的數(shù)據往往意味著創(chuàng)業(yè)客群與市場，而“竊取”這些個人信息和數(shù)據漸漸演變?yōu)橐环N產業(yè)，行走在法律的邊緣。作者列舉了預測總統(tǒng)大選、非線性模型、神經網絡算法等一系列典型的案例，這些“新瓶裝舊酒”的計算機數(shù)據模型看似提供了有力的技術支撐，為預測和分析驗證帶來了從未有過的“技術優(yōu)越性”，卻最終在現(xiàn)實面前“現(xiàn)形”。從現(xiàn)實來看，很多技術至上論者盲目地認為計算機語言和數(shù)據可以“無所不包”，迷信于大數(shù)據，陷入數(shù)據的誤導與錯覺，難以做出理性的決策。如作者在本書第三章總結道，計算機沒有現(xiàn)實生活認知，這些智慧和常識來自真實生活。

       《錯覺》這本書的結構充滿了“批判性”，作者并未采取理論說教、枯燥解讀的傳統(tǒng)模式，而是另辟蹊徑，從科學實驗、醫(yī)療技術、歷史政治事件、經濟數(shù)學模型、股市、保險等不同角度切入文章主題，以計算機數(shù)據分析的過程、結果進行批判性思考，啟迪讀者去正確認知計算機語言的邏輯，以及數(shù)據模型結果的隨機性因素。事實上，在這本書中，作者提出了很多識別數(shù)據和驗證數(shù)據真實性的方法，一方面是計算機語言缺乏時間性，線性的數(shù)據分析并不能解釋非線性世界的諸多現(xiàn)象，反而簡化了現(xiàn)實世界的復雜性；另一方面是數(shù)據本身的缺陷，在計算機技術尚處于開發(fā)階段，人工智能還未成熟，距離人類的思想、批判能力存在較大差距，導致了數(shù)據的收集、整理和分析并不全面，漏洞百出的數(shù)據結果不足以支撐分析的可靠性。近年來，計算機與大數(shù)據也正在通過其廣泛的民意基礎對政治選舉進行“干預”，網上民調、互聯(lián)網民意、媒體輿論等，甚至開始進入到選舉程序。

       人工智能的發(fā)展沒有達到預想的效果，是因為現(xiàn)實生活與歷史事件的復雜性超越了大數(shù)據本身的分析，而且眾多的數(shù)據未能考慮時間的跨度，模型以及計算機語境的符號不能完全取代人類的批判性思維?！跺e覺》這本書的精彩之處正在于此，如馬里蘭大學法學教授弗蘭克·帕斯奎爾所評價的，本書從計算機的角度出發(fā)，對人工智能、大數(shù)據和機器學習在我們日常生活中愈發(fā)盛行的現(xiàn)狀做出了強烈批判。本書的寫作邏輯與加里·史密斯教授一直以來對數(shù)據分析方法的批判性研究一脈相承，其經典著作《數(shù)據科學的9個陷阱》《基本統(tǒng)計、回歸和計量經濟學》《標準偏差：有缺陷的假設，扭曲的數(shù)據，以及其他欺騙統(tǒng)計數(shù)據的方法》等幾乎都在批判數(shù)據分析模型和方法，這種思維貫穿于《錯覺：AI如何通過數(shù)據挖掘誤導我們》之中。本書最后四章的案例論述聚焦于醫(yī)療、股市、日常生活的事例，詳細分析AI如何通過數(shù)據挖掘誤導我們。如作者在結語部分所言，統(tǒng)計學證據不足以辨別真知灼見和虛假信息。只有邏輯、智慧和常識才能對其加以區(qū)分。人工智能目前還無法評估事物是真正相關還是偶然相關，因為她還不理解數(shù)據的意義。

       讀罷此書，也讓我想到了近期一本風靡的暢銷書，以色列歷史學家尤瓦爾·赫拉利的《今日簡史》，這本跨學科的經典著作提出了富有啟發(fā)性的思考，其中對人工智能和大數(shù)據提出了深刻的批判，作者認為，我們真正應該擔心的，是有一小群超人類精英憑借算法帶來的力量，與大量底層的手無權利之人之間發(fā)生沖突。兩本書有異曲同工之妙，都對大數(shù)據、AI人工智能和算法提出了質疑，這種批判精神有助于我們對計算機科學技術的應用保持警惕。對于普羅大眾來說，正確理解和判斷人工智能、大數(shù)據的虛假信息、錯誤模型著實比較困難，需要花費時間和精力去辨別，最重要的是能夠形成獨立的思想判斷力，盡可能不被大數(shù)據所誤導。當然，本書的出發(fā)點并不是毫無根據地指責大數(shù)據和人工智能的科學進步，而是站在更接近于人性和社會學的角度理解AI，這才是真正的科學精神。加里·史密斯教授最后指出，在大數(shù)據時代，真正的危險部署計算機比我們更聰明，而是我們自己也這么認為，從而信任計算機為我們做出重要決定?！跺e覺：AI如何通過數(shù)據挖掘誤導我們》則給予我們一次反思大數(shù)據和AI人工智能的機會。

科學精神