約瑟夫 ·魏岑鮑姆為躲避納粹而移居美國后，致力于數(shù)學(xué)研究并成為麻省理工學(xué)院計(jì)算機(jī)科學(xué)教授。他因ELIZA 程序而聞名。該程序的功能是模擬一位（至少在表面上）試圖從心理層面理解客戶的心理治療師 ，成為現(xiàn)今模擬人類語言的聊天機(jī)器人的早期先例。魏岑鮑姆的研究使他逐漸對(duì)計(jì)算機(jī)的可能性、局限性和用途持批判態(tài)度。他關(guān)于計(jì)算機(jī)對(duì)人類經(jīng)驗(yàn)世界影響的開創(chuàng)性著作《計(jì)算機(jī)的力量和人的理性》，觸及了 一個(gè)在當(dāng)時(shí)全新、很大程度上未知且即將迎來爆發(fā)式增長的領(lǐng)域。本文為魏岑鮑姆在1998 年接受的一次訪談 ,主要關(guān)注人工智能的發(fā)展、人與人工智能之間的類比論證，以及人機(jī)關(guān)系的批判性思考。

本文原題為"The Image of Man in Artificial Intelligence: A Conversation with Joseph Weizenbaum”， 原刊于Weizenbaum Journal of the Digital Society 3(3) ，由譯者根據(jù)CC-BY協(xié)議許可翻譯并發(fā)表在《智能社會(huì)研究》2024年第6期。伯恩哈德·珀克森（B. P?rksen） 為德國圖賓根大學(xué)媒體研究教授。王立秋為哈爾濱工程大學(xué)人文社會(huì)科學(xué)學(xué)院講師。澎湃新聞經(jīng)授權(quán)刊發(fā)。

一、約瑟夫·魏岑鮑姆：生平概述

魏岑鮑姆生于1923年，父母都是猶太人，1936年離開納粹德國移居美國，后致力于研究數(shù)學(xué)。在底特律的韋恩大學(xué)擔(dān)任研究助理期間，他開始與計(jì)算機(jī)合作，編寫Slip編程語言，并于1955年為美國銀行設(shè)計(jì)計(jì)算機(jī)系統(tǒng)，隨后在斯坦福大學(xué)擔(dān)任客座講師。1963年，魏岑鮑姆成為麻省理工學(xué)院計(jì)算機(jī)科學(xué)教授，并任教至1988年退休。他因ELIZA程序而聞名。該程序的功能是模擬一位（至少在表面上）試圖從心理層面理解客戶的心理治療師，其提問和回答方式類似于卡爾·羅杰斯學(xué)派的心理治療師。

約瑟夫·魏岑鮑姆

 魏岑鮑姆在越戰(zhàn)期間積極參與和平運(yùn)動(dòng)，并在此后持續(xù)參與此類活動(dòng)。他是德意志聯(lián)邦共和國計(jì)算機(jī)專業(yè)人員社會(huì)責(zé)任組織（Computer Professionals for Social Responsibility）和計(jì)算機(jī)科學(xué)家和平與社會(huì)責(zé)任論壇（the Forum of Computer Scientists for Peace and Social Responsibility） 的聯(lián)合創(chuàng)始人。1976年，他出版了開創(chuàng)性著作《計(jì)算機(jī)的力量和人的理性》（Computers Power and Human Reason） ，論述了計(jì)算機(jī)對(duì)人類經(jīng)驗(yàn)世界的影響。在當(dāng)時(shí)，這是一個(gè)全新且迅速發(fā)展的領(lǐng)域，很大程度上尚未被探索。在另外兩本書《駛向冰山》（Kurs auf den Eisberg）和《誰發(fā)明了計(jì)算機(jī)神話》（Wer findet die Computermythen） 中，他將注意力轉(zhuǎn)向軍事與計(jì)算機(jī)科學(xué)研究之間的聯(lián)系，并對(duì)人工智能（AI）的支持者提出了強(qiáng)烈批評(píng)。

二、個(gè)人的回憶：作為科學(xué)的批評(píng)者、神秘主義者和人的約瑟夫·魏岑鮑姆

當(dāng)我在這篇訪談發(fā)表之際回想約瑟夫·魏岑鮑姆時(shí)，與他的交談讓我感到無比興奮和滿足。[1]有三次與他接觸的經(jīng)歷讓我記憶深刻。

首先交代背景。在我年輕時(shí)，魏岑鮑姆是我父母在弗萊堡家中的?？汀ＫＴ谕聿蜁r(shí)興致勃勃地嘲弄科學(xué)界，有一次還在飯桌上批判了受路德維克·弗萊克、托馬斯·庫恩發(fā)展的知識(shí)社會(huì)學(xué)影響的范式力量（Fleck&Ludwik，1993；Kuhn，1991）。在一個(gè)特別難忘的場(chǎng)合，他即興編造了一個(gè)認(rèn)識(shí)論寓言，這一行為反映了他的個(gè)人特質(zhì)：沒有惡意，但思維敏捷、愛開玩笑，且樂于講故事。他將這個(gè)寓言稱為“一個(gè)反例的簡歷”。聽他講話時(shí)，我意識(shí)到這位科學(xué)家的思維方式與眾不同。盡管不久前他還被公認(rèn)為天賦異稟、富有創(chuàng)新精神，但他卻提出了一個(gè)與主流科學(xué)和常規(guī)科學(xué)所接受的真理相悖的反例。對(duì)魏岑鮑姆來說，我們可以對(duì)這個(gè)反例提出幾個(gè)問題。首先，這個(gè)如此大膽的人是誰？即使是一個(gè)簡單的問題，也足以削弱反例的可信度。畢竟，誰會(huì)相信一個(gè)無名小卒，花時(shí)間聽他說話呢？其次，同樣重要的是，這個(gè)相信自己能動(dòng)搖既有范式的人來自哪里，或者說來自哪個(gè)思想流派？最后，這個(gè)人在哪里發(fā)表文章？在哪些期刊上，與誰合作？是受認(rèn)可的作者或知名期刊嗎？也就是說，我們真的需要認(rèn)真對(duì)待這個(gè)人嗎？魏岑鮑姆真正想表達(dá)的是，科學(xué)知識(shí)的生成過程從來不只是理性的，它總是摻雜著社會(huì)因素。問題在于個(gè)體、流派和團(tuán)體對(duì)權(quán)力的影響，以及一種難以捉摸的、分散的聲譽(yù)評(píng)估（這種評(píng)估最終以規(guī)訓(xùn)、要求服從，有時(shí)甚至排除某些人為結(jié)果）。我意識(shí)到，約瑟夫·魏岑鮑姆正在以自己的方式接受這些經(jīng)歷：作為一名講故事的學(xué)者，含蓄而機(jī)智、不死板，且充滿幽默。

讓我記憶猶新的第二段經(jīng)歷發(fā)生在我的學(xué)生時(shí)代，而且充滿了令人驚奇的荒謬感。哲學(xué)和美學(xué)教授魯?shù)婪颉だ暧H王（Prince R. zur Lippe）邀請(qǐng)魏岑鮑姆到風(fēng)景如畫的于德莊園參加一個(gè)為期數(shù)天的研討會(huì)。由于邀請(qǐng)匆忙，且分組討論安排在周中，大部分受邀者未能出席。這讓我和一位大學(xué)朋友有幸進(jìn)入邀請(qǐng)名單，并在莊園的冬園里與魏岑鮑姆聊了幾個(gè)小時(shí)。其間，孔雀和天鵝在窗前漫步，偶爾好奇地看著我們。對(duì)我們來說，這是一次難得的機(jī)會(huì)，令人激動(dòng)不已。魏岑鮑姆看到參會(huì)人數(shù)稀少，起初有些不悅。

第一輪討論后，他調(diào)侃利珀，下次可以在“電話亭”見面，那里的空間肯定足夠。傍晚，我們?cè)诶甑牟妥郎嫌煤廊A餐具享用了附近餐館送來的烤兔肉。幾位與會(huì)者在餐中發(fā)現(xiàn)了子彈，小心翼翼地將它們放在盤子邊緣。盡管如此，氣氛依然輕松。魏岑鮑姆在餐后講話中突然提到神秘思維對(duì)他工作的重要性。盡管這座曾是修道院的莊園顯得莊嚴(yán)，他卻以迂回、間接的方式談?wù)撋衩兀路鹗欠穸ㄉ駥W(xué)的代表。他用謎語般的方式圍繞這一主題，但堅(jiān)定地表示，“有些東西不可說，活的真理無法用語言表達(dá)”，正如他在這篇談話中提到的那樣。那天晚上，與他在麻省理工學(xué)院和自然科學(xué)研究中的思維形式不同，他以一種令人印象深刻的、對(duì)理性的審慎態(tài)度（而非流行的對(duì)理性的敵意）強(qiáng)調(diào)，世界從根本上說是無法被完全解釋的。那一刻，我清晰地感受到，他不僅僅是一名計(jì)算機(jī)科學(xué)家，更是一名試圖在一個(gè)被認(rèn)為可以被看透的世界中，為驚奇感找到立足之地和存在理由的神秘主義者。

我想回憶的第三段經(jīng)歷發(fā)生在不來梅。文化批評(píng)家、技術(shù)哲學(xué)家、《歡樂相會(huì)的工具》（Tools for Conviviality）的作者、曾擔(dān)任教宗蒙席的伊萬·伊里奇（I. Illich），與他的伴侶、身體歷史學(xué)家芭芭拉·杜登（B. Duden），定期在家中舉辦聚會(huì)。周五下午，他在不來梅大學(xué)授課后，常邀請(qǐng)學(xué)生和來自世界各地的朋友到家中繼續(xù)討論至深夜。在這里，我也多次與魏岑鮑姆見面。1998年，伊里奇獲得不來梅伊洪別墅文化與和平獎(jiǎng)（Culture and Peace Prize of VillaIchonin Bremen）。受病痛折磨的伊里奇在獲獎(jiǎng)致辭中，以深刻而憂郁的方式描述了一個(gè)知識(shí)分子和世界公民對(duì)“家”的追尋。[2]對(duì)他而言，在經(jīng)歷了無數(shù)次停留—包括在拉美和美國的長期居留，以及在世界多所大學(xué)擔(dān)任客座教授—后，最終在不來梅找到了一個(gè)“家的角落”[3]是一種意外的幸運(yùn)。那一刻，他像詩人和神秘主義者一樣說話，仿佛成為另一位否定神學(xué)家。活動(dòng)結(jié)束后，我與約瑟夫·魏岑鮑姆站了一會(huì)兒，從未見過他如此激動(dòng)。他只說了一句：“那太棒了!”我意識(shí)到，他也是一位流離失所者、一位尋找者，最重要的是，一位回到德國并在出生地柏林度過余生的調(diào)解者。以下談話發(fā)生在1998年那次相遇后的某個(gè)時(shí)候。我希望它能向讀者展示作為科學(xué)批評(píng)者和神秘主義者的約瑟夫·魏岑鮑姆特有的人性。

三 、人工智能中的人的形象 ：與約瑟夫 ·魏岑鮑姆對(duì)話

（一） 機(jī)器的模型和人的模型

珀克森：任何與人工智能打交道的人，都會(huì)反復(fù)遇到兩種截然不同的視角：一些人工智能支持者將人視為機(jī)器的模型，認(rèn)為機(jī)器智能應(yīng)模仿人類智能;然而，另一群研究者則認(rèn)為，人類已不再是理想的模仿模型，未來的機(jī)器將超越人類，成為近乎完美、擁有神奇思維力量的實(shí)體。您能確認(rèn)這兩種觀點(diǎn)中哪一種是最初就存在的嗎？

魏岑鮑姆：自1956年達(dá)特茅斯會(huì)議提出“人工智能”概念以來，這兩種觀點(diǎn)就以不同形式并存。從一開始，不僅人類被視為模型和理想，機(jī)器也被認(rèn)為是待建立的模型模式。一方面，馬文·明斯基（M. Minsky）曾說：“大腦只是一臺(tái)肉做的機(jī)器?！痹谟⒄Z中，德語Fleisch有兩層含義：肉（meat）和肉體（flesh）。肉體是活的，而肉則是死的。你可以隨意處理肉——吃它、煎它、燒它。然而，明斯基的這句話依然以人類為榜樣，人們希望復(fù)制人類的智能。這一觀點(diǎn)隱含了一個(gè)想法：復(fù)制人類智能并不難，因?yàn)槿祟惖暮诵钠鞴佟竽X——不過是一臺(tái)肉做的機(jī)器。

另一方面，明斯基還提出另一種觀點(diǎn)：神作為工程師并不完美，人類是一種存在許多多余缺陷的異?，F(xiàn)象。人類需要睡眠，花費(fèi)大量時(shí)間學(xué)習(xí)卻會(huì)遺忘，最終還會(huì)死亡。然而，根據(jù)早期在人工智能社區(qū)中流行的看法，我們可以創(chuàng)造出某種更好、更完美的東西。我們正在構(gòu)建的理想模型在某些方面仍以人類為導(dǎo)向，但它更接近完美。

珀克森：進(jìn)一步推演這一想法，它實(shí)際上意味著，從這一角度來看，人類將成為連接猿人與超越人類的機(jī)器存在之間的進(jìn)化環(huán)節(jié)。布魯塞爾自由大學(xué)的人工智能教授呂克·斯提爾斯（L. Steels）建議將這種未來存在稱為“賽博智人”（homo cyber sapiens）或“人智機(jī)器人”（robot hominidus intelligens）。

魏岑鮑姆：卡內(nèi)基梅隆大學(xué)移動(dòng)機(jī)器人實(shí)驗(yàn)室主任漢斯·莫拉維克（H. Moravec）在《心智后裔》（Mind Children）中提出了類似觀點(diǎn)。他相信，人類意識(shí)可以下載到機(jī)器人身上，我們可以而且應(yīng)當(dāng)復(fù)制人類意識(shí)，使其脫離必死的身體。在他看來，身體只是心智的載體，而人的本質(zhì)是信息。他對(duì)身體持鄙視態(tài)度。

珀克森：其他與莫拉維克觀點(diǎn)相近的作者也毫不客氣地將身體稱為“一塊肉”“軟乎乎的東西”或“罐頭肉”。

魏岑鮑姆：這只是這個(gè)圈子的表達(dá)方式。無論如何，從這一角度看，未來的機(jī)器人代表對(duì)自然的修正和改進(jìn)。莫拉維克聲稱，這樣的機(jī)器可以“推動(dòng)我們的文明進(jìn)化”。他希望有意識(shí)地、控制性地干預(yù)他認(rèn)為有缺陷的進(jìn)化過程。值得一提的是，在美國，他的想法并未被視為科幻，也未受到忽視。這些觀點(diǎn)在頂尖大學(xué)中廣泛傳播——畢竟，他的書是由哈佛大學(xué)出版社出版的。

（二） 普羅米修斯的羞恥和普羅米修斯的驕傲

珀克森：我們可以認(rèn)為，這種對(duì)作為“創(chuàng)造之冠”的機(jī)器的尊崇表達(dá)了一種基本情感。哲學(xué)家君特·安德斯（G. Anders）將這種感覺稱為“普羅米修斯的羞恥”，即一種在自我設(shè)計(jì)的機(jī)器面前感到低人一等、無助甚至羞恥的心理。您同意嗎？

魏岑鮑姆：這種普遍的心理現(xiàn)象——在面對(duì)特別完美的性能時(shí)，人們會(huì)感到低人一等、無助甚至羞恥——確實(shí)存在。從這個(gè)意義上說，君特·安德斯是對(duì)的。

珀克森：馬文·明斯基曾說，硅腦的思維力如此神奇，以至于即使未來的機(jī)器人將我們當(dāng)作寵物飼養(yǎng)，人類也會(huì)感到幸福。

魏岑鮑姆：但這不僅僅是羞恥的問題。我們可以觀察到一種程序員熟悉的辯證情感：即使你認(rèn)為計(jì)算機(jī)更優(yōu)秀、更聰明，但你仍會(huì)感到某種驕傲。畢竟，你是編寫那個(gè)特殊程序的人。于是，一個(gè)基本矛盾出現(xiàn)了：你為自己的弱小感到羞恥，同時(shí)又為能夠創(chuàng)造出如此高級(jí)的程序而自豪。

珀克森：莫拉維克稱新機(jī)器人是他的“精神后裔”，這種說法也與這種驕傲感相關(guān)。

魏岑鮑姆：令人驚訝的是，一個(gè)人竟會(huì)以這種方式說話。這是巧合嗎？我不這么認(rèn)為。畢竟，人工智能領(lǐng)域是由男性主導(dǎo)的。在我看來，除了扮演神的妄想外，對(duì)女性及其生育能力的嫉妒也是一個(gè)驅(qū)動(dòng)因素。我稱這種現(xiàn)象為“子宮羨妒”。

珀克森：您是說，這是西格蒙特·弗洛伊德描述的“菲勒斯羨妒”的補(bǔ)充現(xiàn)象？

魏岑鮑姆：沒錯(cuò)?，F(xiàn)在你可以假裝自己也能生育，甚至比任何人類都做得更好、更聰明。

珀克森：但這種說法完全是臆測(cè)。從目前生產(chǎn)的機(jī)器人來看，明斯基的說法—即使未來的機(jī)器人將我們當(dāng)作寵物飼養(yǎng)，人類也會(huì)感到幸?！坪跻策^于夸張。人工智能研究相對(duì)缺乏成功案例本身不就意味著我們應(yīng)該形成一種新的自我意識(shí)，即人類能看到機(jī)器無法做到的事情？

魏岑鮑姆：當(dāng)然，看到那些未實(shí)現(xiàn)的人工智能預(yù)言，你可能會(huì)說：“難道我們不奇妙嗎？難道我們不偉大嗎？”但這些話語都是無意義的。我們不應(yīng)以機(jī)器的能力或計(jì)算機(jī)下棋的水平來衡量人類的尊嚴(yán)。這種思維形式——盡管仍帶有人本主義色彩——的致命缺陷在于，機(jī)器成了衡量人類的標(biāo)準(zhǔn)。機(jī)器人的能力或局限性，都不應(yīng)成為定義人類自我意識(shí)的基礎(chǔ)。

 （三） 技術(shù)世界的秘密人類學(xué)

珀克森：對(duì)我來說，是否應(yīng)嚴(yán)肅對(duì)待人工智能寓言領(lǐng)域的各種預(yù)測(cè)仍是一個(gè)問題。雖然大多數(shù)預(yù)測(cè)看似荒謬，但有些卻有趣、令人興奮。你會(huì)遇到各種瘋狂的推測(cè)、離譜的觀點(diǎn)和令人震驚的想法。那么，您認(rèn)為有必要嚴(yán)肅對(duì)待明斯基或莫拉維克的想法嗎？

魏岑鮑姆：這實(shí)際上是兩個(gè)問題。第一個(gè)問題是，我們是否應(yīng)預(yù)測(cè)人類有能力制造出這種更高級(jí)的機(jī)器。我們應(yīng)該為此感到害怕嗎，即某天這樣的機(jī)器人真的出現(xiàn)了，而我們將成為它們的寵物？我的回答是，不必害怕。此外，與這些人爭論技術(shù)可行性幾乎沒有意義，那是一場(chǎng)必輸?shù)挠螒颍粫?huì)讓這些想法朝新的、可能同樣不可取的方向發(fā)展。第二個(gè)問題是，我們是否應(yīng)嚴(yán)肅對(duì)待這一領(lǐng)域傳播的思想。對(duì)此，我的回答是肯定的!因?yàn)榕c其他學(xué)者一樣，這些學(xué)者在新千年來臨之際宣揚(yáng)了一種極端危險(xiǎn)的人類形象。

珀克森：這種人類形象是什么樣子的？

魏岑鮑姆：它基于這樣一種觀點(diǎn)，即人類是可以被理解、破譯、修正和改進(jìn)的機(jī)器—至少在原則上，在不遠(yuǎn)的將來可以。這種觀點(diǎn)的核心教條是，生命的所有方面都是可計(jì)算的，可以被分解為可計(jì)算的、可公式化的進(jìn)程。

珀克森：如果我沒理解錯(cuò)，您主要關(guān)注的不是技術(shù)的可行性，而是伴隨技術(shù)烏托邦出現(xiàn)的隱性意識(shí)形態(tài)。馬歇爾·麥克盧漢所說的“技術(shù)的符號(hào)效應(yīng)”與此類似。他認(rèn)為，技術(shù)創(chuàng)造了一個(gè)環(huán)境和符號(hào)世界，從而改變了人類的自我理解。

魏岑鮑姆：即使未來有可能制造出這樣的智能機(jī)器，那也將是遙遠(yuǎn)的未來、幾代人之后的事。然而，今天，人類形象正在發(fā)生變化，并取得了巨大成功。明斯基和莫拉維克并非憑空出現(xiàn)，他們是在一個(gè)絕對(duì)相信自然科學(xué)和現(xiàn)代技術(shù)的文化與時(shí)代中提出這些觀點(diǎn)的。

珀克森：我再問一次：基于機(jī)器類比的人類形象的危險(xiǎn)性在哪里？

魏岑鮑姆：從本世紀(jì)（20世紀(jì)）——也許是最野蠻的世紀(jì)——我們可以看出，這種人類形象在過去的罪行中起到了決定性作用。想想那些最殘暴的罪行，是如何通過施害者否認(rèn)受害者的人性而成為可能的。在納粹時(shí)代，猶太人被描繪為害蟲，這一比喻使大規(guī)模屠殺合法化。今天，在自然科學(xué)權(quán)威的支持下，這種觀點(diǎn)——人類不過是可被機(jī)器人取代的信息處理機(jī)器——正變得越來越牢固。這一視角與莫拉維克關(guān)于“后生物社會(huì)”中機(jī)器人統(tǒng)治的論述是一致的。

（四） 論一個(gè)比喻帶來的后果

珀克森：您的意思是，動(dòng)物的比喻與機(jī)器的比喻相似？

魏岑鮑姆：沒錯(cuò)，尤其是在一個(gè)關(guān)鍵方面相似。這些比喻摧毀了對(duì)人的尊重，使人能夠接受終結(jié)生命的可能性。就像我們不會(huì)尊重害蟲一樣，我們也不必尊重“肉做的機(jī)器”。這樣的比喻是犯下一切可想象罪行的起點(diǎn)。在我們的世紀(jì)（20世紀(jì)），這一點(diǎn)已以可怕的方式得到證實(shí)。

珀克森：您對(duì)莫拉維克的《心智后裔》做出了特別憤怒的反應(yīng)，稱他的終極目標(biāo)是實(shí)現(xiàn)“人類問題的最終解決方案”。為什么要提到納粹的罪行？我不太理解這種類比的目的。

魏岑鮑姆：或許有些過激了。但我們都是歷史的產(chǎn)物，歷史在我們出生前就已開始。我們的經(jīng)驗(yàn)塑造了我們，出生時(shí)的社會(huì)情境也影響了我們。因此，作為“德國猶太人”，我被這一類比吸引并不奇怪。其他人可能會(huì)注意到不同的東西。

珀克森：但問題依然存在：納粹的種族狂熱與人工智能教授的奇想有何共同之處？

魏岑鮑姆：當(dāng)然，漢斯·莫拉維克不會(huì)每天早晨對(duì)著鏡子行納粹禮。這不是重點(diǎn)。我想說的是，非人的人類形象具有巨大力量，這種形象會(huì)像病毒一樣在社會(huì)中傳播。我相信，納粹與莫拉維克的想法本質(zhì)上的共同點(diǎn)在于對(duì)人的貶低，以及不惜一切代價(jià)創(chuàng)造完美新人的奇想。然而，在這種完美的盡頭，人類消失了。在莫拉維克的后生物社會(huì)中，人類不復(fù)存在。我深信，今天我們必須捍衛(wèi)人道的人類形象，使其免受機(jī)器比喻的支配。

珀克森：但沒有人會(huì)無助地任由機(jī)器比喻決定的人類形象所擺布。畢竟，人類的感覺截然不同，人是作為個(gè)體行動(dòng)和接受的。

魏岑鮑姆：我的看法不同。個(gè)體非常脆弱，納粹時(shí)代徹底屈服者的形象很容易證明這一點(diǎn)。只需回想德國人的叫喊、歡呼和“勝利萬歲”的口號(hào)就夠了。人們確實(shí)——尤其是在本世紀(jì)（20世紀(jì)）——充滿激情地一再屈服，直到為時(shí)已晚，最終只能驚恐地站在萬人坑前。

（五） 人工智能的信條

珀克森：來自機(jī)器世界的比喻無處不在且一直存在。它們甚至可以追溯到蒸汽機(jī)、齒輪和螺絲的時(shí)代。我們會(huì)說心臟像泵，身體像鐘表一樣運(yùn)作，或者說人的發(fā)條松了、螺絲沒上緊。電力時(shí)代又引入了“能量不足”或“保險(xiǎn)絲燒斷了”的概念。

魏岑鮑姆：事實(shí)上，這種關(guān)于世界和人的機(jī)械論觀點(diǎn)已有大約300年的歷史。在聲稱這些比喻一直存在時(shí)，我會(huì)非常謹(jǐn)慎。幾個(gè)世紀(jì)前，但丁的地獄形象和人們憑借努力或神的善意（死后）進(jìn)入天堂的觀念還被當(dāng)作現(xiàn)實(shí)。不過，我確實(shí)認(rèn)為比喻無處不在。我認(rèn)為，一切知識(shí)和理解事物的嘗試本質(zhì)上都是比喻。我們通過類比、比較和比喻來認(rèn)識(shí)世界。我們?cè)谠噲D理解某事物時(shí)，總是使用類比模式，通過建構(gòu)相似點(diǎn)，在已知事物的框架內(nèi)把握陌生或未知的東西。

珀克森：那么，我們是否可以將馬文·明斯基關(guān)于“肉做的機(jī)器”的比喻理解為一種理解大腦的嘗試？

魏岑鮑姆：當(dāng)然可以。但如果我說“大腦不過是肉做的機(jī)器”，情況就不同了，這一點(diǎn)至關(guān)重要。你會(huì)認(rèn)為這是一個(gè)完整、全面且充分的描述。我的批評(píng)與使用特定類比或比喻來描述大腦或人無關(guān)。事實(shí)上，這是一個(gè)常見的過程，至少自牛頓以來的科學(xué)研究都有這種做法。但我反對(duì)的是這種論斷：大腦不過是一臺(tái)肉做的機(jī)器，人不過是一個(gè)信息處理系統(tǒng)。

珀克森：您反對(duì)的是簡化論？

魏岑鮑姆：我對(duì)人工智能研究的這一信條感到被冒犯和惡心，即人類生活的方方面面都是可計(jì)算、可破解的。當(dāng)然，人類會(huì)處理信息，這些比喻作為科學(xué)工作和知識(shí)的簡化模型具有重要價(jià)值。它們是必要的，有助于理解人類生活的某些方面。然而，它們是對(duì)現(xiàn)實(shí)的抽象，永遠(yuǎn)無法完全把握整體。

珀克森：您能想到其他語言或描述形式嗎？

魏岑鮑姆：如果我有這種權(quán)威，我會(huì)建議從所有科學(xué)文本中刪除“不過是……而已”的表述。重要的是，現(xiàn)象、事物、感覺和行動(dòng)永遠(yuǎn)是多樣的，可以用多種截然不同的方式描述。只有在特定語境中，它們的意義才會(huì)顯現(xiàn)。舉個(gè)簡單的例子：感到一只手搭在肩膀上是什么意思？只有在講述整個(gè)故事時(shí)，才能回答這個(gè)問題。假設(shè)一個(gè)年輕人與女友吵架后，正傷心地坐在圖書館試圖工作，突然感到一只手搭在肩上?；蛘?，假設(shè)這個(gè)年輕人是被通緝的罪犯，坐在火車站候車室時(shí)感到一只手搭在肩上。我想說明的是，沒有什么可以被一勞永逸地描述。一切描述都依賴于特定語境。

（六） 從魔像到機(jī)器人

珀克森：在我們關(guān)于必要與危險(xiǎn)的比喻和習(xí)語的爭論之后，我想嘗試以另一種方式為馬文·明斯基和漢斯·莫拉維克辯護(hù)。畢竟，人造人的夢(mèng)想由來已久。根據(jù)我的研究，莫拉維克和明斯基只是用現(xiàn)代手段實(shí)現(xiàn)了布拉格的勒夫拉比（R. L?w）制造魔像的目標(biāo)—如果你相信傳說的話。他們追隨了帕拉塞爾蘇斯（Paracelsus）創(chuàng)造人造人荷蒙庫魯斯（Homunculus）的奇想，并處于可追溯至啟蒙時(shí)代的自動(dòng)機(jī)狂熱（automatonmania）傳統(tǒng)中。

魏岑鮑姆：你的問題隱含了“不過是……而已”的簡化論表述。你實(shí)際上是在說，莫拉維克和明斯基的夢(mèng)想不過是人類歷史上一直存在的夢(mèng)想而已。然而，皮格馬利翁的理念雖然古老，甚至可以追溯到人類起源，但這并不能證明莫拉維克和明斯基的夢(mèng)想無害。相反，它恰恰證明了這種夢(mèng)想的力量。它表明，理念——即使是錯(cuò)誤的理念——具有巨大的影響力。與過去不同的是，如今人們相信，現(xiàn)代自然科學(xué)的信仰將使我們真正理解人類，而高性能的計(jì)算機(jī)似乎是實(shí)現(xiàn)這一目標(biāo)的工具，最終使今天人們欣快且傲慢地倡導(dǎo)的皮格馬利翁之夢(mèng)成為現(xiàn)實(shí)。

珀克森：人工智能的擁護(hù)者真的如此傲慢和欣快嗎？聯(lián)結(jié)主義（connectionism）這一不那么簡化論的思想流派正在逐漸擴(kuò)大其影響力。它將智能視為一種涌現(xiàn)現(xiàn)象，試圖通過構(gòu)建能夠?qū)W習(xí)的神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)智能的涌現(xiàn)。從這個(gè)角度看，大腦是一個(gè)基于無數(shù)連接的巨大神經(jīng)網(wǎng)絡(luò)。因此，受早期控制論啟發(fā)、按自組織模型訓(xùn)練的機(jī)器智能，也可能具有某種神秘且不可分解的復(fù)雜性。

魏岑鮑姆：我不認(rèn)為聯(lián)結(jié)主義者會(huì)表現(xiàn)出新的謙遜。馬文·明斯基也曾改變觀點(diǎn)，承認(rèn)人工智能領(lǐng)域早期的一些方法根本是錯(cuò)誤的，盡管它們可能帶來巨大成果。必須承認(rèn)，理解語言時(shí)語境至關(guān)重要；也必須承認(rèn)，人類身體對(duì)我們的智能至關(guān)重要。最終，這一點(diǎn)會(huì)變得明顯：設(shè)計(jì)讓機(jī)器“看起來智能”的程序幾乎沒有意義。然而，承認(rèn)錯(cuò)誤并不會(huì)帶來新的態(tài)度或謙遜。相反，認(rèn)錯(cuò)被當(dāng)作巨大進(jìn)步來宣揚(yáng)。同時(shí)，人們?nèi)园抵邢Ｍ幸惶炷芾斫馊祟惔嬖?，并?gòu)建出與大腦對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)——下一步則是破解它。

珀克森：在您對(duì)人工智能的批評(píng)中，值得注意的是，您實(shí)際上認(rèn)為生命和人類存在是某種根本上神秘的東西，您希望這種神秘性得到承認(rèn)。

魏岑鮑姆：世界充滿神秘，而人工智能界的信條——“一切皆可計(jì)算”——否定了生命的神秘性。它創(chuàng)造了一種完全透明的錯(cuò)覺，暗示我們存在的所有方面都可以被拆解和解釋。從這一視角看，相信奇跡和神秘似乎只是一種愚蠢。這種“完全可預(yù)測(cè)”的斷言深深傷害了我。

（七） 神秘與秘密

珀克森：在您的著作《計(jì)算機(jī)的力量和人的理性》接近結(jié)尾處，有一段關(guān)于與奇跡和神秘相遇的文字：“當(dāng)我們的孩子還小時(shí)，我有時(shí)會(huì)和妻子在他們睡覺時(shí)站在床邊看著他們。我們心照不宣地?zé)o聲交流；這一場(chǎng)景在人類歷史上重復(fù)了無數(shù)次，幾乎與人類本身一樣古老。正如尤內(nèi)斯庫（Ionesco）在日記中所說的：人可以通過語言表達(dá)許多東西，但語言無法傳達(dá)活的真理。”

魏岑鮑姆：的確，我的觀點(diǎn)是，有些東西不可言說，活的真理無法用語言表達(dá)。

珀克森：神秘主義者也會(huì)以同樣的方式談?wù)撋瘛?

魏岑鮑姆：我想講一個(gè)小故事。曾有一位圣公會(huì)牧師在麻省理工學(xué)院工作，他的名字很有趣——斯科特·帕拉迪斯[帕拉迪斯（Paradise，意為“天堂”）]。我們相識(shí)多年并成為朋友。有一天，我舉辦了一個(gè)小型派對(duì)，斯科特也是客人之一。我女兒與他交談后，驚訝地跑來告訴我：“斯科特說你是一個(gè)特別虔誠的人，一個(gè)神秘主義者。”

珀克森：那么，您在反對(duì)人工智能研究和日常生活計(jì)算機(jī)化時(shí)的犀利態(tài)度，是否有宗教基礎(chǔ)？

魏岑鮑姆：哎，我并不想為猶太-基督教信仰體系或有組織的宗教辯護(hù)。我不認(rèn)為天上有個(gè)裹著床單的老人，被長翅膀的金發(fā)女人環(huán)繞，注視著世間的一切。但我的確在生命中體驗(yàn)過奇跡：悲傷與震驚、清晨的突然喜悅，以及人與人之間的愛。奇跡就是奇跡，無法用語言描述。要探討它，你需要成為藝術(shù)家。

珀克森：對(duì)您來說，神不是人。那么他是什么？

魏岑鮑姆：我的回答很簡單：神就是愛。我用“愛”這個(gè)字來翻譯他的全能、恩典和其他屬性。按此理解，神無處不在的想法就變得合理了。對(duì)我來說，這意味著神也在奧斯威辛，因?yàn)樵谀抢?，也有人出于愛試圖幫助他人，哪怕只是將手搭在別人肩上安慰他們。

珀克森：你是否有任何親身體驗(yàn)想分享？

魏岑鮑姆：在20世紀(jì)30年代的柏林，當(dāng)猶太兒童被迫輟學(xué)離開普通高中時(shí)，12歲的我被送到一所猶太男校。在那里，我第一次聽說意第緒語，并遇到了東歐猶太人。他們住在“倉房區(qū)”（Scheunenviertel），生活極度貧困。當(dāng)時(shí)，我愛上了一個(gè)猶太男孩，他衣衫襤褸，我和母親盡力幫助他，時(shí)常帶些東西給他。這次相遇的氛圍讓我印象深刻，我覺得用“愛”這個(gè)字來描述它最為恰當(dāng)。

珀克森：后生物時(shí)代的策劃者很可能會(huì)嘲笑這種對(duì)不可言說之物、對(duì)愛的神秘的尊重。例如，加州作家、機(jī)器人時(shí)代策劃者馬克斯·莫爾（M.Moore）將宗教描述為“一股與我們后人類社會(huì)對(duì)立的勢(shì)力”。

魏岑鮑姆：在某些圈子里，人們會(huì)自我欺騙，試圖忽悠他人，或只是胡言亂語。許多現(xiàn)代人認(rèn)為，相較于宗教觀念，自然科學(xué)為知識(shí)提供了更堅(jiān)實(shí)的基礎(chǔ)。對(duì)此，我的看法截然不同。在我看來，自然科學(xué)不過是今天的主流世界宗教，它有自己的新信徒（學(xué)生）、教會(huì)和教堂（大學(xué)），以及牧師和異端。它甚至有自己的“紅衣主教”（諾貝爾獎(jiǎng)得主）和具體的儀式，用以證明一個(gè)人的虔誠和忠誠。還有那些不顧日常體驗(yàn)、毫無保留地信仰自然科學(xué)的所謂“平信徒”。例如，大多數(shù)人相信地球繞太陽轉(zhuǎn)，而非相反。但他們無法證明這一點(diǎn)，盡管這與他們的日常體驗(yàn)相?！谌粘Ｉ钪校麄兛吹降氖庆o止的地球和移動(dòng)的太陽。然而，他們依然盲目且不加限制地相信自然科學(xué)。支撐這種信念的——在人工智能和遺傳學(xué)的幫助下，自然科學(xué)終將創(chuàng)造出一種人造的、更優(yōu)秀的人類——正是這種類似于宗教的狂熱。隨著技術(shù)的每一次新勝利，這種信念都會(huì)繼續(xù)增長。

（八） 生者不可避免的個(gè)體性

珀克森：技術(shù)的勝利和人類變革的可能性，迫使我們重新回答哲學(xué)人類學(xué)的基本問題：什么是人？

魏岑鮑姆：我建議換個(gè)方式提問：什么是人的本質(zhì)？人與可制造的機(jī)器之間的根本差異是什么？人類與其他存在有何不同？雖然聽起來可能有些傲慢，但答案其實(shí)很簡單。我一再強(qiáng)調(diào)，每個(gè)人都是其個(gè)人歷史的產(chǎn)物。他們有獨(dú)特的生平經(jīng)歷，生活在特定的時(shí)間點(diǎn)，并不可避免地嵌入周圍的社會(huì)。也就是說，每個(gè)人都是獨(dú)特的個(gè)例。即使未來出現(xiàn)與人類行為相似、外觀驚人的智能機(jī)器——這一想法本身就很瘋狂——它也永遠(yuǎn)不會(huì)成為人。因?yàn)樗臍v史不同，它必然與人不同。

 珀克森：目前，我們可以預(yù)測(cè)有機(jī)與無機(jī)成分的混合。通過使用心臟起搏器、假體、助聽器、人造髖關(guān)節(jié)和心臟瓣膜，我們已經(jīng)將電子設(shè)備植入身體。科學(xué)史家和女性主義學(xué)者唐娜·哈拉維（Haraway，2010）在其著名的《賽博格宣言》中慶祝了這種人與機(jī)器的融合，并敦促我們享受其解放力量。她的論點(diǎn)受女性主義啟發(fā)，尖銳地指出，人與機(jī)器的融合、賽博格的創(chuàng)造，消除了男女差異的基礎(chǔ)，即壓迫的根源。如果我們都成為賽博格，繼續(xù)將女性視為他者或被壓迫對(duì)象就站不住腳了。哈拉維寫道：“賽博格政治建立在噪聲和廢棄之上，它贊揚(yáng)動(dòng)物與人的非法融合。這種聯(lián)結(jié)使男女變得復(fù)雜，破壞了欲望結(jié)構(gòu)、語言和性別生產(chǎn)的想象權(quán)力，從而顛覆了西方認(rèn)同的再生產(chǎn)模式，即自然與文化、鏡子與眼睛、仆人與主人、身體與心靈的對(duì)立?！?

魏岑鮑姆：這是一種漂亮但膚淺的想法。我注意到，處理此類問題的深刻思想家往往極其天真。唐娜·哈拉維的想法讓我困擾的地方在于：首先，我不認(rèn)為男女差異已從根本上得到了解決。在大多數(shù)科幻作品中，賽博格也有性別，因此在論證時(shí)不應(yīng)忽視這一點(diǎn)。其次，你引用的那段文字展示了另一種對(duì)進(jìn)步的欣快，即希望通過機(jī)器解決社會(huì)問題，將男女之間的永恒沖突轉(zhuǎn)移到技術(shù)領(lǐng)域，并聲稱有技術(shù)解決方案。雖然我能解數(shù)學(xué)方程，但人與社會(huì)的問題永遠(yuǎn)無法通過這種方式得到徹底解決。

珀克森：但從其他角度看，我們是否也應(yīng)感謝機(jī)器？一家電視臺(tái)曾請(qǐng)作家彼得·格拉澤（P.Glaser）用十句話對(duì)人類發(fā)表演講。他的最后一句話讓我印象深刻：“對(duì)機(jī)器好一點(diǎn)!”對(duì)我來說，這意味著，盡管機(jī)器無法解決兩性戰(zhàn)爭，但它們?nèi)允侵R(shí)的助手，促使我們進(jìn)行人類學(xué)反思，并讓我們以感激和友好的態(tài)度對(duì)待它們。

魏岑鮑姆：我也喜歡這句話，但我的理解略有不同。如果我們不鄙視機(jī)器，而是善待它們，也許我們也會(huì)以不同的態(tài)度對(duì)待人類同胞——不一定如此，但至少存在這種可能。這句話意味著，我們首先應(yīng)保持友好——無論是面對(duì)機(jī)器還是他人。這位作家說：“對(duì)機(jī)器好一點(diǎn)!”你也可以說：“對(duì)世界好一點(diǎn)!”

注釋

[1]原訪談最初以德文發(fā)表于2000年的Communicatio Socialis 1，pp.417，并收入Flessner， 2000。順便說一句，早在1997年，我就已發(fā)表過一篇對(duì)魏岑鮑姆的訪談，參看P?rksen，1997。

[2]伊里奇同樣為躲避納粹而逃離，他的母親在皈依天主教前是猶太人。他逃往佛羅倫薩和羅馬，后在紐約成為牧師，并在30歲時(shí)擔(dān)任波多黎各天主教大學(xué)副校長。

[3]對(duì)此用語的分析，參看Hartch，2015。

參考文獻(xiàn)

Fleck , L.  & T.  Ludwik  1993 , Entstehung  und Entwicklung  einer wissenschaftlichen  Tatsache.  Einführung in die Lehre vom Denkstil und Denkkollektiv.  Mit einer Einleitung herausgegeben von Lothar Sch?fer und Thomas Schnelle , [ S. l. ] : Suhrkamp.

Flessner , B.  2000 , Nach dem Menschen : Der Mythos einer zweiten Sch?pfung  und das Entstehen einer posthumanen Kultur , [ S. l. ] : [ s. n. ] .

Haraway , D.  2010 , A Manifesto for Cyborgs : Science , Technology , and Socialist Feminism in the 1980s , Cambridge : Cambridge University Press.

Hartch , T.  2015 , The Prophet of Cuernavaca : Ivan Illich and the  Crisis of the West , Oxford : Oxford University Press.

Kuhn , T.  1991 , Die Struktur wissenschaftlicher Revolutionen , [ S. l. ] : Suhrkamp.

P?rksen , B.  1997 ,“‘Die Verletzbarkeit des Individuums ist gro? ’: Ein Gespr?ch mit Joseph Weizenbaum. ”Universitas : Zeitschrift für interdisziplin?re Wissenschaft 1.