隨著近來(lái)大語(yǔ)言模型技術(shù)的飛躍發(fā)展，對(duì)話式AI提供了日益復(fù)雜的互動(dòng)。但可以說(shuō)它們能提供真實(shí)的聯(lián)系，甚至能緩解孤獨(dú)流行病嗎？在回答這個(gè)問(wèn)題的時(shí)候，本文追溯了AI真實(shí)性的歷史，這個(gè)真實(shí)性是由對(duì)智能機(jī)器和人類交流的文化想象歷史地塑造出來(lái)的。

像與人一樣與AI互動(dòng)的錯(cuò)覺(jué)，至少自二十世紀(jì)六十年代就已經(jīng)存在了，當(dāng)時(shí)，人們用第一個(gè)聊天機(jī)器人Eliza的名字命名了所謂的“Eliza效應(yīng)”。社會(huì)學(xué)家雪莉·特克（Sherry Turkle）用“真實(shí)性危機(jī)”這個(gè)術(shù)語(yǔ)來(lái)描述Eliza效應(yīng)，它代表這樣的恐懼，即與AI互動(dòng)會(huì)損害真實(shí)的人類聯(lián)系，使用戶容易受到操縱。

不過(guò)，最近的研究者開(kāi)始探索對(duì)真實(shí)性的，不那么擬人化的定義。反過(guò)來(lái)，對(duì)真實(shí)性的期望——也許，是幻想——又源于以技術(shù)為中介的交流的更為漫長(zhǎng)的歷史，可以追溯到十九世紀(jì)電報(bào)的發(fā)明。通過(guò)全盤(pán)考慮這段歷史，本文得出這樣的結(jié)論：與AI的關(guān)系可能并非對(duì)人類互動(dòng)的模仿，相反，與AI關(guān)系的真實(shí)性必須承認(rèn)AI的人造性，在我們中介化的、經(jīng)常是孤獨(dú)的時(shí)代提供一種新形式的陪伴。

《銀翼殺手2049》劇照

智慧、友善、體貼、有創(chuàng)造力、有愛(ài)和好奇。這些不只是人夢(mèng)寐以求的屬性，也都是Facebook、Instagram和Thread上新上線的聊天機(jī)器人Meta AI被認(rèn)為具有的特征。[1]當(dāng)2024年4月，Meta推出其社交媒體項(xiàng)目的最新成員的時(shí)候，他們宣傳它具有“學(xué)習(xí)、完成任務(wù)、創(chuàng)造內(nèi)容和連接”的能力。[2]但作為對(duì)話式AI，它也被打造得仿佛具有像人一樣的人格。

就此而言，Meta AI是建立在像Replika和Character那樣的對(duì)話式AI平臺(tái)日益流行的基礎(chǔ)上的。AI提供了各種各樣的機(jī)器人程序，其中許多都可以在表現(xiàn)、背景和特征上進(jìn)行定制。Meta不是第一家發(fā)布應(yīng)用內(nèi)聊天機(jī)器人的公司——比如說(shuō)，My AI早在2023年就發(fā)布了SnapChat——但Meta AI的布局最廣。[3]我們已經(jīng)超越Alexa和Siri，走向了AI朋友。

“到本十年末”，馬克·扎克伯格預(yù)言說(shuō)，“我認(rèn)為很多人會(huì)終日頻繁地與AI交談”。[4]除顯然自利的考慮外，扎克伯格的主張也響應(yīng)了許多關(guān)于聊天機(jī)器人的研究，后者主張聊天機(jī)器人“可以滿足一些熟人能夠滿足的相同需求”。隨著它們變得更加復(fù)雜，社會(huì)學(xué)家和心理學(xué)家的工作指出，“這些對(duì)話智能體不久之后將有望給各種各樣的用戶提供個(gè)人化的社會(huì)支持”。[5]根據(jù)這一思路，技術(shù)創(chuàng)新是阻礙持續(xù)的、令人滿足的人與AI互動(dòng)的唯一障礙。從研究者到公司的領(lǐng)導(dǎo)層，都充滿了對(duì)大語(yǔ)言模型提供陪伴的希望和炒作，有人甚至指出，它們可以緩解美國(guó)醫(yī)務(wù)總局認(rèn)定的“孤獨(dú)流行病”。[6]

然而，墨菲的報(bào)告又把線上互動(dòng)識(shí)別為孤獨(dú)流行病的一大原因。在缺乏有意義的親身參與關(guān)系的情況下，人們轉(zhuǎn)向線上互動(dòng)，后者又進(jìn)一步消耗他們的注意力，使他們無(wú)暇關(guān)注自己身邊的人。墨菲寫(xiě)道，這種類型的互動(dòng)“取代了親身參與，壟斷了我們的注意力，降低了我們互動(dòng)的品質(zhì)，甚至貶低了我們的自尊”。[7]

扎克伯格的技術(shù)解決主義思維想象技術(shù)可以解決它創(chuàng)造出來(lái)的那些問(wèn)題。這種思維方式認(rèn)為，只要聊天機(jī)器人足夠好，它就會(huì)是對(duì)人類互動(dòng)的有效替代。研究者經(jīng)常從聊天機(jī)器人的真實(shí)性和它們運(yùn)行所依賴的大語(yǔ)言模型來(lái)討論這個(gè)“足夠好”的閾值。[8]比如說(shuō)，2018年的一個(gè)研究把聊天機(jī)器人的真實(shí)性定義為“通過(guò)經(jīng)驗(yàn)來(lái)學(xué)習(xí)、擬人化、帶有容易看穿的目的，展現(xiàn)出（高級(jí)的）對(duì)話行為并前后一致”。他們提出，在這一方針的指示下，“研究者將能夠改進(jìn)新興技術(shù)的社會(huì)-倫理”。[9]但真實(shí)性對(duì)AI——它的名字就包含“人工”——來(lái)說(shuō)是一個(gè)復(fù)雜的問(wèn)題，它受到了對(duì)智能機(jī)器和人類交流的文化想象的塑造。人類與機(jī)器接觸、通過(guò)機(jī)器來(lái)接觸彼此的歷史，也塑造了我們對(duì)今天那些互動(dòng)的期望，從對(duì)AI的恐懼，到技術(shù)解決主義的幻想。

人把自己和計(jì)算機(jī)的對(duì)話擬人化的傾向，和最古老的聊天機(jī)器人一樣老。一些人在與計(jì)算機(jī)互動(dòng)時(shí)體驗(yàn)到的那種人性錯(cuò)覺(jué)，被稱為“Eliza效應(yīng)”，它得名自第一個(gè)聊天機(jī)器人，MIT教授約瑟夫·魏岑鮑姆在二十世紀(jì)六十年代中期發(fā)明的Eliza。

社會(huì)學(xué)家雪莉·特克（Sherry Turkle）把Eliza的發(fā)明稱作一場(chǎng)“真實(shí)性的危機(jī)”。[10]Eliza帶來(lái)了關(guān)于真實(shí)關(guān)系的新問(wèn)題。真實(shí)關(guān)系是一個(gè)“傳統(tǒng)上留給這樣的關(guān)系，即其中每一方都能感到[信任、關(guān)心和共情]的，也就是說(shuō)，各方都是人的關(guān)系”的術(shù)語(yǔ)。[11]新的、對(duì)互動(dòng)技術(shù)的依賴，再加上相互理解的錯(cuò)覺(jué)——特克稱——是誘人的，但最終是空洞的。她相信，缺乏關(guān)系的真實(shí)性會(huì)讓人容易被控制機(jī)器人程序的人——騙子、公司、政府——愚弄。但更兇險(xiǎn)的是，它還會(huì)阻礙與其他人形成有意義的連接的能力。特克相信，Eliza效應(yīng)用對(duì)關(guān)系的模擬取代了真實(shí)的關(guān)系。

隨著聊天機(jī)器人越來(lái)越融入日常生活，AI真實(shí)性的概念也變得更加復(fù)雜。一些真實(shí)性模型沿著特克的思路努力，試圖創(chuàng)造一種讓用戶覺(jué)得真實(shí)的，好的模擬。比如說(shuō)，2018年一個(gè)對(duì)客服聊天機(jī)器人的研究認(rèn)為“信息代理必須擬人化以變得真實(shí)?！?span style="color: #95a5a6;">[12]作者引用了訪談對(duì)象的說(shuō)法，他們都使用源自虛構(gòu)的模擬的語(yǔ)言：機(jī)器人應(yīng)該“創(chuàng)造一個(gè)你可以與之產(chǎn)生聯(lián)系、可以當(dāng)作自己模范的人類人格”，即作者所說(shuō)的“性格”。[13]在這樣的思維方式中，AI真實(shí)性關(guān)乎讓用戶相信聊天機(jī)器人像人。

然而，隨著近來(lái)大語(yǔ)言模型的爆發(fā)式創(chuàng)新，研究者也試圖在模仿之外的其他方向上改進(jìn)AI真實(shí)性的概念。2023年商業(yè)和計(jì)算機(jī)科學(xué)研究者做的一個(gè)研究沒(méi)有把AI真實(shí)性定義為“像人”，而是把它定義為這樣的期望，即“作為與人交流的結(jié)果，陪伴聊天機(jī)器人會(huì)以它自己獨(dú)一無(wú)二的方式演化”。[14]用戶更可能在機(jī)器人不像人一樣交流、但提供一種令人愉快的互動(dòng)體驗(yàn)的時(shí)候，把機(jī)器人評(píng)價(jià)為合法的伴侶。這樣，最近的研究從2018年的研究得出了這樣的結(jié)論——“我們不需要智能，相反，我們需要在社交上聰明的智能體”，并給了它深度。在這里，真實(shí)性不是成功的復(fù)制，而是一種新的原創(chuàng)。[15]

不過(guò)，在這兩種情況下，研究都讓人類用戶來(lái)評(píng)價(jià)AI的真實(shí)性，后者被視作一組預(yù)期，這些預(yù)期早在聊天機(jī)器人發(fā)明之前就已經(jīng)形成了。在二十世紀(jì)六十年代的時(shí)候，Eliza效應(yīng)要成立，用戶必須已經(jīng)具備這樣的思維框架，即認(rèn)為脫離身體的、沒(méi)有手寫(xiě)或聲音的具身接觸的文本是人性的標(biāo)志。對(duì)脫離身體的實(shí)時(shí)交流的體驗(yàn)并非始于二十世紀(jì)六十年代的Eliza，而是始于十九世紀(jì)的電報(bào)。隨著電報(bào)的發(fā)明，遠(yuǎn)距離同時(shí)交流第一次成為可能。兩個(gè)或更多的人能夠在沒(méi)有聽(tīng)到一個(gè)詞的情況下打趣，能夠在相隔數(shù)百或數(shù)千英里，看不到對(duì)方的情況下調(diào)情。

《連線之戀：一段點(diǎn)與劃中的愛(ài)情》（Wired Love: A Romance in Dots and Dashes）書(shū)封

新聞故事警示了以這樣的方式把身體和語(yǔ)言分開(kāi)的危險(xiǎn)，它們?cè)敿?xì)描述了現(xiàn)在我們所說(shuō)的網(wǎng)絡(luò)交友詐騙丑聞。其他故事——通常是虛構(gòu)的——?jiǎng)t更加浪漫。艾拉·齊弗·塞耶（Ella Cheever Thayer）1879年的暢銷小說(shuō)《連線之戀：一段點(diǎn)與劃中的愛(ài)情》（Wired Love: A Romance in Dots and Dashes）講述了兩個(gè)年輕電報(bào)員克萊姆和娜塔莉遠(yuǎn)距離談戀愛(ài)的故事。小說(shuō)開(kāi)啟了這樣一個(gè)問(wèn)題，即有沒(méi)有可能只靠文字形成連接。愛(ài)情可以只以語(yǔ)言的形式存在多久？身體，如果重要的話，在什么時(shí)候重要？

《連線之戀》展示了對(duì)另一邊的身體的期望是如何持續(xù)的。在小說(shuō)的中間部分，克萊姆在沒(méi)有事先通知的情況下，油膩、歪斜地帶著麝香味出現(xiàn)在娜塔莉的辦公室。他帶著“廉價(jià)的自信”走進(jìn)來(lái)，炫耀他的小飾品，身上散發(fā)著廉價(jià)古龍水的味道，頭發(fā)上涂滿了熊油。[16]他朝娜塔莉擠眉弄眼，讓她狼狽不堪。她怎么會(huì)為這樣一個(gè)人的文字而傾倒呢？

事實(shí)證明，這次來(lái)訪只是同一線路一名心懷嫉妒的電報(bào)員搞的一次惡作劇，他一直通過(guò)電報(bào)偷聽(tīng)他們調(diào)情。這一情節(jié)設(shè)計(jì)，是建立在這樣的基礎(chǔ)之上的，即1879年的讀者在對(duì)脫離身體的交流心存懷疑的同時(shí)，又為之而感到著迷。最終，真正的克萊姆以和他的文字一樣優(yōu)雅的形象出現(xiàn)。書(shū)的最后幾行是以摩爾斯電碼的形式出現(xiàn)的，對(duì)讀者來(lái)說(shuō)，是一個(gè)謎。甚至在克萊姆和娜塔莉?yàn)槊鎸?duì)面互動(dòng)而發(fā)誓戒掉點(diǎn)和劃的時(shí)候，小說(shuō)依然捕捉到了連線之戀的誘惑。那就是這樣一種幻想：真實(shí)的連接只通過(guò)語(yǔ)言發(fā)生，沒(méi)有肉體性、社會(huì)情境或物質(zhì)環(huán)境的復(fù)雜。

學(xué)者們已經(jīng)相信，如今，這些中介化的、即時(shí)的對(duì)話定義了現(xiàn)代的交流體驗(yàn)。也就是說(shuō)，我們把自己與他人的互動(dòng)理解為骨子里和技術(shù)糾纏在一起的，或者，就像勞拉·奧提斯（Laura Otis）指出的那樣，使“用戶認(rèn)為他們是網(wǎng)絡(luò)的一部分”。[17]甚至在面對(duì)面說(shuō)話的時(shí)候，我們也會(huì)感到一種迂回，即那種矛盾的，電話、網(wǎng)絡(luò)或者就像在娜塔莉那里一樣由電報(bào)線路網(wǎng)絡(luò)帶來(lái)的，隔著距離的親近感。換言之，當(dāng)我們的個(gè)人互動(dòng)已經(jīng)有了中介化的感覺(jué)的時(shí)候，把中介化的對(duì)話想象為個(gè)人的甚至更容易了。

合在一起，這給了我們兩種有時(shí)相互沖突的信念：真正的連接只通過(guò)語(yǔ)言發(fā)生，這解釋了我們能在AI那里感到的人性或真實(shí)。同時(shí)，還有這樣一種感覺(jué)，即我們的親身互動(dòng)已經(jīng)有了中介化的感覺(jué)，這讓連接變得更加困難。此外，許多關(guān)于AI真實(shí)性的研究來(lái)自商業(yè)導(dǎo)向的研究。對(duì)這些研究來(lái)說(shuō)，創(chuàng)造對(duì)聊天機(jī)器人的信任，是一種提高銷量而非解決孤獨(dú)感的辦法。

這些信念會(huì)隨技術(shù)的變革而發(fā)生變化，但為了理解Meta AI和其他聊天機(jī)器人兜售的幻想，我們必須首先理解我們技術(shù)中介化的歷史。這些歷史又反過(guò)來(lái)塑造了我們當(dāng)下對(duì)這種技術(shù)的評(píng)價(jià)。我相信，與AI關(guān)系中的真實(shí)性，不以模仿人類的關(guān)系、完全對(duì)應(yīng)地用AI來(lái)取代人為標(biāo)志，相反，它將是一種對(duì)人工智能的人造性的承認(rèn)，是我們中介化（且經(jīng)常是孤獨(dú)的）世代的一種新關(guān)系。

*本文原文為Megan Ward，“Can Chatbots Be Authentic?”, Public Humanities （2025）, 1, e37, 1-5。按CC BY4.0協(xié)議譯介。梅根·沃德為美國(guó)俄勒岡大學(xué)文理學(xué)院助理教授。

注釋

[1] AffectionateTrips 2024.

[2] Meta 2024.

[3] 比如說(shuō)，《紐約時(shí)報(bào)》說(shuō)Meta AI的發(fā)布是“大科技公司迄今為止最聲勢(shì)浩大的，把這種人工智能——所謂的生成式AI——推向主流的舉措”（Chen 2024）。

[4] Zuckerberg 2024.

[5] Drouin et al. 2022.

[6] Murthy 2023.

[7] Murthy 2023, 20.

[8] Meta AI是在Meta Llama 3的基礎(chǔ)上運(yùn)行的，而ChatGPT則基于一個(gè)來(lái)自GPT-3.5系列的模型（Open AI 2023; Meta 2024）.

[9] Neururer et al. 2018.

[10] Turkle 2007, 502.

[11] Turkle 2007, 504.

[12] Neururer et al. 2018.

[13] Neururer et al. 2018.

[14] Pentina et al. 2023.

[15] Neururer et al. 2018.

[16] Cheever 1880, 94.

[17] Otis 2002, 2.

參考文獻(xiàn)

AffectionateTrips. 2024. “A Loving Chat with Meta’s AI.” Reddit 16: 2024. https://www.reddit.com/r/ChatGPT/

comments/1asvb99/a_loving_chat_with_metas_ai/.

Cheever, Ella Thayer. 1880. Wired Love: A Romance of Dots and Dashes. New York: W. F. Johnston. https://babel.hathi

trust.org/cgi/pt?id=nyp.33433044170904&seq=9.

Chen, Brian X. 2024. “Meta’s AI Assistant is Fun to Use, but It Can’t Be Trusted.” New York Times, April 24, 2024.

https://www.nytimes.com/2024/04/24/technology/personaltech/meta-ai-facebook-instagram-chatbot.html.

Drouin, Michelle, Susan Sprecher, Robert Nicola, and Taylor Perkins. 2022. “Is chatting with a sophisticated chatbot

as good as chatting online or FTF with a stranger?” Computers in Human Behavior 128: 107100. https://doi.

org/10.1016/j.chb.2021.107100

Meta. 2024. “Introducing Meta Llama 3: The most capable openly available LLM to date.” Posted April 18, 2024.

https://ai.meta.com/blog/meta-llama-3/.

Murthy, Vivek H. 2023. “Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General’s Advisory on the

Healing Effects of Social Connection and Community.” https://www.hhs.gov/sites/default/files/surgeon-gen

eral-social-connection-advisory.pdf.

Neururer, Mario, Stephan Schl?gl, Luisa Brinkschulte, and Aleksander Groth. 2018. “Perceptions on Authenticity in

Chatbots.” Multimodal Technologies and Interactions 2: 60. https://doi.org/10.3390/mti2030060

Open AI. 2023. “Introducing ChatGPT.” Posted November 30, 2022. https://openai.com/index/chatgpt.

Otis, Laura. 2002. Networking: Communicating with Bodies and Machines in the Nineteenth Century. Ann Arbor: University

of Michigan Press.

Pentina, Iryna, Tyler Hancock, and Tianling Xie. 2023. “Exploring relationship development with social chatbots: A

mixed method study of Replika.” Computers in Human Behavior 140: 107600. https://doi.org/10.1016/j.

chb.2022.107600

Turkle, Sherry. 2007. “Authenticity in the Age of Digital Companions.” Interaction Studies 8 （3）: 501–517.

Zuckerberg, Mark （@zuck）. 2024. “Some updates on our AI efforts.” Threads. Janurary 18, 2024. https://

www.threads.net/@zuck/post/C2QBoRaRmR1/?igshid=MzRlODBiNWFlZA%3D%3D.