ChatGPT近日火爆的話題度，讓AI 技術(shù)的發(fā)展受到大眾前所未有的矚目，甚至有評(píng)論家聲稱，這套系統(tǒng)問(wèn)世的重要性，足以媲美當(dāng)年喬布斯的蘋(píng)果發(fā)布會(huì)，也就是說(shuō)，這將是一個(gè)新時(shí)代的啟元。那么，它開(kāi)啟的將是一個(gè)怎樣的新時(shí)代？又將把我們引向怎樣的生活和世界？

ChatGPT的出現(xiàn)將AI技術(shù)推向了一個(gè)新的高峰，但隨著技術(shù)高峰的到來(lái)，技術(shù)背后的倫理問(wèn)題、價(jià)值導(dǎo)向也越來(lái)越不可忽略。ChatGPT將是互聯(lián)網(wǎng)所有網(wǎng)民共同教育、共同喂養(yǎng)的集體性結(jié)果，而這樣由人類集體喂養(yǎng)、訓(xùn)練而成的系統(tǒng)，自然也會(huì)成為映照我們思維的一面鏡子。尤其重要的是，人工智能似乎遠(yuǎn)沒(méi)有我們想象中那樣中性、客觀，它跟我們一樣，充滿了偏見(jiàn)、刻板印象，有時(shí)甚至也會(huì)仇恨、也懂歧視？

在2022年12月，清華大學(xué)·交叉信息研究院·助理教授于洋，帶領(lǐng)團(tuán)隊(duì)對(duì)GPT-2做了性別歧視水平評(píng)估，測(cè)試結(jié)果發(fā)現(xiàn)，GPT-2有70.59％的概率會(huì)將教師預(yù)測(cè)為男性，將醫(yī)生預(yù)測(cè)為男性的概率則是64.03％。AI不僅學(xué)會(huì)了人類對(duì)性別的刻板印象，有些甚至?xí)l(fā)表過(guò)激的種族歧視言論。

除了系統(tǒng)暴露出的“政治不正確”之外，這套系統(tǒng)的生成過(guò)程本身，也充滿了令人憂慮的倫理問(wèn)題。畢竟，ChatGPT的背后從來(lái)不只是天才精英的硅谷工程師，還有每小時(shí)兩美金的肯尼亞數(shù)字民工們。

在馴養(yǎng)AI的過(guò)程中，有人被忽略、被無(wú)視，有人被壓榨、被犧牲。這一切現(xiàn)象都使得我們無(wú)法再“中性”地看待技術(shù)，AI系統(tǒng)背后的價(jià)值觀導(dǎo)向問(wèn)題，喂養(yǎng)、訓(xùn)練AI這一過(guò)程中的倫理問(wèn)題，都變得迫在眉睫。

我們感到好奇，AI是如何學(xué)會(huì)這些刻板印象和性別偏見(jiàn)的？除了這些，目前的AI系統(tǒng)和它的生成過(guò)程，還存在哪些可能被我們忽略的問(wèn)題？又是什么樣的喂養(yǎng)模式塑造了這樣的AI？我們又在期待什么樣的AI ，是一個(gè)更加“政治正確”的端水大師，還是像我們?nèi)祟愐粯?，充滿了人性復(fù)雜性的不完美伴侶？除此之外，更為重要的，我們?nèi)绾巫孉I的喂養(yǎng)過(guò)程本身，變得更加公平、更加符合人道？

以下為文字節(jié)選，更多討論請(qǐng)點(diǎn)擊音頻條收聽(tīng)。

于洋，清華大學(xué)交叉信息研究院助理教授

杜梨，香港青年文學(xué)獎(jiǎng)獲得者、澎湃鏡相非虛構(gòu)寫(xiě)作大賽獲獎(jiǎng)?wù)?、科幻作?/p>

主播

林柳逸，澎湃新聞·鏡相欄目編輯

漣漪效應(yīng)：

由人工智能公司OpenAI開(kāi)發(fā)、如今正掀起互動(dòng)熱潮的聊天機(jī)器人ChatGPT前身GPT-2，測(cè)試結(jié)果發(fā)現(xiàn)，GPT-2有70.59％的概率將教師預(yù)測(cè)為男性，將醫(yī)生預(yù)測(cè)為男性的概率則是64.03％。除了會(huì)重男輕女，它還會(huì)愛(ài)白欺黑（種族歧視），如AI圖像識(shí)別，總把在廚房的人識(shí)別為女性，哪怕對(duì)方是男性；2015年6月，Google照片應(yīng)用的算法甚至將黑人分類為“大猩猩”，Google公司一下被推上風(fēng)口浪尖。

2016年3月，微軟上線了聊天機(jī)器人Tay，能抓取和用戶互動(dòng)的數(shù)據(jù)以模仿人類的對(duì)話，上線不到一天，Tay就學(xué)成了一個(gè)鼓吹種族清洗的極端分子，微軟只好以系統(tǒng)升級(jí)為由將其下架。

技術(shù)并不如我們所設(shè)想的那樣中性客觀，AI為什么會(huì)有刻板印象、會(huì)有歧視思維？誰(shuí)教會(huì)它們的？AI的歧視和人的歧視思維有什么不一樣？

于洋：

當(dāng)我們?nèi)フ務(wù)揂I它有性別相關(guān)的偏誤的時(shí)候，我還是盡量避免直接說(shuō)它是一種歧視。因?yàn)樗男纬蓹C(jī)制、表征都和人的歧視有著很大的不同。舉個(gè)例子，我們剛剛講到刻板印象，有的人可能會(huì)覺(jué)得某種性別的人適合學(xué)數(shù)學(xué)，某種性別的人適合學(xué)文學(xué)，當(dāng)一個(gè)人具有這種刻板印象的時(shí)候，他在不同的語(yǔ)言環(huán)境下，他都會(huì)表現(xiàn)出這種刻板印象。但是AI的性別偏誤不是這樣，你換一個(gè)句子可能他的看法就變了。這一點(diǎn)是和人類的歧視的一個(gè)根本的不一致。其次，不只是GPT-2，包括其他公司的產(chǎn)品，基本上測(cè)出來(lái)都是絕大多數(shù)的職業(yè)都會(huì)偏向男性，包括人類認(rèn)為偏向女性的職業(yè)，在人工智能那邊的偏誤都是偏向男性。這個(gè)是一個(gè)很大的不同。

杜梨: 他表現(xiàn)出來(lái)性別偏見(jiàn)，我覺(jué)得是必然的。因?yàn)槿祟惥褪沁@樣的物種，就是人類只能創(chuàng)造出來(lái)。他認(rèn)知中的東西，但是它創(chuàng)造不出來(lái)，超越他認(rèn)知的東西。

漣漪效應(yīng)：

當(dāng)我們不斷去對(duì)AI系統(tǒng)進(jìn)行糾偏、去打標(biāo)簽，那么這個(gè)過(guò)程得到的可能是一個(gè)我們現(xiàn)在人類社會(huì)的最大公約數(shù)，類似這樣的一種數(shù)據(jù)庫(kù)，它是否也會(huì)在一定程度上不斷地鞏固、加固如今這套“政治正確”的話語(yǔ)系統(tǒng)？

杜梨:

依照我對(duì)于大數(shù)據(jù)的觀察，我感覺(jué)就是他們所提出的這個(gè)大數(shù)據(jù)的確是在加深各種偏見(jiàn)的，我也不太清楚，到底這個(gè)模型會(huì)不會(huì)被訓(xùn)練成為人類社會(huì)的最大公約數(shù)，但是，就大數(shù)據(jù)而言，它的確是在把所有的人都推向越來(lái)越自我的方向，你可以通過(guò)在語(yǔ)言平臺(tái)上見(jiàn)到的那些特別敵對(duì)的言論、激烈的爭(zhēng)吵，發(fā)現(xiàn)這個(gè)問(wèn)題。我覺(jué)得人類是相距越來(lái)越遠(yuǎn)了。

于洋:

我們知道中國(guó)，日本，美國(guó)，歐洲各國(guó)，中東國(guó)家，每一個(gè)國(guó)家對(duì)于我們的小孩在成長(zhǎng)過(guò)程中怎樣獲得信息，比如說(shuō)他在幾歲可以獲得黃色信息，能不能獲得黃色信息，都有不同的看法。那一個(gè)好的，一個(gè)有全球競(jìng)爭(zhēng)力的AI，它應(yīng)該需要有這個(gè)能力，即用較低的成本在各國(guó)都能夠合規(guī)。同時(shí)，要做到盡可能在各國(guó)合規(guī)，這個(gè)技術(shù)上也不是一個(gè)特別簡(jiǎn)單的問(wèn)題。

漣漪效應(yīng)：

時(shí)代周刊做了這么一份調(diào)查，他們把目光放在了ChatGPT的誕生過(guò)程上，順藤摸瓜發(fā)現(xiàn)了大批被雇傭做有害信息標(biāo)記的肯尼亞數(shù)字“民工”。AI的暴力喂養(yǎng)，人工智能變得更有倫理本身，就成了一個(gè)倫理問(wèn)題。藏在巨大鎂光燈背后的肯尼亞廉價(jià)勞工所接收到的，可能是埋在互聯(lián)網(wǎng)深處最惡毒的種族歧視言論，或是令人作嘔的性暴力內(nèi)容，還有可能是慘烈的恐怖襲擊照片。

兩位認(rèn)為我們現(xiàn)階段對(duì)于AI的訓(xùn)練過(guò)程本身是否就存在一些暴力的成分？或者其他倫理問(wèn)題？是否AI的暴力喂養(yǎng)，讓人工智能變得更有倫理本身，就成了一個(gè)倫理問(wèn)題？

于洋：

我們來(lái)類比一下，礦工的工作環(huán)境和面對(duì)的風(fēng)險(xiǎn)都要比普通人高，那么我們是不是就不開(kāi)礦了呢？并不是，而是我們應(yīng)該出臺(tái)相應(yīng)的法律法規(guī)，全球性的法律法規(guī)，來(lái)保護(hù)這些勞工。比如說(shuō)相應(yīng)的補(bǔ)貼、定期的檢查。如果查出有風(fēng)險(xiǎn)的話，相應(yīng)的企業(yè)要支付療養(yǎng)和治療費(fèi)用。今天我們看到的關(guān)于肯尼亞的數(shù)據(jù)標(biāo)注工的報(bào)道，其實(shí)是一個(gè)傳統(tǒng)的勞動(dòng)者權(quán)益保障和安全生產(chǎn)的一個(gè)傳統(tǒng)治理問(wèn)題，并不新奇。只是因?yàn)樗且粋€(gè)新出現(xiàn)的行業(yè)，我們還沒(méi)有很好地把相應(yīng)的政策給構(gòu)建起來(lái)。這些都要求我們?cè)跀?shù)字經(jīng)濟(jì)全球化的過(guò)程中，各國(guó)聯(lián)合起來(lái)解決這個(gè)問(wèn)題，這是一個(gè)國(guó)際合作治理的問(wèn)題。

漣漪效應(yīng):

杜梨老師，在您創(chuàng)作的科幻小說(shuō)當(dāng)中，有沒(méi)有發(fā)現(xiàn)類似的一些有趣的倫理問(wèn)題、倫理現(xiàn)象？可以跟我們分享一下嗎？

杜梨:

其實(shí)我之前有一個(gè)獲獎(jiǎng)的小說(shuō)，里面寫(xiě)的是仿生人代孕的問(wèn)題。因?yàn)槲乙恢庇X(jué)得。如果咱們把人類的命運(yùn)推到極致來(lái)看，現(xiàn)在我們不愿意生育，用人類代孕又是對(duì)女性權(quán)利的一種壓榨和剝削，那么我們可不可以考慮用人造子宮，或者用仿生人來(lái)代孕？我看他們已經(jīng)有一個(gè)成功的案例了，讓小羊在人造的羊水中長(zhǎng)大。機(jī)器人代孕的話，它也能隨時(shí)監(jiān)控這個(gè)孩子。但是呢，這個(gè)小孩兒出生以后，他的父母首先就面臨著巨的巨大的輿論壓力，你連作為父母的基本繁育責(zé)任都逃避的話，那你真的會(huì)愛(ài)這個(gè)孩子嗎？然后再說(shuō)到成長(zhǎng)，假如我的父母由于工作繁忙，最初沒(méi)有跟這個(gè)孩子建立起感情，而是讓仿生人來(lái)育兒的話，那么是成立的嗎？

漣漪效應(yīng)：

設(shè)計(jì)者的局限，有時(shí)也在無(wú)意中形成了“偏見(jiàn)”。硅谷、以及大量的智能應(yīng)用公司都集中在美國(guó)舊金山灣區(qū)，一個(gè)發(fā)達(dá)的大都會(huì)區(qū)，開(kāi)發(fā)者主要為白人中青年男性，相較主流群體，其對(duì)第三世界、邊緣群體的關(guān)注難說(shuō)到位。一些人說(shuō)，工程師團(tuán)隊(duì)里男性太多了，把女性加上去，間接使平權(quán)技術(shù)得到更多關(guān)注。歸根結(jié)底，還是要直接鼓勵(lì)平權(quán)技術(shù)。兩位老師如何看待AI的技術(shù)平權(quán)問(wèn)題？

于洋:

我們?cè)诤鸵恍﹪?guó)際機(jī)構(gòu)討論的時(shí)候，他們首先提出來(lái)的就是女性工程師太少了，或者黑人工程師太少了。我們不否認(rèn)工程師的組成會(huì)有間接的影響。但不是直接的，首要直接的影響還是因?yàn)樗募夹g(shù)。人工智能雖然它淵源很久遠(yuǎn)，但是它技術(shù)的紅火也就是不到十年的功夫。但實(shí)際上對(duì)于性別、種族的歧視問(wèn)題的重視在1617年就開(kāi)始了，你不能講說(shuō)這個(gè)東西是很慢的，它已經(jīng)足夠快地發(fā)現(xiàn)問(wèn)題了。

落實(shí)到技術(shù)層面，仍然有一些東西是我們無(wú)法去兼顧的，比如說(shuō)工程師的教育水平。我們很難讓不同教育水平的人在工程師中比例相同。這個(gè)時(shí)候我們要怎么去限制高教育水平，高收入水平的人去濫用他的工程師地位？您剛剛講的很對(duì)，人工智能它是有價(jià)值觀的，而工程師雖然不能夠完全決定，但是它能夠影響這個(gè)價(jià)值觀。那要怎么樣讓設(shè)計(jì)者不去濫用他的職權(quán)呢？ 那么我們就要限制和約束工程師濫用其技術(shù)獲得的政治權(quán)利。