·根據(jù)起訴書，Meta拒絕關(guān)閉上百萬未成年人的賬戶，故意在Facebook和Instagram中加入成癮性功能，觸發(fā)年輕用戶間歇性釋放多巴胺，導(dǎo)致其上癮性消費(fèi)。Meta明知算法可能會(huì)放大負(fù)面的社交比較，導(dǎo)致用戶對(duì)自己的身體或外表感覺更糟，仍拒絕更改算法。

·“包括Meta在內(nèi)的社交媒體公司造成了全國(guó)青少年的心理健康危機(jī)，他們必須承擔(dān)責(zé)任?！奔~約州總檢察長(zhǎng)利蒂西亞·詹姆斯在聲明中稱。

Meta旗下?lián)碛蠪acebook和Instagram兩大社交平臺(tái)，涉及數(shù)百萬青少年和兒童用戶。

美國(guó)大多數(shù)州組成的聯(lián)盟起訴社交媒體巨頭Meta公司，指控其非法收集兒童賬戶信息，并堅(jiān)持采用傷害未成年人精神健康的算法。

根據(jù)最新公布的法庭文件，至少從2019年開始，Meta就故意拒絕關(guān)閉13歲以下兒童的大部分賬戶，同時(shí)在未經(jīng)父母同意的情況下收集他們的個(gè)人信息。

此外，Meta明知其算法損害未成年人心理健康，但拒絕更改其算法，表示這會(huì)觸發(fā)年輕用戶間歇性釋放多巴胺，導(dǎo)致其在平臺(tái)上的上癮性消費(fèi)循環(huán)。該公司還被指控淡化了平臺(tái)上錯(cuò)誤信息、仇恨言論、歧視和其他有害內(nèi)容的發(fā)生率。

這項(xiàng)起訴要求法院下令禁止Meta從事上述違法行為。Meta旗下?lián)碛蠪acebook和Instagram兩大社交平臺(tái)，涉及數(shù)百萬青少年和兒童用戶，因此民事處罰可能高達(dá)數(shù)億美元。大多數(shù)州對(duì)每次違規(guī)行為處以1000至50000美元的罰款。

不尋常的大規(guī)模起訴

10月24日，美國(guó)33個(gè)州提起聯(lián)合訴訟，指控Meta故意在Facebook和Instagram中加入傷害未成年用戶的成癮性功能。哥倫比亞特區(qū)和另外8個(gè)州當(dāng)天分別對(duì)Meta提起訴訟，其中大部分起訴內(nèi)容相同。如此多的州聯(lián)合起來起訴一家科技巨頭損害消費(fèi)者利益，這是不尋常的舉動(dòng)，顯示美國(guó)各州正在優(yōu)先考慮兒童和網(wǎng)絡(luò)安全問題。

“Meta故意在其平臺(tái)上設(shè)計(jì)具有操控性的功能，讓兒童沉迷于其平臺(tái)，同時(shí)降低他們的自尊，從而從兒童的痛苦中獲利。”紐約州總檢察長(zhǎng)利蒂西亞·詹姆斯（Letitia James）在一份聲明中表示，“包括Meta在內(nèi)的社交媒體公司造成了全國(guó)青少年的心理健康危機(jī)，他們必須承擔(dān)責(zé)任。”

這波范圍廣泛的訴訟基于2021年以來美國(guó)兩黨、多州調(diào)查的結(jié)果，此前Facebook舉報(bào)人弗朗西斯·豪根（Frances Haugen）提供了數(shù)以萬計(jì)的公司內(nèi)部文件，顯示該公司如何知道其產(chǎn)品可能會(huì)對(duì)年輕人的精神健康產(chǎn)生負(fù)面影響。

盡管起訴書長(zhǎng)達(dá)兩百多頁，但各州引用的大部分證據(jù)都因最初提交的文件中的刪改而被刪除。當(dāng)?shù)貢r(shí)間11月26日晚，新提交的未密封起訴書提供了各州訴訟的新細(xì)節(jié)，讓外界得以了解更多詳情。

來自33個(gè)州的總檢察長(zhǎng)指控Meta在2019年初至2023年中從父母、朋友和在線社區(qū)成員那里收到了超過100萬起Instagram上存在13歲以下用戶的投訴，但“Meta僅禁用了其中一小部分帳戶”。

根據(jù)起訴書，Meta違反了一系列州級(jí)消費(fèi)者保護(hù)法規(guī)以及《兒童在線隱私保護(hù)規(guī)則》（COPPA），該規(guī)則禁止公司在未經(jīng)父母同意的情況下收集13歲以下兒童的個(gè)人信息。每次違反該法律的罰款最高可達(dá)50000 美元以上。

“在公司內(nèi)部，Meta實(shí)際知道數(shù)百萬Instagram用戶年齡在13歲以下，這是一個(gè)公開的秘密，并會(huì)定期記錄、嚴(yán)格分析和確認(rèn)，并積極保護(hù)不向公眾披露?！逼鹪V書稱。

根據(jù)法庭文件，Meta自己的記錄顯示，數(shù)十萬青少年用戶每天花費(fèi)超過5個(gè)小時(shí)時(shí)間在Instagram上。一位Meta產(chǎn)品設(shè)計(jì)師在一封內(nèi)部電子郵件中寫道，“年輕人是最好的”，“希望人們?cè)谀贻p時(shí)盡早為你服務(wù)”。

在2019年的一個(gè)案例中，Meta員工在電子郵件中討論了為什么公司沒有刪除屬于一名 12歲女孩的4個(gè)賬戶，盡管女孩的母親提出了要求，并且“投訴說她女兒只有12歲”。員工得出的結(jié)論是，這些賬戶被“忽略”，部分原因是Meta代表“無法確定用戶是否未成年”。

“Instagram的使用條款禁止13歲以下（在某些國(guó)家或地區(qū)為13歲以上）的用戶，我們已采取措施，在發(fā)現(xiàn)這些賬戶后將其刪除。然而，驗(yàn)證網(wǎng)絡(luò)上人們的年齡是一項(xiàng)復(fù)雜的行業(yè)挑戰(zhàn)?！盡eta在11月26日的一份聲明中告訴CNN，“例如，許多人——尤其是13歲以下的人——沒有身份證件。這就是 Meta支持聯(lián)邦立法的原因，該立法要求應(yīng)用商店在16歲以下的青少年下載應(yīng)用程序時(shí)必須獲得父母的批準(zhǔn)。通過這種方法，不需要讓父母和青少年向數(shù)百個(gè)單獨(dú)的應(yīng)用程序提供政府發(fā)放的身份證件等敏感信息來驗(yàn)證他們的年齡。”

“對(duì)商業(yè)模式有價(jià)值”

起訴書還稱，Meta知道其算法可能會(huì)引導(dǎo)兒童接觸有害內(nèi)容，從而損害他們的健康。根據(jù)文件中引用的公司內(nèi)部通訊，員工寫道，他們擔(dān)心“IG（Instagram）上的內(nèi)容會(huì)引發(fā)青少年的負(fù)面情緒并影響他們的心理健康（以及）我們的排名算法將（他們）帶入負(fù)面的螺旋和反饋循環(huán)，很難退出。”

例如，起訴書稱，Meta研究人員在2021年7月進(jìn)行了一項(xiàng)研究，得出的結(jié)論是Instagram的算法可能會(huì)放大負(fù)面的社交比較，并且“內(nèi)容可能會(huì)導(dǎo)致用戶對(duì)自己的身體或外表感覺更糟”。在訴訟中引用的2021年2月的內(nèi)部電子郵件中，Meta員工據(jù)稱認(rèn)識(shí)到社交比較與在Meta的社交媒體平臺(tái)上“花費(fèi)更多時(shí)間有關(guān)”，并討論了這種現(xiàn)象如何“對(duì)Instagram的商業(yè)模式有價(jià)值，同時(shí)對(duì)少女造成傷害?！?/p>

在2021年3月針對(duì)飲食失調(diào)內(nèi)容的內(nèi)部調(diào)查中，Meta團(tuán)隊(duì)對(duì)賬戶名提及饑餓、瘦弱和飲食失調(diào)的用戶進(jìn)行了跟蹤。起訴稱，Instagram的算法隨后開始生成推薦帳戶列表，“其中包括與厭食癥相關(guān)的帳戶”。

然而，Meta全球安全主管安提戈涅·戴維斯（Antigone Davis）于2021年9月在國(guó)會(huì)作證時(shí)稱，Meta不會(huì)“引導(dǎo)人們觀看宣揚(yáng)飲食失調(diào)的內(nèi)容。這實(shí)際上違反了我們的政策，我們會(huì)在發(fā)現(xiàn)后刪除該內(nèi)容。我們實(shí)際上使用人工智能來查找此類內(nèi)容并將其刪除。”

起訴書稱，Instagram的高級(jí)領(lǐng)導(dǎo)層也知道有問題的內(nèi)容對(duì)該平臺(tái)來說是一個(gè)關(guān)鍵問題。據(jù)稱，Instagram的負(fù)責(zé)人亞當(dāng)·莫塞里（Adam Mosseri）在一封內(nèi)部電子郵件中寫道，“社交比較之于Instagram，就像選舉干預(yù)之于Facebook。”

然而，盡管該公司的內(nèi)部研究證實(shí)了對(duì)其平臺(tái)上的社交比較的擔(dān)憂，但起訴書稱Meta拒絕改變其算法。一名員工在訴訟中引用的內(nèi)部通訊中指出，煽動(dòng)負(fù)面外觀比較的內(nèi)容“是（在探索頁面上）最具吸引力的內(nèi)容之一，因此這個(gè)想法與許多其他團(tuán)隊(duì)的首要措施背道而馳。”與此同時(shí)，“Meta的外部溝通否認(rèn)或掩蓋了其推薦算法向年輕用戶推廣極負(fù)面的外觀比較內(nèi)容的事實(shí)?！逼鹪V書稱。

根據(jù)訴訟中引用的內(nèi)部文件，Meta還意識(shí)到其推薦算法“會(huì)觸發(fā)年輕用戶間歇性的多巴胺釋放”。其演示文稿稱，“當(dāng)涉及到‘感覺良好’的多巴胺效應(yīng)時(shí)，青少年是永不滿足的”，該公司的現(xiàn)有產(chǎn)品已經(jīng)非常適合提供能夠觸發(fā)這種強(qiáng)效神經(jīng)遞質(zhì)的刺激?！懊慨?dāng)我們的青少年用戶發(fā)現(xiàn)一些意想不到的東西時(shí)，他們的大腦就會(huì)分泌出多巴胺。”

Meta在一份聲明中回應(yīng)稱：“我們希望青少年能夠獲得安全、適合年齡的在線體驗(yàn)，我們有30多種工具來支持他們及其父母?！薄拔覀兓耸甑臅r(shí)間來解決這些問題，并聘請(qǐng)了致力于保護(hù)年輕人安全和在線支持的人員。該起訴使用選擇性引用和精心挑選的文件來歪曲我們的工作?！?/p>

淡化錯(cuò)誤信息、仇恨言論發(fā)生率

起訴書還稱，Meta可能大大淡化了其平臺(tái)上錯(cuò)誤信息、仇恨言論、歧視和其他有害內(nèi)容的發(fā)生率。

起訴書指控Meta創(chuàng)建了名為“社區(qū)標(biāo)準(zhǔn)執(zhí)行報(bào)告”（CSER）的季度報(bào)告，該報(bào)告宣稱其平臺(tái)上社區(qū)標(biāo)準(zhǔn)違規(guī)率較低，但排除了用戶體驗(yàn)調(diào)查中的關(guān)鍵數(shù)據(jù)，這些數(shù)據(jù)證明用戶遇到有害內(nèi)容的比率要高得多。

例如，Meta表示，根據(jù)其CSER報(bào)告中2020年7月至9月的數(shù)據(jù)，其平臺(tái)上每10000次內(nèi)容瀏覽中只有10或11次包含仇恨言論，即比例約為0.10%至0.11%。

但起訴書稱，幾個(gè)月前Meta的一項(xiàng)名為“誠信問題追蹤范圍調(diào)查”（TRIPS）的內(nèi)部用戶調(diào)查報(bào)告的仇恨言論水平明顯更高。根據(jù)2020年5月的TRIPS報(bào)告，平均有19.3%的Instagram用戶和17.6%的Facebook用戶投訴稱，在平臺(tái)上目睹了仇恨言論或歧視。平均有12.2%的Instagram用戶和16.6%的Facebook用戶投訴稱，在這些平臺(tái)上看到過暴力圖片，超過20%的用戶目睹了欺凌和騷擾。

Meta將圖片暴力定義為“在Facebook和Instagram上美化暴力或慶祝他人遭受痛苦或羞辱的內(nèi)容”，并指出欺凌和騷擾“本質(zhì)上是高度個(gè)人化的”，因此“使用技術(shù)主動(dòng)檢測(cè)這些行為可能比檢測(cè)其他類型的違規(guī)行為更具挑戰(zhàn)性”。

Meta的一位發(fā)言人通過電子郵件告訴“商業(yè)內(nèi)幕”，從這些調(diào)查中收集的數(shù)據(jù)并沒有真正衡量“流行度”（Meta將其定義為違規(guī)內(nèi)容的觀看次數(shù)占總觀看次數(shù)的百分比）。相反，該公司利用這些調(diào)查中的信息來開發(fā)新功能，例如有關(guān)傷害性評(píng)論或內(nèi)容的通知或善意提醒，鼓勵(lì)人們?cè)谂c不認(rèn)識(shí)的人接觸時(shí)保持尊重態(tài)度。