3月22日，恐怖分子襲擊了俄羅斯莫斯科的“克羅庫斯城”音樂廳（Crocus City Hall），共造成140多人死亡。此后，一段有關這次襲擊的宣傳視頻——據(jù)稱來自極端組織“伊斯蘭國（IS）”——開始在網(wǎng)上流傳。

據(jù)《華盛頓郵報》5月17日報道，恐怖分子的支持者精通技術，他們利用新的人工智能工具來傳播極端主義。追蹤恐怖分子和極端分子網(wǎng)絡活動的公司SITE情報集團（SITE  Intelligence Group）表示，極端組織“伊斯蘭國”（IS）支持者的AI生成媒體項目“新聞收獲（News Harvest）”已發(fā)布了6條視頻，獲得“病毒般”的擴散效果，并在世界各地的支持者中招募新成員。

“伊斯蘭國”組織擅長媒體運作，可以制作好萊塢級別的招募視頻來吸引年輕人?，F(xiàn)在，人工智能視頻生成工具可以使該組織以更低的成本創(chuàng)建此類內(nèi)容。包括“基地”組織在內(nèi)的幾個伊斯蘭激進組織已表示有興趣使用人工智能聊天機器人、圖像生成工具和語音克隆工具來快速創(chuàng)建虛假信息。

人工智能意味著游戲規(guī)則的改變

3月以來，“新聞收獲”幾乎每周都會發(fā)布有關極端組織“伊斯蘭國”在全球各地行動的視頻。SITE情報集團聯(lián)合創(chuàng)始人麗塔·卡茨（Rita Katz）表示，該節(jié)目的制作類似于電視臺的新聞廣播，標志著AI已成為極端組織“伊斯蘭國”分支一種強大的宣傳工具。

“對于IS來說，人工智能意味著游戲規(guī)則的改變?！笨ù恼f，“這將是他們傳播血腥襲擊的快速方式，幾乎能到達世界的每個角落?！?/p>

在節(jié)目中，人工智能生成的新聞主播穿著迷彩服出現(xiàn)在屏幕上，新聞滾動條和視頻片段顯示IS成員正執(zhí)行恐怖任務，主播們宣讀IS官方媒體的快訊。

3月15日，名為Al Kurdi 500的IS支持者在私人消息服務器上提出關于“采用人工智能宣傳的優(yōu)勢”的案例?！叭绻值軅冎谱饔嘘P每日新聞的視頻，作為閱讀文本新聞和查看圖像的替代方案，那就太好了，就像半島電視臺等新聞頻道如何談論事件一樣?！边@名支持者寫道，“技術已經(jīng)取得了很多發(fā)展，現(xiàn)在會更容易做到，特別是在使用人工智能的情況下……媒體與實體戰(zhàn)爭一樣重要，甚至更重要。因為它對人們的影響非常大?！?/p>

該消息發(fā)出7天后，IS聲稱對莫斯科的音樂廳發(fā)動了襲擊。隨后，名為Hisad的該組織支持者迅速動員起來，制作了一段人工智能生成的視頻并進行宣傳。3月26日，Hisad在私人信息平臺上發(fā)布了“新聞收獲”的第一集。

自莫斯科襲擊事件以來，“新聞收獲”已經(jīng)發(fā)布了6段節(jié)目，概述了IS分支機構最近在全球各地的行動，包括尼日爾、喀麥隆、伊拉克、敘利亞和尼日利亞。目前還不清楚他們正在使用什么人工智能技術，盡管帖子中的一些支持者鼓勵使用“好的”人工智能軟件。

招聘AI人才，發(fā)布聊天機器人使用指南

中東媒體研究所 （MEMRI） 執(zhí)行主任史蒂文·斯大林斯基（Steven Stalinsky）說，這些視頻并非由IS官方部門制作，因此尚不清楚它們是否符合該組織的總體戰(zhàn)略。但他表示，因為該組織一直在快速采用尖端技術，所以有可能創(chuàng)建人工智能媒體部門。

此外，親IS的媒體已經(jīng)在尋找掌握人工智能技能的人才，他們在招聘啟事中要求：熟悉海報制作、文章撰寫和視頻編輯，并精通Adobe Photoshop、Premiere和AI。

“基地”組織等其他激進組織也在討論人工智能的使用。2月9日，一個相關組織宣布將開始舉辦在線人工智能研討會。次日，它與另一個“基地”附屬組織合作發(fā)布了一份50頁的指南，標題為《使用人工智能聊天機器人的不可思議的方式》，其中提供了ChatGPT的基本概述。

反恐新挑戰(zhàn)

反恐專家表示，雖然IS已經(jīng)被削弱，但人工智能可以讓其支持者在恐怖襲擊發(fā)生后的幾天內(nèi)迅速進行宣傳，這些宣傳在網(wǎng)上停留的時間很長，而此時招募新成員的幾率也很高。

華盛頓近東政策研究所高級研究員亞倫·澤林（Aaron Zelin）表示，人工智能可以為任何地方的人們提供接受宣傳、創(chuàng)建人工智能生成的媒體并參與極端主義組織的能力，從而有助于本土極端主義的發(fā)展。“如果你往墻上扔那么多意大利面，最終其中一塊會粘在墻上?！彼f，“它可以為此類內(nèi)容的病毒式傳播提供更多途徑?！?/p>

斯大林斯基表示，運營社交平臺的科技公司對IS支持者所傳播的內(nèi)容監(jiān)管不力，這對監(jiān)管機構和反恐工作來說將是一個挑戰(zhàn)。對于這一點，聊天應用Rocket.Chat的公關代表萊斯·馬查多羅查（Laís Machado Rocha）稱，該平臺是開源的，不在其服務器上托管消息，因此無法刪除極端分子的消息。而Telegram和X沒有回復置評請求。