2023年國家網(wǎng)絡(luò)安全宣傳周上海地區(qū)主論壇在上海國家會展中心舉行 本文圖片由主辦方提供

9月11日上午，2023年國家網(wǎng)絡(luò)安全宣傳周上海地區(qū)主論壇在上海國家會展中心舉行。

本次論壇以“數(shù)字時代如何應(yīng)對網(wǎng)絡(luò)安全新挑戰(zhàn)”為主題，多位從事各行業(yè)網(wǎng)絡(luò)安全和信息化工作專家集聚論壇，以主題分享與圓桌會議等形式共同探討關(guān)于數(shù)字時代的網(wǎng)絡(luò)安全和數(shù)據(jù)安全等問題。

論壇上，中國工程院院士、復(fù)旦大學(xué)金融科技研究院院長柴洪峰院士發(fā)表寄語，并對金融大模型的監(jiān)管提出建議。柴洪峰表示，金融垂直領(lǐng)域的大模型應(yīng)用目前面臨一些挑戰(zhàn)，一是金融數(shù)據(jù)的私密性限制了共享和構(gòu)建大規(guī)模數(shù)據(jù)集的能力，二是金融數(shù)據(jù)的多模態(tài)特性增加了模型處理和建模的復(fù)雜性。為了克服這些難題，加強(qiáng)產(chǎn)學(xué)研的合作勢在必行，需要共同構(gòu)建更強(qiáng)大的金融垂直領(lǐng)域基礎(chǔ)模型，以提高大模型對多模態(tài)數(shù)據(jù)的表達(dá)能力和安全性。

柴洪峰院士發(fā)表寄語

柴洪峰院士對金融大模型的監(jiān)管提出三點想法。首先是在數(shù)據(jù)安全方面，需要對大模型訓(xùn)練過程中的數(shù)據(jù)安全等級做嚴(yán)格的界定。監(jiān)管機(jī)構(gòu)也應(yīng)加強(qiáng)對金融大模型的審查和風(fēng)險評估，對關(guān)鍵人物和系統(tǒng)應(yīng)建立審查和測試的機(jī)制，確保其性能和安全性。其次，為了實現(xiàn)建立監(jiān)管框架與標(biāo)準(zhǔn)，確保大模型在金融領(lǐng)域的應(yīng)用符合法規(guī)與道德要求，需要通過政產(chǎn)學(xué)研的合作制定相關(guān)的政策和指南。第三，對于金融大模型的部署與使用需要協(xié)同共治，提升透明度，保證數(shù)據(jù)質(zhì)量和可解釋性的機(jī)制，這可以幫助用戶與監(jiān)管機(jī)構(gòu)理解模型的決策依據(jù)，并確保其不帶有偏見或歧視性。

此外，多位網(wǎng)絡(luò)安全的業(yè)內(nèi)大咖圍繞“數(shù)字時代如何應(yīng)對網(wǎng)絡(luò)安全新挑戰(zhàn)”的主題進(jìn)行圓桌討論。上海社會科學(xué)院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌表示，網(wǎng)絡(luò)安全具有伴隨性、跟隨性，只要有新技術(shù)、新模式產(chǎn)生，必然會產(chǎn)生新的安全風(fēng)險和挑戰(zhàn)。網(wǎng)絡(luò)安全是一個攻防兩端博弈的問題，它背后是技術(shù)和人才的博弈，政府、產(chǎn)業(yè)界、應(yīng)用單位各方都應(yīng)更加重視網(wǎng)絡(luò)安全，才能讓資源和博弈的對抗正向發(fā)展。

公安部第三研究所網(wǎng)絡(luò)安全法律研究中心主任、研究員黃道麗表示，從法律工作者角度看，現(xiàn)在網(wǎng)絡(luò)安全面臨的最大挑戰(zhàn)是怎么把制度的能力轉(zhuǎn)化為實際的治理能力。法律最大的特點是穩(wěn)定性，然而網(wǎng)絡(luò)安全風(fēng)險和網(wǎng)絡(luò)安全形勢又是不斷變化的，甚至有時候它的風(fēng)險會突破，比如AIGC、人工智能的風(fēng)險是否會突破傳統(tǒng)認(rèn)識的數(shù)據(jù)安全與個人信息保護(hù)，網(wǎng)絡(luò)安全規(guī)則的細(xì)化需要產(chǎn)業(yè)界、運營者、數(shù)據(jù)處理者以及社會第三方共同地推進(jìn)。在黃道麗看來，目前針對網(wǎng)絡(luò)安全執(zhí)法的力度和覆蓋面較為有限，如何提高執(zhí)法能力，包括監(jiān)督檢查、行政執(zhí)法、執(zhí)法隊伍建設(shè)等，對網(wǎng)絡(luò)安全而言也是極大的挑戰(zhàn)。

上海市信息安全測評認(rèn)證中心創(chuàng)新研究院副院長徐御從測評角度闡述了網(wǎng)絡(luò)安全面臨的幾大挑戰(zhàn)。網(wǎng)絡(luò)安全原來以系統(tǒng)與網(wǎng)絡(luò)為核心，現(xiàn)在以數(shù)據(jù)為核心。以數(shù)據(jù)為中心之后，如果數(shù)據(jù)在后端遭受泄露或篡改，對前端造成的影響算不算安全問題？這個挑戰(zhàn)可能會改變后期的測評評估規(guī)則。

對于如何應(yīng)對網(wǎng)絡(luò)安全面臨的挑戰(zhàn)，徐御表示，中國數(shù)據(jù)安全制度供給在逐步加大，包括《數(shù)安法》《個保法》等等，上海也推動了很多試點工作，這些工作都是以數(shù)據(jù)安全為中心的思路去構(gòu)建整個城市的數(shù)據(jù)安全體系，但這些工作目前還處于起步階段。數(shù)據(jù)安全的供給側(cè)仍需進(jìn)一步產(chǎn)業(yè)升級，一旦數(shù)據(jù)的一鍵加密、數(shù)據(jù)脫敏等高效的產(chǎn)品推出，滿足對于數(shù)據(jù)泄露、數(shù)據(jù)篡改等方面的需求，網(wǎng)絡(luò)安全產(chǎn)業(yè)的發(fā)展會更加快速。

上海交通大學(xué)人工智能研究院院長宋海濤認(rèn)為，隨著人工智能技術(shù)的發(fā)展，下一步可能會很快地進(jìn)入到算力的新型網(wǎng)絡(luò)，未來整個AI的智算資源很有可能會成為像電網(wǎng)一樣，算力入戶、算力入校。面對這樣的發(fā)展，現(xiàn)在的網(wǎng)絡(luò)安全涵蓋面會更大。另外，人工智能和AIGC的產(chǎn)生，加速了人們對于信息的有效壓縮能力和表達(dá)能力，大量的信息內(nèi)容通過網(wǎng)絡(luò)生成，這是網(wǎng)絡(luò)安全面臨的新的技術(shù)挑戰(zhàn)。宋海濤建議，不僅需要進(jìn)一步地以科技自強(qiáng)來保護(hù)人民群眾的生命財產(chǎn)安全，還要加強(qiáng)網(wǎng)絡(luò)安全方面?zhèn)惱砗椭卫眢w系的研究，下一階段的網(wǎng)絡(luò)安全工作更需要探討倫理和治理體系的建設(shè)。