“AI（人工智能）的快速發(fā)展正在加劇安全威脅，如數(shù)據(jù)泄露、欺詐攻擊、社會治理安全等。以生成式AI能快速生成釣魚郵件、編寫惡意軟件與代碼等，導(dǎo)致攻擊數(shù)量增加，AI欺詐事件頻發(fā)?！?/p>

全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東

澎湃新聞記者獲悉，在2024年全國兩會上，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東帶來兩份提案，高度關(guān)注AI技術(shù)的快速發(fā)展所帶來的安全挑戰(zhàn)。

數(shù)據(jù)顯示，生成式AI導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長135%。此外，AI還帶來數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題，如ChatGPT在對話交互過程中能獲取用戶數(shù)據(jù)，加劇數(shù)據(jù)泄露風(fēng)險。不法分子還能利用“深度偽造”換臉變聲、偽造視頻，“眼見未必為實”將成為常態(tài)。

齊向東表示，人工智能大幅降低網(wǎng)絡(luò)攻擊門檻，不懂代碼、不懂技術(shù)的普通人也能成為黑客，增加網(wǎng)絡(luò)攻擊數(shù)量，專業(yè)的黑客組織可以利用人工智能對網(wǎng)絡(luò)攻擊進行改造升級，利用AI制作惡意軟件、生成規(guī)避殺毒軟件檢測的代碼等，網(wǎng)絡(luò)攻擊能力將出現(xiàn)躍升。

在AI算法攻擊方面，機器視覺攻擊、數(shù)據(jù)源污染等攻擊頻發(fā)，攻擊者能通過對抗樣本、數(shù)據(jù)投毒、模型竊取等方式對AI算法進行攻擊，使其產(chǎn)生錯誤判斷，同時由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范。

對此，齊向東建議，要大力探索“AI+安全”創(chuàng)新應(yīng)用，提高應(yīng)對網(wǎng)絡(luò)空間安全風(fēng)險與不確定性的能力，搶占國家安全的人工智能戰(zhàn)略制高點，護航中國式現(xiàn)代化。

要開展聯(lián)合創(chuàng)新，圍繞攻防實戰(zhàn)和應(yīng)用場景實現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破。建議鼓勵各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體，在關(guān)鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測、漏洞挖掘、指揮研判等方面的應(yīng)用，在實戰(zhàn)中推動“AI+安全”進入越用越強的良性循環(huán)。

要強化政策牽引，推動“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用。建議像支持新能源汽車的發(fā)展一樣，支持“AI+安全”發(fā)展，設(shè)置專項基金，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)，給予政府基金、貼息貸款或科研項目等支持。

從人才方面來看，要壯大“AI+安全”領(lǐng)域的實戰(zhàn)型、復(fù)合型人才隊伍。隨著AI技術(shù)的普及和應(yīng)用領(lǐng)域的不斷擴展，國內(nèi)AI人才嚴重短缺。工信部數(shù)據(jù)顯示，人工智能不同技術(shù)方向崗位的人才供需比均低于0.4，其中智能語音和計算機視覺的崗位人才供需比分別為0.08、0.09，相關(guān)人才極度稀缺。建議充分發(fā)揮民營企業(yè)在人才培養(yǎng)上的優(yōu)勢，鼓勵成立校企共同體，在實踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才。