2023年全國兩會前夕，澎湃新聞記者從民進中央網(wǎng)站獲悉，民進中央擬向全國政協(xié)十四屆一次會議提交《關(guān)于加強我國人工智能領(lǐng)域倫理治理的提案》。

民進中央在提案中指出，中共二十大報告提出，在人工智能等領(lǐng)域構(gòu)建新的增長引擎。隨著人工智能技術(shù)的快速發(fā)展，面臨的科技倫理挑戰(zhàn)日益凸顯，近期火爆全網(wǎng)的ChatGPT再次引發(fā)國際社會對人工智能領(lǐng)域倫理問題的擔憂。2022年3月中辦、國辦印發(fā)《關(guān)于加強科技倫理治理的意見》，將人工智能作為需要加強科技倫理治理的重點領(lǐng)域之一。當前，我國人工智能領(lǐng)域倫理治理仍面臨不少問題。

一是體系建設(shè)相對滯后。在制度方面，可落地實施的法律法規(guī)比較欠缺，合規(guī)底線和懲戒力度不夠明確。在管理方面，缺乏統(tǒng)籌的問題比較突出，職責分工不夠明確，倫理治理審查與監(jiān)管仍存在空白。

二是能力建設(shè)比較薄弱。當前，我國人工智能領(lǐng)域倫理治理還處于起步階段，存在人員構(gòu)成不合理、倫理意識不強、專業(yè)能力不足、工作規(guī)則和操作規(guī)范不完善等問題，能力建設(shè)有待進一步增強。

三是企業(yè)參與治理不足。我國在推動人工智能企業(yè)自主參與倫理治理方面尚處于初步探索階段，對于企業(yè)參與的邊界、機制等缺乏明確的規(guī)定和操作性的制度保障，并且面臨企業(yè)參與治理的意愿不強、經(jīng)驗和能力不足等問題。

為此，民進中央在提案中建議：

一是構(gòu)建多方參與的治理體系。由工信部牽頭，從領(lǐng)導(dǎo)機構(gòu)、組織架構(gòu)、領(lǐng)域分工、社會協(xié)同等方面設(shè)計人工智能領(lǐng)域倫理治理頂層架構(gòu)，明確人工智能應(yīng)用鏈條中各方需要履行的義務(wù)和責任。推進法律法規(guī)建設(shè)，明晰法律合規(guī)底線，對數(shù)據(jù)濫用、侵犯個人隱私等行為明確懲戒力度。同時，通過國標、行標、企業(yè)自律規(guī)則等“軟法”方式，引導(dǎo)企業(yè)合規(guī)創(chuàng)新。吸納人工智能企業(yè)專家擔任國家科技倫理委員會人工智能分委員會委員，更好地研究和解決企業(yè)在技術(shù)創(chuàng)新中面臨的倫理問題。發(fā)揮國家新一代人工智能治理專業(yè)委員會的科技倫理咨詢作用，圍繞技術(shù)發(fā)展中可能出現(xiàn)的倫理風險進行前瞻預(yù)研、預(yù)判。發(fā)揮國家科技智庫和相關(guān)研究力量的作用，對人工智能倫理問題進行系統(tǒng)研究儲備，提供決策咨詢支撐。

二是開展多維度、多層次的倫理建設(shè)。開展全生命周期的價值敏感設(shè)計，在研究開發(fā)階段，對新技術(shù)可能產(chǎn)生的倫理問題進行分析，從源頭控制潛在的倫理風險；在設(shè)計制造階段，對新產(chǎn)品在道德上被社會接受的成本和帶來的收益進行權(quán)衡；在實驗推廣階段，根據(jù)社會的價值選擇對新產(chǎn)品進行調(diào)整，提高新產(chǎn)品與社會價值的相容性；在部署應(yīng)用階段，分析用戶對于新產(chǎn)品的認可和接受程度，對應(yīng)用過程中引發(fā)的倫理風險進行審視和反思。開展多應(yīng)用場景的倫理規(guī)制，人工智能在不同應(yīng)用場景產(chǎn)生的倫理問題和需要治理的工作重點不同，其倫理規(guī)制需要分別研究。如自動駕駛、醫(yī)療診斷等日常應(yīng)用需要企業(yè)、社會公眾等基于應(yīng)用場景特點及實際倫理問題開展倫理規(guī)制；人工智能技術(shù)運用于軍事對抗等帶來的倫理風險，需要通過國際協(xié)議來約束。開展交叉領(lǐng)域的倫理規(guī)制，人工智能與其他學科領(lǐng)域交叉應(yīng)用后形成新的領(lǐng)域，如人工智能與神經(jīng)技術(shù)交叉形成類腦器官，需要結(jié)合各交叉領(lǐng)域特點開展差異化的倫理規(guī)制研究。

三是鼓勵企業(yè)自主參與治理。明確企業(yè)開展倫理治理的驅(qū)動力，主要包括：成為守倫理規(guī)則的企業(yè)，樹立在業(yè)界的企業(yè)形象；企業(yè)的產(chǎn)品不僅應(yīng)有技術(shù)競爭力，而且在倫理道德上能夠讓消費者和業(yè)界信任；在全球范圍內(nèi)推出負責任的新技術(shù)，引領(lǐng)人工智能發(fā)展的方向等。開展企業(yè)倫理意識培養(yǎng)，對于企業(yè)高管，加強人工智能倫理的培訓(xùn)學習，提高倫理認知與判斷；對于技術(shù)研發(fā)人員，倡導(dǎo)其開展負責任的技術(shù)研發(fā)，樹立“可信負責”的倫理觀。借鑒微軟等國際人工智能企業(yè)設(shè)立倫理委員會的經(jīng)驗，支持企業(yè)內(nèi)部設(shè)立倫理委員會，審查人工智能可能帶來的失控性、侵權(quán)性、歧視性、責任性等風險，并為其獨立開展工作提供必要的條件保障。