朱步樓：提高人工智能安全治理水平

作者為江蘇省政協(xié)專家咨詢委員會副主任

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，具有技術(shù)屬性與社會屬性高度融合的特點，在推動生產(chǎn)力發(fā)展的同時，也帶來新的風(fēng)險和挑戰(zhàn)。習(xí)近平總書記強調(diào)：“要堅持促進發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用�！秉h的二十屆三中全會《決定》提出“完善生成式人工智能發(fā)展和管理機制”“建立人工智能安全監(jiān)管制度”。堅持發(fā)展與治理、創(chuàng)新與安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序發(fā)展的迫切需要，也是推進國家治理體系和治理能力現(xiàn)代化的重要內(nèi)容。

堅持以人為本和智能向善的價值導(dǎo)向。發(fā)展人工智能，根本目的是造福人類、增進人民福祉、促進人的全面發(fā)展。習(xí)近平總書記強調(diào)：“堅持以人為本、智能向善，在聯(lián)合國框架內(nèi)加強人工智能規(guī)則治理”。堅持以人為本、智能向善，就要讓人民群眾共享人工智能發(fā)展紅利，不斷提升人民群眾獲得感、幸福感、安全感，防范濫用人工智能技術(shù)給社會帶來危害，引導(dǎo)人工智能向善而行。提高人工智能安全治理水平，一方面要引導(dǎo)人工智能發(fā)展以增進人類共同福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展；另一方面要在法律、倫理等層面引導(dǎo)人工智能的價值取向，確保人工智能發(fā)展安全可控。

構(gòu)建人工智能安全治理的政策法規(guī)和制度體系。要加快人工智能立法進程，制定具有前瞻性的人工智能法律法規(guī)，為人工智能安全治理提供堅實法律基礎(chǔ)。健全基礎(chǔ)設(shè)施安全保護、跨境數(shù)據(jù)安全監(jiān)管、人工智能安全服務(wù)認(rèn)證等一系列制度，落實人工智能安全治理責(zé)任制，清晰界定相關(guān)主體權(quán)利、義務(wù)和責(zé)任邊界，建立問責(zé)和追溯機制，形成人工智能安全治理的制度體系，以良法善治實現(xiàn)激勵發(fā)展與合理規(guī)制的有機統(tǒng)一，確保人工智能安全、可靠、可控，朝著有利于維護國家安全、促進經(jīng)濟社會發(fā)展、增進人民福祉的方向發(fā)展。

完善與人工智能技術(shù)發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。人工智能迭代速度快，處于一種不斷變化的狀態(tài)中，必須完善與其發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。適應(yīng)產(chǎn)學(xué)研用深度融合的人工智能發(fā)展態(tài)勢，健全縱向有機銜接、橫向有機聯(lián)系的監(jiān)管網(wǎng)絡(luò)，將安全治理嵌入研究開發(fā)應(yīng)用的全過程。加強對潛在風(fēng)險研判和防范，根據(jù)技術(shù)發(fā)展、行業(yè)領(lǐng)域、應(yīng)用場景等因素建立并動態(tài)調(diào)整人工智能分級分類標(biāo)準(zhǔn)，對大模型可能產(chǎn)生的安全風(fēng)險開展合規(guī)性評估。加強安全保護基礎(chǔ)理論研究和前沿安全技術(shù)研究，推動人工智能安全技術(shù)創(chuàng)新，開發(fā)先進加密技術(shù)、認(rèn)證技術(shù)和通用大模型安全可控技術(shù)，鼓勵跨學(xué)科研究，推進人工智能與網(wǎng)絡(luò)安全、信息安全等領(lǐng)域融合，防范數(shù)據(jù)泄露、惡意攻擊和其他安全漏洞，以高效能科學(xué)監(jiān)管提升人工智能安全治理水平。

形成共建共治共享的人工智能安全治理格局。推動人工智能健康發(fā)展，需要多方協(xié)同、共建共治。加強政府主導(dǎo)，建立人工智能監(jiān)管統(tǒng)籌協(xié)調(diào)機制，發(fā)揮其在戰(zhàn)略規(guī)劃、風(fēng)險管控、規(guī)則制定、社會服務(wù)體系等方面的總體協(xié)調(diào)作用。引導(dǎo)行業(yè)組織、企業(yè)、教育和科研機構(gòu)、網(wǎng)絡(luò)平臺和有關(guān)專業(yè)機構(gòu)強化審慎自律，支持其在人工智能安全風(fēng)險防范方面開展協(xié)作，構(gòu)建多部門協(xié)調(diào)、多學(xué)科融合、多元主體參與的人工智能安全治理框架和工作體系。同時，搭建公眾參與安全治理的線上線下平臺，建立起人人有責(zé)、人人盡責(zé)、人人享有的人工智能安全治理體系，形成人工智能安全治理的強大合力。

《 人民日報 》（ 2024年08月05日 09 版）