馬麗霞 汪壽陽(yáng)：多措并舉促進(jìn)深度合成技術(shù)向善發(fā)展

作者：馬麗霞，系中國(guó)科學(xué)院大學(xué)經(jīng)濟(jì)與管理學(xué)院高級(jí)工程師；汪壽陽(yáng)，系中國(guó)科學(xué)院預(yù)測(cè)科學(xué)研究中心主任

“加快發(fā)展數(shù)字經(jīng)濟(jì)，促進(jìn)數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)深度融合”“構(gòu)建新一代信息技術(shù)、人工智能、生物技術(shù)、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長(zhǎng)引擎”，黨的二十大報(bào)告的重要部署，為以人工智能等新興技術(shù)驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展提供了重要遵循。作為人工智能領(lǐng)域的創(chuàng)新應(yīng)用，深度合成近年來(lái)風(fēng)頭正勁，AI語(yǔ)音助手、虛擬人、數(shù)字人、AR購(gòu)物、影像修復(fù)等在文藝、傳媒、醫(yī)療、社交等多個(gè)領(lǐng)域造福著社會(huì)，成為促進(jìn)數(shù)字經(jīng)濟(jì)“虛實(shí)融合”的關(guān)鍵性技術(shù)。

不過(guò)，正如很多科技突破都帶來(lái)了意想不到的“副產(chǎn)品”，深度合成在展露出可觀經(jīng)濟(jì)價(jià)值的同時(shí)，也暴露出破壞性“潛力”，通過(guò)深度合成偽造的視頻、音頻進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為近年來(lái)層出不窮。尤其在互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域，深度合成技術(shù)能夠生成真?zhèn)坞y辨的虛假信息，帶來(lái)身份認(rèn)證、信息存儲(chǔ)等環(huán)節(jié)的技術(shù)難題，導(dǎo)致數(shù)字經(jīng)濟(jì)發(fā)展面臨新的安全隱患。要求加強(qiáng)監(jiān)管的呼聲近年來(lái)日漸高漲。

為促進(jìn)深度合成技術(shù)向上向善發(fā)展，世界各國(guó)紛紛出臺(tái)法律法規(guī)，對(duì)深度合成技術(shù)進(jìn)行規(guī)約。在《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等規(guī)章的基礎(chǔ)上，近日，國(guó)家網(wǎng)信辦等三部門(mén)聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并于今年1月10日起正式實(shí)施，其中明確了深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰，這意味著深度合成將迎來(lái)規(guī)范化發(fā)展的關(guān)鍵期。為新興技術(shù)劃定適當(dāng)?shù)氖褂每蚣苁且豁?xiàng)“技術(shù)活”，容易陷入一管就死、一放就亂的困局。如何推動(dòng)智能技術(shù)向善發(fā)展，最大限度地趨利避害，還需從幾個(gè)方向持續(xù)發(fā)力——

促進(jìn)深度合成技術(shù)向善發(fā)展，需完善規(guī)則，強(qiáng)化技術(shù)風(fēng)險(xiǎn)防控的法治保障。應(yīng)當(dāng)圍繞國(guó)家信息安全和數(shù)字經(jīng)濟(jì)安全、社會(huì)治理以及保護(hù)公民合法權(quán)益，對(duì)深度合成服務(wù)劃定合理開(kāi)發(fā)使用的“綠線”和禁止性的“紅線”，建立分級(jí)分類制度。一方面，加大深度合成服務(wù)應(yīng)用程序推廣前的審核力度，尤其是高風(fēng)險(xiǎn)產(chǎn)品和服務(wù)，確保技術(shù)應(yīng)用的服務(wù)形式和服務(wù)范圍符合國(guó)家有關(guān)規(guī)定。另一方面，要明確互聯(lián)網(wǎng)平臺(tái)尤其是社交媒體的內(nèi)容審核義務(wù)，推動(dòng)其建立虛假消息篩查機(jī)制，禁止上傳可能危害國(guó)家安全或造成負(fù)面社會(huì)影響的深度合成制品。此外，還要充分賦予用戶知情權(quán)和選擇權(quán)，通過(guò)用戶“投票”倒逼行業(yè)各類不規(guī)范行為的整治。

促進(jìn)深度合成技術(shù)向善發(fā)展，需構(gòu)建體系，實(shí)現(xiàn)技術(shù)應(yīng)用安全的常態(tài)化監(jiān)管。在以人工智能新興技術(shù)為主的算法服務(wù)安全應(yīng)用監(jiān)管中，普遍存在各主體之間權(quán)責(zé)不明確、數(shù)據(jù)信息傳遞過(guò)程不可控和缺乏社會(huì)監(jiān)督等問(wèn)題，亟須明確責(zé)任主體，貫徹常態(tài)化信息監(jiān)管措施。首先，要確定深度合成服務(wù)提供者和使用者的主體責(zé)任，厘清界限，激活市場(chǎng)主動(dòng)規(guī)約的積極性，使信息內(nèi)容的生產(chǎn)源頭公開(kāi)透明、權(quán)責(zé)分配公正公平。其次，要對(duì)深度合成內(nèi)容進(jìn)行合成前、合成后、發(fā)布后和傳播后的全流程監(jiān)管，追蹤合成內(nèi)容的真實(shí)性，控制信息傳遞的風(fēng)險(xiǎn)。再次，要完善深度合成技術(shù)的應(yīng)用體系，引入理性中立的第三方專業(yè)機(jī)構(gòu)，完善行業(yè)標(biāo)準(zhǔn)，推動(dòng)行業(yè)自律。最后，還應(yīng)暢通用戶投訴、舉報(bào)渠道，確保以主流價(jià)值觀為引領(lǐng)，強(qiáng)化信息內(nèi)容的安全規(guī)范。

促進(jìn)深度合成技術(shù)向善發(fā)展，還需探索機(jī)制，提升技術(shù)風(fēng)險(xiǎn)治理的整體水平。新興技術(shù)的敏捷、精準(zhǔn)治理，需要多方合力、多措并舉，構(gòu)建多方協(xié)同治理模式。對(duì)于政府部門(mén)，要推動(dòng)從傳統(tǒng)管理向“包容審慎”治理轉(zhuǎn)變，倡導(dǎo)有所為有所不為，給予新技術(shù)必要的發(fā)展時(shí)間與試錯(cuò)空間，以更為靈活的治理方式適應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展特點(diǎn)。對(duì)于從業(yè)人員，要加強(qiáng)科技倫理教育和法律法規(guī)培訓(xùn)，建立系統(tǒng)性的科技倫理人才培養(yǎng)體系，鼓勵(lì)開(kāi)展深度合成與深度檢測(cè)的技術(shù)對(duì)抗演練，以技術(shù)之道還治技術(shù)之險(xiǎn)，從源頭防范深度合成的安全應(yīng)用風(fēng)險(xiǎn)。對(duì)于公眾，要加強(qiáng)新興技術(shù)科普教育特別是對(duì)特定群體數(shù)字鴻溝的彌合，提升技術(shù)應(yīng)用在公眾中的透明度，增強(qiáng)公眾對(duì)合成媒體防偽的警惕度和辨識(shí)能力。在全球經(jīng)濟(jì)復(fù)蘇的當(dāng)下，相信深度合成等新興人工智能技術(shù)必將邁著更加穩(wěn)健的步伐迎接一個(gè)全面數(shù)字化的世界。