熱點事件發(fā)生后，有人利用AI生成的假“照片”引流吸睛；網(wǎng)絡直播間里，有人利用AI生成的假“名人”瘋狂帶貨；現(xiàn)實社會中，有人利用“AI換臉”實施詐騙……
不時曝出的此類案例，讓不少人“破防”，更引發(fā)人們對AI濫用的擔憂。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等多個部門聯(lián)合制定的《人工智能生成合成內(nèi)容標識辦法》正式施行。辦法聚焦人工智能生成合成內(nèi)容標識的關鍵點，從服務提供、內(nèi)容制作、產(chǎn)品傳播等各個環(huán)節(jié)，對AI參與內(nèi)容生產(chǎn)提出具體要求。
辦法的頒布實施，將對規(guī)范AI參與內(nèi)容生產(chǎn)、防范AI被濫用立規(guī)矩、畫方圓。
近年來，生成式人工智能取得長足發(fā)展，廣泛應用于人們?nèi)粘Ｉ畹脑S多場景。新技術的運用，為經(jīng)濟社會發(fā)展注入強勁動能，也帶來一系列濫用的新問題。
此前，“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”……諸如此類“有圖有視有真相”的重磅“消息”，曾在網(wǎng)上廣泛傳播，引起大量網(wǎng)民關注。警方隨后調(diào)查發(fā)現(xiàn)，這些聳人聽聞的“消息”，是不法分子使用AI制作的網(wǎng)絡謠言。
“名人效應”也是不法分子利用AI造假的重要動機。比如，一些不法商家盯上多位奧運冠軍，通過AI“盜聲”等方式，虛構奧運冠軍為自己帶貨。
人工智能就像一柄雙刃劍，利用得好，能夠為工作、學習增添助力；AI被濫用，就會損害個人權益、搞亂網(wǎng)絡環(huán)境、帶偏社會風氣。
利用AI生成的內(nèi)容常常生動逼真，又沒有相關的標識說明，一些不法分子甚至專門針對網(wǎng)民“量身打造”行騙內(nèi)容，普通民眾很難辨別真假。
相關部門推出的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確提出，“任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動?！边@為利用AI進行內(nèi)容生產(chǎn)劃定了底線和紅線。
該規(guī)定第十七條提出，深度合成服務提供者提供服務，“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況”，從而給AI生成合成內(nèi)容需要標注提出了法治化要求。
這次實施的《人工智能生成合成內(nèi)容標識辦法》，是《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》的配套制度要求。辦法第四條明確規(guī)定，服務提供者提供的生成合成服務，屬于《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十七條相關情形的，“應當”按照相應要求對合成內(nèi)容添加顯著的提示標識。
辦法從AI生產(chǎn)內(nèi)容的制作源頭開始全鏈條發(fā)力，對AI生成內(nèi)容服務的提供者、使用者、發(fā)布者、平臺等多角色開展約束，全方位完善制度體系，為防止AI濫用樹起了制度圍欄。
徒善不足以為政，徒法不能以自行。
從今年3月印發(fā)到9月正式施行，《人工智能生成合成內(nèi)容標識辦法》給相關單位留出了相對充分的準備時間。全面開展宣傳普及，讓辦法貫徹實施下去，為防范AI濫用發(fā)揮出應有效用，需要全社會合力推進。
生成合成內(nèi)容服務提供者，要為落實標注要求提供堅實的技術支持，讓使用者開展標注可用、好用、易用。
相關企業(yè)和個人需要仔細掂量自己利用AI生產(chǎn)的內(nèi)容，是否會損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益，做到知法、守法。對于違法行為，應當嚴厲查處，以儆效尤。
傳播平臺同樣要承擔起把關責任，既要“技防”也要“人防”，多管齊下，嚴防應該標注卻沒有標注的AI生產(chǎn)內(nèi)容違規(guī)發(fā)布。
治理AI濫用難題，還需要健全處置機制，強化執(zhí)法協(xié)同，用好群眾力量，提升違規(guī)問題的發(fā)現(xiàn)能力和懲處效率。
為技術使用立好規(guī)矩，使用者、傳播者各司其職守好內(nèi)容真實的底線，AI這項未來可能越來越深入、越來越廣泛影響我們?nèi)粘Ｉ畹膹姶蠹夹g，才能趨利避害，不斷催生新場景、新業(yè)態(tài)，賦能千行百業(yè)，服務千家萬戶。
來源：新華社
編輯：張永超 李新花 劉曉哲
一審：賈春毅
二審：孫瑞永
三審：管延會
