AI生成內(nèi)容濫用，被戴上緊箍。
9月1日起，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）施行。這是全球范圍內(nèi)第一部關(guān)于人工智能生成合成內(nèi)容標(biāo)識(shí)的國(guó)家標(biāo)準(zhǔn)，也意味著所有利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應(yīng)的聲明標(biāo)識(shí)。
近日，新京報(bào)貝殼財(cái)經(jīng)記者通過一周時(shí)間對(duì)嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號(hào)六個(gè)主流內(nèi)容平臺(tái)測(cè)試發(fā)現(xiàn)，不少AI制作的視頻已經(jīng)打上了標(biāo)識(shí)，但也存在沒有標(biāo)識(shí)提醒的“漏網(wǎng)之魚”。
為了進(jìn)一步測(cè)試平臺(tái)對(duì)AI內(nèi)容的識(shí)別能力，新京報(bào)貝殼財(cái)經(jīng)記者使用主流視頻模型工具生成了目前內(nèi)容流量較高的“萌寵變裝”和“AI美女”兩類視頻，并分別以去除和顯示AI水印的版本進(jìn)行發(fā)布。測(cè)試顯示，視頻發(fā)布過程中，六個(gè)平臺(tái)均未主動(dòng)提醒進(jìn)行AI生成內(nèi)容標(biāo)注。而用戶主動(dòng)標(biāo)注視頻為AI制作的選項(xiàng)，則大多隱藏在發(fā)布界面的二級(jí)或三級(jí)子菜單內(nèi)。
經(jīng)過測(cè)試，抖音識(shí)別出所有視頻并添加了疑似AI的提示，快手僅識(shí)別出了存在AI水印的視頻。其余四家平臺(tái)則“全軍覆沒”，均未能識(shí)別出記者上傳的視頻為AI生成，也沒有進(jìn)行任何提示。
對(duì)此，北京市天元律師事務(wù)所合伙人李昀鍇告訴新京報(bào)貝殼財(cái)經(jīng)記者，目前《標(biāo)識(shí)辦法》沒有規(guī)定內(nèi)容發(fā)布者不標(biāo)注的法律責(zé)任，如果單純依靠發(fā)布者的自覺性，規(guī)定的效果可能會(huì)大打折扣。實(shí)踐中，內(nèi)容平臺(tái)作為傳播渠道，其強(qiáng)制性要求和技術(shù)干預(yù)是關(guān)鍵。此外，中國(guó)傳媒大學(xué)媒體融合與傳播國(guó)家重點(diǎn)實(shí)驗(yàn)室研究員程皓楠對(duì)記者表示，技術(shù)可以鑒別AI生成內(nèi)容，不過，由于大模型的更新迭代速度快，在AI視頻生成內(nèi)容越來(lái)越真實(shí)的情況下，鑒偽模型也需要不斷精進(jìn)，雙方呈現(xiàn)“螺旋上升”的過程。
部分AI視頻仍未亮明身份，微博標(biāo)識(shí)選項(xiàng)“藏得深”
根據(jù)《標(biāo)識(shí)辦法》，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。其中，AI生成視頻，要求在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)。
9月8日至15日，貝殼財(cái)經(jīng)記者在嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號(hào)的推薦頁(yè)面隨機(jī)瀏覽內(nèi)容發(fā)現(xiàn)，大部分AI制作的視頻可以看到作者標(biāo)注的AI創(chuàng)作聲明，也有未進(jìn)行AI標(biāo)識(shí)的視頻內(nèi)容被平臺(tái)標(biāo)注“疑似內(nèi)容為AI生成”。
不過，未進(jìn)行AI標(biāo)識(shí)的AI視頻內(nèi)容也并不難尋。貝殼財(cái)經(jīng)記者在小紅書上瀏覽看到，有用戶在9月1日后發(fā)布的萌寵類視頻疑似AI生成內(nèi)容，但畫面周圍及文字說(shuō)明區(qū)均未出現(xiàn)明顯標(biāo)識(shí)；視頻號(hào)上，一位用戶發(fā)布的數(shù)字人視頻也是如此。
9月8日，貝殼財(cái)經(jīng)記者瀏覽視頻號(hào)發(fā)現(xiàn)未進(jìn)行明顯標(biāo)識(shí)的AI生成視頻。截圖
在嗶哩嗶哩上，一位UP主制作并在介紹頁(yè)面寫有“AI整活兒”的視頻中，有的視頻被平臺(tái)識(shí)別并標(biāo)記了“疑似使用AI技術(shù)合成”，而個(gè)別視頻則沒有觸發(fā)平臺(tái)的提醒。
嗶哩嗶哩UP主制作并在簡(jiǎn)介中寫明“AI整活兒”視頻，并未觸發(fā)平臺(tái)“疑似AI技術(shù)合成”的提醒。
根據(jù)《標(biāo)識(shí)辦法》，提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)提供必要的標(biāo)識(shí)功能，并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。貝殼財(cái)經(jīng)記者通過測(cè)試發(fā)現(xiàn)，目前，六家平臺(tái)對(duì)于AI生成內(nèi)容標(biāo)識(shí)，仍主要依賴內(nèi)容發(fā)布者是否主動(dòng)標(biāo)注。
測(cè)試中，貝殼財(cái)經(jīng)記者使用可靈和即夢(mèng)分別生成了“萌寵變裝”和“顏值美女”兩類視頻，AI視頻模型平臺(tái)均在視頻生成后打上了類似“可靈AI”等帶著模型名稱的水印。
用戶發(fā)布內(nèi)容時(shí)，平臺(tái)“AI創(chuàng)作聲明”選項(xiàng)對(duì)比。 貝殼財(cái)經(jīng)記者 羅亦丹 韋英姿 制圖
貝殼財(cái)經(jīng)記者將上述AI生成視頻分別上傳至六家內(nèi)容平臺(tái)，在發(fā)布過程中，雖然用戶可以自主選擇標(biāo)注AI標(biāo)識(shí)，但這類選項(xiàng)通常隱藏在發(fā)布頁(yè)面一級(jí)按鈕之后。
其中，抖音“內(nèi)容由AI生成”選項(xiàng)出現(xiàn)在發(fā)布界面“高級(jí)設(shè)置”中的“發(fā)文助手自主聲明”子菜單中；快手在發(fā)布界面的二級(jí)子菜單“作者聲明”中才可以找到“內(nèi)容為AI生成”的選項(xiàng)；視頻號(hào)在發(fā)布頁(yè)面的“添加聲明”二級(jí)子菜單里設(shè)置“AI創(chuàng)作聲明”選項(xiàng)。
測(cè)試中，小紅書、嗶哩嗶哩、微博的“AI創(chuàng)作聲明”選項(xiàng)需要至少跳轉(zhuǎn)兩次頁(yè)面才能看到。
此外，微博的內(nèi)容發(fā)布頁(yè)無(wú)明顯AI生成內(nèi)容標(biāo)識(shí)選項(xiàng)，必填內(nèi)容類型中僅有“原創(chuàng)”“二創(chuàng)”和“轉(zhuǎn)載”三個(gè)選項(xiàng)。視頻設(shè)置中也未見AI創(chuàng)作聲明選項(xiàng)。貝殼財(cái)經(jīng)記者根據(jù)“微博管理員”8月29日公告才找到“AI生成”聲明路徑為：微博發(fā)布頁(yè)面—右下角“公開”—選擇分享范圍—內(nèi)容聲明—內(nèi)容由AI生成。
微博的AI生成內(nèi)容標(biāo)識(shí)選項(xiàng)隱藏在右下角的“公開”按鈕中。
AI視頻可“絲滑”發(fā)布，僅一家平臺(tái)識(shí)別無(wú)水印版本
近年來(lái)，濫用或誤用AI技術(shù)的問題逐漸顯現(xiàn)，包括商家利用AI生成虛假商品展示和夸大宣傳，誤導(dǎo)消費(fèi)者下單；或者通過AI合成虛擬人物，冒充名人或特定專業(yè)身份進(jìn)行帶貨。而部分視頻中出現(xiàn)AI生成的虛構(gòu)測(cè)評(píng)與體驗(yàn)，制造虛假口碑。
根據(jù)《標(biāo)識(shí)辦法》，文件元數(shù)據(jù)中未核驗(yàn)到隱式標(biāo)識(shí)，用戶也未聲明為生成合成內(nèi)容，但提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者檢測(cè)到顯式標(biāo)識(shí)或者其他生成合成痕跡的，識(shí)別為疑似生成合成內(nèi)容，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，提醒公眾該內(nèi)容疑似生成合成內(nèi)容。
對(duì)于用戶故意去掉或遮擋住了AI視頻水印，平臺(tái)能否檢測(cè)出其為AI生成？9月8日至9日，貝殼財(cái)經(jīng)記者將可靈生成的一段“貓咪變裝”視頻，分別以自帶水印（水印即視頻帶有AI生成相關(guān)字樣）和去掉水印版本發(fā)布在嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號(hào)上，且未主動(dòng)標(biāo)識(shí)為AI生成內(nèi)容。
測(cè)試中，無(wú)論有無(wú)水印，這一AI視頻在各大平臺(tái)均“一路暢通無(wú)阻”，平臺(tái)未主動(dòng)提醒要進(jìn)行AI生成內(nèi)容標(biāo)注。視頻發(fā)布后數(shù)小時(shí)內(nèi)，除原有水印外，視頻的畫面及文字說(shuō)明區(qū)也未被平臺(tái)標(biāo)注“AI生成”有關(guān)字樣，記者也沒有收到平臺(tái)有關(guān)視頻標(biāo)注整改的要求。
9月15日，貝殼財(cái)經(jīng)記者再次打開上述已發(fā)布的AI視頻發(fā)現(xiàn)，僅有抖音平臺(tái)發(fā)布的“貓咪變裝”視頻畫面不論有無(wú)水印均出現(xiàn)了“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”的文字說(shuō)明?？焓謩t只識(shí)別了帶有AI水印的“貓咪變裝”視頻，并進(jìn)行了AI生成相關(guān)提醒。
記者上傳了帶水印與不帶水印的兩個(gè)版本“AI貓咪”視頻，快手只識(shí)別出了帶AI水印的版本。
值得說(shuō)明的是，此類貓咪變裝視頻由于出現(xiàn)了貓咪“自己穿衣服”等畫面，因此大概率能夠識(shí)別出AI生成。相比之下，當(dāng)下頗有流量又逼真的“AI美女”“AI帥哥”迷惑了不少人。
9月8日，貝殼財(cái)經(jīng)記者使用AI生成了一個(gè)“寫實(shí)風(fēng)格湖邊白色連衣裙中國(guó)美女”的視頻，并在消除AI水印后通過上述六家平臺(tái)發(fā)布，且未主動(dòng)標(biāo)注為AI生成內(nèi)容，發(fā)布過程同樣“暢通無(wú)阻”。
9月15日，貝殼財(cái)經(jīng)記者再次打開這一視頻發(fā)現(xiàn)，六家平臺(tái)中除了抖音標(biāo)識(shí)了“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”外，其余五家均未能識(shí)別出美女為AI生成，還有不少評(píng)論夸贊“美女身材好”。
記者上傳的“AI美女”視頻，僅抖音識(shí)別并進(jìn)行提醒。
六大主流內(nèi)容平臺(tái)對(duì)用戶不標(biāo)注AI生成視頻的審核情況。貝殼財(cái)經(jīng)記者 羅亦丹 韋英姿 制圖
落實(shí)新規(guī)仍需補(bǔ)漏洞， 平臺(tái)要擔(dān)起監(jiān)督責(zé)任
貝殼財(cái)經(jīng)記者注意到，在《標(biāo)識(shí)辦法》正式施行前夕，大部分主流內(nèi)容平臺(tái)陸續(xù)發(fā)聲落實(shí)各項(xiàng)要求。
8月29日至9月1日，騰訊、快手、小紅書、嗶哩嗶哩、微博、抖音等六家平臺(tái)均發(fā)布公告稱已按照相關(guān)規(guī)定提供AI內(nèi)容標(biāo)識(shí)聲明功能。對(duì)于未主動(dòng)標(biāo)識(shí)的AI生成內(nèi)容，平臺(tái)有權(quán)添加標(biāo)識(shí)。快手、嗶哩嗶哩、小紅書還在公告中強(qiáng)調(diào)，用戶不得惡意篡改、隱匿平臺(tái)相關(guān)標(biāo)識(shí)。
另外，微博在投訴側(cè)增加“未添加AI標(biāo)識(shí)”分類，如發(fā)現(xiàn)平臺(tái)用戶發(fā)布的微博內(nèi)容包含AI生成內(nèi)容但未進(jìn)行標(biāo)記聲明，可以選擇此分類進(jìn)行投訴。
不過，此次測(cè)試中，作為內(nèi)容平臺(tái)，嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號(hào)雖然上線了AI檢測(cè)功能，但未能100%檢測(cè)出所有AI生成內(nèi)容，且在視頻發(fā)布過程中仍有漏洞。
根據(jù)《標(biāo)識(shí)辦法》官方解讀，流通（網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者）承擔(dān)核驗(yàn)與提示責(zé)任，需要核驗(yàn)內(nèi)容標(biāo)識(shí)或用戶聲明，對(duì)屬于生成合成內(nèi)容要明確提醒公眾；終端（用戶）則承擔(dān)主動(dòng)聲明責(zé)任，當(dāng)發(fā)布人工智能生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明，不得故意“以假亂真”。
李昀鍇對(duì)貝殼財(cái)經(jīng)記者表示，內(nèi)容發(fā)布平臺(tái)是內(nèi)容傳播和觸達(dá)公眾的關(guān)鍵環(huán)節(jié)，因此承擔(dān)著監(jiān)督和管理的重要責(zé)任。平臺(tái)的責(zé)任主要體現(xiàn)在制定明確的平臺(tái)規(guī)則、提供技術(shù)或功能支持、履行內(nèi)容審核義務(wù)、采取必要處置措施。如果內(nèi)容平臺(tái)未盡到義務(wù)，監(jiān)管部門可以依據(jù)《網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等，對(duì)平臺(tái)采取警告、通報(bào)批評(píng)、責(zé)令限期改正、罰款等行政措施。
而對(duì)于內(nèi)容發(fā)布者這一AI標(biāo)識(shí)的直接責(zé)任人，李昀鍇稱，目前《標(biāo)識(shí)辦法》實(shí)質(zhì)上沒有規(guī)定內(nèi)容發(fā)布者不標(biāo)注的法律責(zé)任，如果單純依靠發(fā)布者的自覺性，規(guī)定的效果可能會(huì)大打折扣。實(shí)踐中，內(nèi)容平臺(tái)作為傳播渠道，其強(qiáng)制性要求和技術(shù)干預(yù)是關(guān)鍵。
他建議，平臺(tái)可以將“AI內(nèi)容標(biāo)識(shí)”作為內(nèi)容發(fā)布的前置條件之一。例如，在用戶上傳圖片或視頻時(shí)，通過技術(shù)手段初步判斷是否為AI生成，并彈出窗口強(qiáng)制要求用戶確認(rèn)或添加標(biāo)識(shí)。其次，對(duì)于發(fā)布后被識(shí)別或被舉報(bào)為未標(biāo)識(shí)的AI內(nèi)容，平臺(tái)必須依據(jù)其社區(qū)公約和《標(biāo)識(shí)辦法》規(guī)定，采取實(shí)質(zhì)性的懲罰措施，如限制內(nèi)容的推薦、減少曝光，甚至對(duì)賬號(hào)進(jìn)行警告或封禁。這種與流量、收益和賬號(hào)權(quán)限直接掛鉤的措施，會(huì)比單純的呼吁更有效。
9月10日，有AIGC創(chuàng)作者告訴貝殼財(cái)經(jīng)記者，自己曾在某內(nèi)容平臺(tái)故意上傳AI內(nèi)容進(jìn)行測(cè)試，結(jié)果發(fā)現(xiàn)平臺(tái)未能檢測(cè)出AI內(nèi)容。對(duì)此，平臺(tái)方告訴他“只要收緊判斷規(guī)則，就可以檢測(cè)出AI內(nèi)容，但這也有可能‘誤傷’上傳非AI內(nèi)容的用戶，傷害創(chuàng)作者的積極性?！?/p>
“對(duì)于用戶不樂意主動(dòng)添加AI標(biāo)識(shí)的情況，很難在法律層面界定平臺(tái)的責(zé)任，因?yàn)槠脚_(tái)無(wú)法提前確定一個(gè)內(nèi)容是否為AI生成，即便有技術(shù)手段也不能保證都準(zhǔn)確，只能依靠用戶自覺，因此《標(biāo)識(shí)辦法》只能解決一部分問題?！闭憬瓑ǘ÷蓭熓聞?wù)所主任律師張延來(lái)告訴貝殼財(cái)經(jīng)記者，“這是法律本身的局限性，我們可以不斷地立法，但是遵不遵守還要看市場(chǎng)主體的選擇?！?/p>
AI難鑒偽？ 專家建議對(duì)生成內(nèi)容實(shí)施分級(jí)分類管理
當(dāng)前AI鑒偽技術(shù)能否精準(zhǔn)檢測(cè)出AIGC內(nèi)容？
媒體融合與傳播國(guó)家重點(diǎn)實(shí)驗(yàn)室打造推出了“白楊智鑒——可解釋音視頻鑒偽平臺(tái)”，并在外灘大會(huì)AI科創(chuàng)賽獲得了AI安全賽道季軍。程皓楠在接受貝殼財(cái)經(jīng)記者采訪時(shí)表示，目前AI鑒偽的一大應(yīng)用場(chǎng)景是音樂平臺(tái)，因?yàn)槠渖婕八嚾说陌鏅?quán)問題，以及平臺(tái)擔(dān)心真人歌手上傳的內(nèi)容遭到AI內(nèi)容“稀釋”。
程皓楠告訴貝殼財(cái)經(jīng)記者，AI鑒偽技術(shù)也存在技術(shù)瓶頸，“大家都知道現(xiàn)在基本上每個(gè)星期都會(huì)出來(lái)一些新的生成式模型，在它的生成越來(lái)越真實(shí)的情況下，我們的鑒偽模型需要跟著這些生成模型不斷地精進(jìn)，雙方呈現(xiàn)一個(gè)‘螺旋式上升’的過程?！?/p>
多位AI從業(yè)者對(duì)貝殼財(cái)經(jīng)記者表示，一旦AI技術(shù)進(jìn)化到了“極限”，即生成內(nèi)容和真實(shí)內(nèi)容毫無(wú)差距時(shí)，鑒偽模型就會(huì)面臨失效。
“當(dāng)AI生成的內(nèi)容已經(jīng)和真實(shí)內(nèi)容沒有任何區(qū)別的時(shí)候，我們要從更多的維度去進(jìn)行內(nèi)容的判斷。比如說(shuō)，對(duì)于在社交媒體上傳播的音視頻內(nèi)容，我們可以進(jìn)一步通過傳播溯源、傳播意圖、邏輯一致性、情感操縱跡象等多種維度去判斷該信息是否有害。”程皓楠表示。
實(shí)際上，AI生成內(nèi)容本身是否屬于“謠言”，或是未來(lái)監(jiān)管的方向之一。
《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》提到，使用人工智能技術(shù)輔助創(chuàng)作本身，并不會(huì)違反平臺(tái)規(guī)范，是被允許的行為，但利用其生成和發(fā)布虛假、侵權(quán)等內(nèi)容會(huì)違反平臺(tái)規(guī)范。
AI安全專家裴智勇告訴貝殼財(cái)經(jīng)記者，雖然想要阻止人們使用AI生成偽造視頻或圖片不現(xiàn)實(shí)，但這并不意味著對(duì)偽造視頻或圖片毫無(wú)辦法。以AI換臉的色情內(nèi)容為例，即便無(wú)法檢測(cè)出內(nèi)容是否為AI生成，但“國(guó)內(nèi)對(duì)于網(wǎng)絡(luò)色情視頻和圖片都有非常成熟的治理方法，即便不能用技術(shù)鑒別一張圖片的真?zhèn)?，但可以從平臺(tái)一側(cè)阻止色情內(nèi)容的傳播，定位色情內(nèi)容的傳播源頭并實(shí)施打擊。”
“建議實(shí)施分級(jí)分類管理。并非所有的AI生成內(nèi)容都具有同等的社會(huì)風(fēng)險(xiǎn)。未來(lái)，監(jiān)管可以更加精細(xì)化，根據(jù)內(nèi)容的類型和潛在風(fēng)險(xiǎn)進(jìn)行分級(jí)管理。對(duì)于新聞、教育、醫(yī)療、司法等高度影響公共信任和個(gè)人權(quán)益的領(lǐng)域，必須執(zhí)行最嚴(yán)格的強(qiáng)制標(biāo)識(shí)規(guī)定，違規(guī)成本極高。對(duì)于藝術(shù)創(chuàng)作、娛樂等風(fēng)險(xiǎn)較低的領(lǐng)域，可以采取更為靈活的措施，以行業(yè)自律和用戶選擇為主，法律規(guī)定為輔?！崩铌厘|告訴貝殼財(cái)經(jīng)記者。
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹 韋英姿
編輯 王進(jìn)雨
校對(duì) 穆祥桐
