為加強管理AI生成內容衍生的問題，大陸國家互聯網信息辦公室（網信辦）聯合多部門制定《人工智能生成合成內容標識辦法》，所有AI生成的文字、圖片等內容須建立標籤提供辨認來源，以免遭誤導濫用，新規今天（1日）起正式實施。對此，大陸人民大學未來法治研究院執行院長張吉豫表示，新規能幫助企業快速篩選AI生成的數據，對於訓練模型與保護版權均有益處，也有助於降低詐騙、侵權等風險，將推動市場公平競爭。
綜合陸媒報導，新規指出，AI內容須建立的標籤有兩種，「顯式標識」需在生成或交互界面以文字、聲音、圖形等形式呈現，讓用戶能直接了解訊息內容出自AI；「隱式標識」則是技術性標記，嵌入在文件數據中，由機器判讀，便於平台檢測與追溯。依照新規，平台在內容上架或發布前，必須核驗標識是否合格，對於未標識或疑似由AI生成的內容，要加註風險提示，從源頭遏制虛假訊息傳播。
據央視報導，張吉豫指出，新規要求所有生成內容加入隱式標識，能幫助企業快速篩選AI生成的數據，對於訓練模型與保護版權均有益處，也有助於降低詐騙、侵權等風險。他認為，這將推動市場公平競爭，讓優質數據脫穎而出，隨著《標識辦法》施行，平台在運營上將有更清晰的合規依據，能有效攔截大規模搬運AI生成內容的行為，從而減少內容審核壓力與成本。
張吉豫提到，新規要求平台分三層檢測，若能從原數據中檢測到隱式標籤，就可直接判定是AI生成；若僅透過演算法推斷，則只能標記為「疑似AI生成」。不過張吉豫坦言，當前技術仍有局限，部分原創內容可能被誤判為AI生成，進而損害創作者權益。他建議，平台應建立分級處理機制，例如：對已確定為AI生成的內容採取嚴格措施；對「疑似AI生成」則需提供便捷的申訴與反饋管道，避免過度懲處。
張吉豫指出，由於平台演算法存在數據偏差等問題，誤判率難以完全歸零，因而平台除公開原理與誤判樣本，還應建立復核渠道，允許創作者提交證據申訴，以維持監管與創作自由的平衡。
大陸社科院法學所研究員支振鋒強調，生成式AI治理的根本目的並非壓縮空間，而是「以規範促發展」。他解釋，透過法律、規範性文件與技術標準，可以淨化網路市場與資訊生態，進一步推動AI的健康發展，規範是保障生成式人工智慧良性成長的重要基礎。
支振鋒指出，高品質的數據對產業至關重要，若未標識的內容流入公共數據池，被模型用於訓練，將造成「數據污染」，削弱技術可信度，而「標識辦法」正是從源頭防止此類風險的關鍵舉措。
目前大陸已有超過490款大模型在網信辦完成備案，另有240款完成省級登記，生成式AI產品用戶規模已突破2.3億人。隨著AI滲透至新聞、影視、教育、商業等多領域，大陸官方將「AI標識」作為治理體系中的關鍵一環。
