隨著人工智慧（AI）技術快速普及，也衍生冒用名人身分牟利亂象。大陸公安部網安局通報，山西大同一名邢姓男子因未經授權使用國民黨主席鄭麗文形象，生成AI數位人並直播帶貨，近日遭當地警方依法行政拘留。
由於近年大陸屢傳AI冒充名人直播、賣藥與帶貨事件，此案也再度引發外界對AI深度偽造（Deepfake）與網路治理問題的討論。據《紅星新聞》，大陸警方是在網路巡查時發現，邢姓男子從事直播帶貨期間，見鄭麗文近期訪問大陸、網路聲量頗高，於是利用AI工具生成其數位人形象與帶貨文案，再透過多個平台直播販售商品，藉此吸引流量與牟利。
警方指出，邢男未取得任何授權，卻擅自使用他人肖像與名義進行商業宣傳，相關直播畫面也引發不少網友質疑，甚至有人誤以為是鄭麗文本人直播帶貨。公安認為，此舉已涉及盜用、冒用他人身分名義招搖撞騙，違反《中華人民共和國治安管理處罰法》，因此依法對其作出行政拘留處分。
大陸所稱「行政拘留」，屬公安機關可直接裁處的短期限制人身自由處分，通常為5日至15日不等。外界認為，此次公安直接祭出拘留處分，也反映官方近年對AI冒名與假訊息亂象，態度趨於強硬。
大陸公安部網安局也藉此案強調，網路並非法外之地，AI技術雖可廣泛應用，但不得利用AI冒充他人身分非法牟利、散布不實資訊或擾亂網路秩序，公安機關將持續加強打擊相關違法行為。
事實上，近年大陸已多次出現AI冒用名人亂象，包括仿冒財經名人報明牌、冒充醫師賣保健品，甚至連已故名人都遭製作成AI影片，散佈假訊息。部分短影音平台也出現「AI主播工廠化」現象，有業者公開教學如何透過AI快速生成數位人影片與聲音，藉由名人臉孔與話題流量吸引消費者。兩岸政府都呼籲民眾，購物要小心，以免受騙。
為杜絕此亂象，大陸已經於2023年8月推出《生成式人工智慧服務管理暫行辦法》及深度合成相關規範，要求AI生成內容須明確標示，並禁止利用AI從事詐騙、假冒或侵犯他人權益等行為。
