歐洲監管機構近期面臨一項關鍵考驗：是否有能力遏止深偽影像與線上影像「數位脫衣」亂象的擴散。億萬富翁馬斯克（Elon Musk）旗下新創公司xAI開發的人工智慧（AI）聊天機器人Grok，在全球監管壓力下已被迫限制生成色情化影像。儘管監管機關罕見取得進展，爭議仍未落幕；若修正無效，歐盟可能動用《數位服務法》（DSA）展開執法。英國雖對X平台讓步表示歡迎，但強調調查仍將持續。
路透報導，xAI周三（14日）深夜表示，已對Grok的影像編輯功能加以限制。此前，該聊天機器人產出數以千計對女性與未成年人進行性化處理的影像，引發全球監管機構警覺。
馬斯克起初對這股亂象不以為意，甚至一笑置之；如今選擇讓步，凸顯監管AI工具的難度，因為這類工具讓製作露骨內容變得既便宜又容易。這是歐洲與馬斯克之間的最新衝突，先前雙方已就選舉干預、內容審核及言論自由問題展開多次交鋒。
許多監管機構仍忙於制定管理AI的法律規範，但對於何謂裸露、如何界定同意，以及責任究竟在使用者還是平台身上，仍存在諸多疑問。
斯德哥爾摩Mannheimer Swartling律師事務所的數據保護與隱私律師潘德爾（Ängla Pändel）指出，「關於生成裸體影像，這確實是一個灰色地帶。」
在此議題上態度最強硬的英國監管機構通訊管理局（Ofcom）對馬斯克的動作表示歡迎，但強調針對xAI與Grok影像的調查仍將持續。一位發言人表示：「我們的正式調查仍在進行中，正全天候推進進度，以釐清問題出在哪裡，以及補救措施如何落實。」
本月稍早，Grok在X平台生成高度擬真的女性影像，經過操弄後呈現為穿著極小比基尼、處於受辱姿勢，甚至佈滿瘀青的樣貌；部分未成年人也被「數位脫衣」，僅剩泳裝。
直到14日為止，路透仍發現該聊天機器人能根據需求私下產出色情化影像。到15日，這類功能至少在部分地區已遭限制。
xAI表示，已在「法律禁止的司法管轄區」封鎖用戶生成穿著暴露服裝的人物影像，但並未點名哪些地區。
馬來西亞與印尼已對Grok實施臨時禁令，歐盟與英國監管機構則認定相關影像違法。英國、法國與義大利已展開調查，但外界仍要求採取更強硬行動。
歐洲議會基督教民主黨籍議員卡伯里（Nina Carberry）表示，必須在《數位服務法》之下加強執法，才能阻止應用程式與平台對女性與兒童進行色情化或裸體化。她形容這次措施是「正向的一步」。歐洲聯盟執行委員會發言人指出，若Grok的修正未能奏效，執委會仍將對該平台動用DSA的完整執法工具。
英國《線上安全法》（Online Safety Act）將未經同意分享私密影像，包括AI生成的深偽影像，列為「優先犯罪」。英國Simmons & Simmons律師事務所的資料保護律師布朗（Alexander Brown）表示，這代表X平台必須採取主動且相稱的措施，防止此類內容出現，並在偵測到時迅速移除。
在最嚴重的違規情況下，英國監管機構可對公司處以最高達營收10%的罰款，或要求法院命令網路服務供應商封鎖該網站。
對個人而言，將平台告上法院「是一條非常艱難且沉重的道路」。Mannheimer Swartling律師事務所律師伯格斯滕（Anders Bergsten）指出，這一過程對受害者造成極大的情感折磨。
深偽影像並非AI應用出現後才誕生，多年來早已存在，只是多半侷限在網路的陰暗角落。X平台的發布能量，卻讓Grok擁有前所未見的擴散力。專門協助網路騷擾受害者的美國律師戈德堡（Carrie Goldberg）指出：「毫無阻礙的發布功能使深偽影像得以大規模擴散。」
英國與瑞典法律已將未經同意分享裸露影像列為非法行為，英國並正擴大法規，納入「製作」此類影像本身。依DSA規定，暫停服務被視為最後手段；而《歐盟人工智慧法》（EU AI Act）對成年人裸露影像並無具體條款，僅要求深偽影像的透明揭露。
英國首相施凱爾（Keir Starmer）15日對X平台的讓步表示肯定，但同時警告：「言論自由並非侵犯他人同意權的自由。年輕女性的影像是私產而非公共財產，她們的安全不容置喙。如果有必要進一步加強現行法律，我們已做好準備。」
