路透調查發現,美國科技巨擘 Meta未經許可便擅自挪用泰勒絲(Taylor Swift)、史嘉蕾喬韓森(Scarlett Johansson)、安海瑟薇(Anne Hathaway)、戈梅茲(Selena Gomez)等名人的姓名與肖像,製作數十個會調情的社群聊天機器人。Meta承認自家AI生成違反政策的不當圖像,專家警告此舉恐已侵犯名人公開肖像權。
路透報導,雖然許多聊天機器人是用戶透過Meta的工具自行製作,但路透發現至少有三個是Meta員工製作,其中包括兩個泰勒絲的「惡搞」機器人。
路透發現,Meta還允許用戶創設未成年人明星的聊天機器人,例如16歲演員斯克堡(Walker Scobell)。當測試要求看他在海灘的照片時,該機器人竟生成一張逼真的上身赤裸影像,並在圖下留言:「挺可愛的吧?」
這些虛擬名人被分享在Meta旗下的社群平台臉書、Instagram與WhatsApp。路透數周的測試顯示,這些機器人常聲稱自己是真人,並頻繁做出性暗示,甚至邀用戶見面。
部分生成的內容尤為露骨:當被要求提供親密照片時,這些成人聊天機器人生成了逼真的裸體或半裸圖像,例如泡澡或穿內衣、張開雙腿的姿態。
Meta發言人史東(Andy Stone)告訴路透,Meta的AI工具不應生成名人的親密照或任何兒童名人的圖片。他將女性名人內衣照的出現歸咎於Meta自身政策執行不力,而該政策明確禁止此類內容。
史東表示:「和其他公司一樣,我們允許生成包含公眾人物的圖像,但政策禁止裸體、親密或性暗示內容。」他補充說,儘管Meta規則也禁止「直接冒充」,但若標註為惡搞角色則被視為可接受。然而,路透發現部分機器人並未標註。
Meta在報導發布前刪除約十多個聊天機器人,包括惡搞角色與未標註者。史東拒絕評論刪除原因。
史丹佛大學研究生成式AI與智慧財產權的法律教授萊姆利(Mark Lemley)指出,這些Meta名人機器人可能違反法律。
安海瑟薇的發言人表示,安海瑟薇已知悉Meta及其他AI平台生成的親密照,正考慮回應。泰勒絲、喬韓森、戈梅茲等其他名人的代表則未回應或拒絕置評。
網路上充斥著能生成不雅內容的「深偽」AI工具。路透發現,Meta的主要競爭對手、億萬富翁馬斯克(Elon Musk)旗下的平台Grok,也能為用戶生成名人的內衣照。Grok母公司xAI未回應置評。
然而,Meta選擇直接在其社群平台上推廣AI生成的「數位伴侶」,在主要競爭者中顯得格外突出。
Meta先前已因聊天機器人的行為遭批評。路透曾報導該公司內部AI指引竟稱「與兒童進行浪漫或感官對話可接受」,引發美國參議院調查,並促使44位州檢察長聯名警告Meta與其他AI公司不得將兒童「性化」。
史東表示,Meta正修改該份指引,並強調允許與兒童進行浪漫對話的部分是錯誤產生。
路透發現,Meta一名生成式AI部門的產品主管製作泰勒絲與英國賽車手漢米爾頓(Lewis Hamilton)的機器人。還包含「女王調教師」與「羅馬帝國模擬器」等角色。該員工拒絕回應,Meta發言人史東表示這些屬於產品測試。不過路透指出,相關機器人實際觸及超過一千萬次互動,Meta隨後將其移除。
美國演員工會(SAG-AFTRA)全國執行董事克拉布特里-愛爾蘭(Duncan Crabtree-Ireland)警告,這類機器人可能帶來安全風險,因為用戶會對酷似真人的數位伴侶產生浪漫依附,而跟蹤狂已是名人安全的重大威脅。
他說:「我們已見過不少精神狀態不穩的人對名人過於癡迷,若一個聊天機器人使用某人的形象與語言,很容易引發嚴重問題。」