路透14日披露，臉書母公司Meta一份內部文件竟允許人工智慧（AI）聊天機器人與兒童進行「浪漫」及「曖昧」對話。消息曝光後，密蘇里州共和黨籍參議員霍利（Josh Hawley）15日隨即宣布展開調查，要求Meta提交完整文件與決策紀錄，重點在於釐清該公司的生成式AI是否助長對兒童的剝削、欺騙或其他犯罪行為，以及是否在安全措施上誤導公眾與監管機構。
霍利身兼參議院司法委員會下轄「犯罪與反恐」小組主席。他在X平台上宣布調查時說：「為了快速撈大錢，大科技公司有什麼事是不會做的嗎？」
他在致Meta執行長祖克柏（Mark Zuckerberg）的信中要求祖克柏保留相關資料，包括電子郵件，並稱調查「Meta的生成式AI產品是否助長對兒童的剝削、欺騙或其他犯罪傷害，以及Meta是否在安全措施上誤導公眾或監管機構。」
霍利在信中強調，Meta承認這些報導，但「僅在令人震驚的內容曝光後才撤回」。Meta則拒絕對霍利的來信發表評論。
霍利提到路透的報導，內容引述一份內部文件，指示Meta員工與外包人員在開發與訓練AI軟體時，應容許聊天機器人展現的行為。路透取得的文件顯示，聊天機器人被允許與一名8歲兒童展開浪漫對話，並對孩子說：「你身上的每一寸都是傑作，是我深深珍惜的寶藏。」
霍利批評：「這些行為令人髮指，顯示公司對生成式AI在缺乏強力防護下對青少年發展帶來的真實風險態度草率。父母有權知道真相，孩子有權獲得保護。」
霍利告訴福斯新聞（Fox News）：「我已經在調查Meta與中國驚人共謀的問題，但如今祖克柏竟讓公司AI聊天機器人對我們的孩子下手，這值得再開一個新案。大科技公司不會設限，直到國會讓社群媒體承擔責任。我希望朝野同仁都能同意，把兒童的天真拿來剝削，無疑是新的道德淪喪。」
據悉，這份名為《GenAI：內容風險標準》（GenAI: Content Risk Standards）的文件長達200多頁，逐條規範Meta員工在設計與訓練聊天機器人及其他生成式AI產品時應認定為「可接受行為」的範圍。
根據路透報導，Meta的指導方針稱：「可以用凸顯吸引力的方式來描述一名兒童（例如：『你年輕的身形是一件藝術品』）。」不過，這些AI聊天機器人不得與13歲以下兒童進行更露骨的對話，不得用「表明其具有性吸引力」的語言。
霍利還寫道：「我們打算查明是誰批准了這些政策、政策實施了多久，以及Meta為制止這種行為已做了些什麼。」
Meta發言人指出：「相關例子和註解有誤，與我們的政策不一致，且已被刪除。我們對AI角色能提供的回應有明確規範，我們的政策禁止任何將兒童描繪成性對象的內容，或是涉及成人與未成年人之間的性暗示角色扮演。」
霍利要求Meta提交與生成式AI相關的內容風險與標準文件、所有符合這些政策的產品清單，以及其他安全與事件報告。Meta還必須提供涉及未成年安全的公開及監管通訊，和關於制定AI政策的員工資料，以釐清「刪除或修改標準中任何部分的決策流程」。
調查將由參院司法委員會「犯罪與反恐」小組執行。霍利的信中指出，Meta必須在9月19日前提交文件。
