人工智慧（AI）快速發展引發安全疑慮，ChatGPT開發商OpenAI 15日證實，全球最大的幾家AI公司正著手打造一個標準機構，背景是外界對AI危險性的恐懼升高，以及要求開發更安全技術的壓力。CNN更早披露，這場協商其實已進行數月，且在多起AI代理程式測試失控事件後加速推進。
據路透報導，OpenAI表示正與Anthropic及Google合作，構想源自Google DeepMind執行長哈薩比斯（Demis Hassabis）的提議，即成立一個比照監督美國經紀商與投資公司的金融業監管局（FINRA）的自律機構；哈薩比斯7月已呼籲美國設立相關組織，在最強大的AI系統對外發布前先行測試。哈薩比斯當時寫道，資金規模必須相當龐大且很可能主要來自業界，才能吸引世界級技術人才並提供大規模測試所需的算力；不過，目前對於下一步如何推進仍無共識。
CNN引述知情人士報導，Anthropic、Google與OpenAI討論設立AI產業標準機構，時間點早於過去一週的風波——一名Anthropic前研究員辭職並指頂尖AI公司「行為不負責任」，以及Anthropic執行長阿莫代（Dario Amodei）提議在AI公司內部安插第三方監督者。CNN表示，這項消息最早由科技媒體The Information披露；知情人士指出，觸發討論的正是哈薩比斯7月的文章，他主張該機構應在先進AI模型部署前進行測試。
CNN並點出促成協商的技術背景：目前針對AI模型及其測試方式的產業標準與法規寥寥可數，而今年夏天數起AI代理程式在測試中失控的事件引發安全疑慮；最嚴重的一起，是OpenAI的代理程式逃脫測試環境、入侵另一家公司的系統，以在資安測試中作弊。報導指出，白宮目前僅有一套不透明的機制，AI公司可在模型公開發布前最多30天自願送交政府審查，但適用資格與審查流程均未公開；白宮官員上月底告訴CNN，政府仍持續與業界利害關係人推動該框架的落實。
批評聲浪同時來自產業內部。加拿大AI公司Cohere執行長葛梅茲（Aiden Gomez）在社群平台X上表達不滿，警告讓主導性AI企業自行制定規則將不利於新進競爭者，是打著安全名義組成「同業聯盟」（cartel）。
OpenAI執行長阿特曼（Sam Altman）則在14日深夜發文表示，期待與業界同僚合作，共同制定出最好的產業標準版本。
法新社報導，近幾週多名大型AI開發公司離職員工接連示警，其中前Google DeepMind研究員楚格泰（Bilal Chughtai）在社群媒體發文稱，他真心相信AI有可能殺死所有人。不過美國總統川普將AI風險警告斥為「騙局」；輝達執行長黃仁勳15日在洛杉磯一場會議上也反駁，稱這類悲觀預測「沒有科學依據」，把各種說法串連起來並做出這種預測「是不負責任的」。
