人工智慧（AI）快速進化，業界對其風險警告再升高。美國AI新創Anthropic內部近日爆安全疑慮，一名研究員離職後公開指控Anthropic與OpenAI正競相發展「自我改進超級智慧」，並稱兩家公司是在「拿人類生命豪賭」；引發震撼的是，Anthropic負責AI對齊（alignment）研究的胡賓格（Evan Hubinger）表示，他個人認為未來10年內，AI「殺死所有人類」的機率超過10%。
此外，微軟創辦人比爾蓋茲（Bill Gates）也對AI將帶來的社會衝擊提出警告。他說，AI不只會取代部分白領工作，未來10年還可能快速擴散至醫療、法律、軟體、製造等產業，甚至連建築、旅宿等勞力密集工作也可能受到智慧機器人衝擊。面對這場可能比過去工業轉型更快速的變革，蓋茲提出「Human Reserved」（人類保留）概念，主張部分工作即使機器做得到，社會仍應選擇保留給人類。
Anthropic內部警告：真正風險不在現在
這場風波始於Anthropic研究員考克森（Jacob Coxon）9日在社群平台X宣布離開公司。他曾先後任職OpenAI與Anthropic，負責AI模型預訓練工作。考克森表示，兩家公司都不負責任行事，「一路競賽」發展能自我改進的超級智慧，卻未充分解決AI如何與人類目標保持一致的問題。
考克森表示，單靠私人企業無法負責任地管理可能超越人類智慧的AI，需政府介入，或由業界共同放慢發展速度。這番言論引發Anthropic內部研究人員公開回應。
負責Anthropic「AI對齊研究」（ Alignment Science）的胡賓格隨後表示，他與同事「深信AI可能殺死所有人類」，並給出自己的機率估計：未來10年超過10%。
胡賓格強調，目前AI模型本身的風險仍很低，他真正擔心的是「超級智慧」透過遞迴式自我改進（recursive self-improvement）快速出現。一旦AI自行改善能力，並逐漸超越人類對其理解與控制的能力，風險性質就可能發生根本變化。
更值注意的是，胡賓格並未宣稱Anthropic已找到解方，反倒是說，公司目前「還沒解決超級智慧對齊問題的計畫」，也不能明確說已走在解決問題的道路上。這使得他的發言不只是外界對AI安全的批評，而是來自一家以AI安全研究聞名企業內部的重要警訊。
Anthropic長期強調AI安全與可解釋性研究的重要性，公司也定期公布風險報告。不過，這場由員工離職引發的公開爭論，再度突顯AI產業面臨兩難：一方面企業擔心競爭對手搶先發展更強大的模型，另方面，AI能力若進展過快，安全研究可能無法同步跟上。
比爾蓋茲警告：10年內就業市場恐劇烈洗牌
就在AI生存風險受到討論之際，另一科技界重量級人物比爾蓋茲，則把焦點放在人類更直接的問題：工作會不會消失？
蓋茲在個人網站Gates Notes發表長文，直指AI帶來的變革可能在「一個10年」內發生，而不是像過去科技革命一樣歷經數十年甚至數代人才完成。
他認為，最容易受到衝擊的是入門及中階工作。原因在於，過去年輕人通常從基層工作開始累積經驗，再逐步晉升；但如果AI首先取代這些入門職缺，年輕人可能連進入職場、累積經驗的機會都減少。
蓋茲點名，業務、客服、軟體工程、法務助理等工作可能較早受到影響，接下來還會擴及貸款申請審查、數據分析，甚至病患分流等需要專業訓練的工作。
他特別擔心，AI與過去自動化最大的不同，在於AI可以處理「認知工作」。從法律、客服、醫療到軟體與製造業，都可能受到影響，而且速度可能遠快於過去農業轉向工業、再轉向服務業的產業變遷。
蓋茲甚至警告，AI帶來的影響不會只停留在辦公室。隨著機器人價格下降，智慧機器人也可能開始與人類爭奪工作。他預期，到2030年前後，建築、旅宿等產業的部分工作可能出現人機競爭。
從「AI搶工作」到「人類保留區」
面對AI可能造成的失業潮，蓋茲並不主張阻止AI發展，而是認為政府需要提前設計新的政策架構。其中最引人注意的，就是他提出的「Human Reserved」概念，即「人類保留」領域。
蓋茲以自然保護區比喻：有些土地技術上可以開發，但人類基於環境或文化價值選擇不開發。同樣地，即使AI或機器人技術上可以完成某些工作，社會仍可以決定這些工作「留給人做」。
他舉例，照護工作就是可能保留給人類的重要領域。即使機器人技術上能照顧病患，真正涉及情感、同理心與人際互動的工作，被認為不應完全交給機器。教育、心理健康與老人照護，也可能成為「人類保留」與AI合作的領域。
蓋茲同時主張重新檢討稅制，包括考慮對AI或機器人徵稅，把相關收入投入勞工再訓練與社會安全網，避免企業透過自動化降低成本的同時，卻把失業與轉型成本轉嫁給社會。
他的擔憂是，當一家企業利用AI降低成本並降價，競爭對手就會被迫跟進；最終形成「自動化—降成本—再自動化」的循環。市場競爭反而會加速AI取代人力的速度。
