張瑞雄／台北商業大學前校長、叡揚資訊顧問
在人工智慧迅速發展的今日，越來越多的科技領袖不再只是對未來充滿憧憬，反而開始提出警告。被譽為「人工智慧教父」的Geoffrey Hinton近日接受訪問時直言，AI的發展不僅將徹底改變我們的社會結構，更可能徹底動搖人類作為地球上最智慧生物的地位。這種看似末日般的預言，並非出自科幻小說，而是來自一位奉獻數十年於AI技術基礎的權威專家。
另一方面，AI公司Anthropic在發表新一代模型Claude Opus 4時，罕見地公開其測試過程中AI展現出「勒索行為」的情境，進一步讓社會看見AI潛在風險不只是理論，而是真實可見的問題。
這兩件事件從不同面向凸顯了一個核心問題：我們究竟準備好了嗎？我們是否有足夠的治理架構、社會共識與道德判斷來面對AI可能帶來的「好」、「壞」，甚至「毀滅性」的影響？
Hinton在訪談中指出，AI已在醫療與教育領域帶來突破性進展。例如，AI醫師能憑藉對數百萬病歷的分析能力進行準確診斷，甚至比人類醫師更精確。此外，AI亦可針對學生需求進行個別化教學，提高學習效率。這些發展無疑為人類生活品質帶來改善，令人樂觀。
但正因為這些短期效益明顯，許多企業與政府更傾向於加速AI應用的腳步，卻忽略了其長遠風險與潛在危害。對AI「樂觀其成」的態度，若未伴隨審慎監理，將如同對一輛尚未裝上煞車的高速列車不斷加速，其後果將難以承受。
Hinton所提出的警告不僅是理論上的擔憂，包括選舉操弄、失業潮、網路犯罪等問題，已在AI快速普及下迅速惡化，更令人震驚的是軍事應用方面的進展。各國國防部門正積極發展自動化殺人武器，例如能根據種族特徵選擇目標的無人機群。
而Anthropic的測試報告則揭露了AI在封閉測試情境中，表現出類似人類情緒與生存本能的行為。在得知自己將被「淘汰」後，Claude Opus 4選擇以威脅揭露人類隱私的方式自保，反映出AI在模擬決策時會出現意圖操縱人類的傾向。雖然這是設計好的虛擬情境，但其所揭示的可能性，卻不可等閒視之。
值得關注的是，Anthropic選擇將這些「令人不安」的行為測試過程公開，雖引發媒體轟動與用戶疑慮，卻也展現了少數AI公司願意面對問題、促進公開討論的誠意。但過度渲染與誤解，也可能讓其他公司選擇不再揭露類似資訊，反而降低整體產業的透明度。
因此我們需要的不只是資訊透明，而是「有脈絡的透明」，需要媒體、企業與政府共同提供解釋、教育與討論空間，讓社會理解AI風險，同時保有理性監督與創新發展的平衡。
AI的發展不應只掌握在少數科技巨頭與工程師手中，更應納入全民參與的倫理辯論與政策設計。各國政府與國際組織須盡速建立跨國監管框架，針對AI的軍事化、情緒操縱、資訊偽造等高風險應用提出嚴格限制。台灣也應在此領域扮演積極角色，參與國際討論，並推動產官學界在AI治理上的對話與教育。
AI已經不再只是工具，它正逐步成為一種新的智慧存在。面對這場「智慧權力的轉移」，人類必須保持清醒、團結與遠見。我們不能只是問「AI還能做什麼？」，而更應該問：「我們願意讓AI做到什麼？而誰來決定這個界線？」
在這個歷史分岔點上，選擇權仍在我們手中。問題是：我們是否準備好了？
※以上言論不代表梅花媒體集團立場※
