湯紹成／台北寰宇AI 倫理學會籌備會主委、政大國關中心退休兼任教授
人工智慧（AI）正進入新的發展階段。過去AI主要依靠人類設計與訓練，如今已開始具備自主改進程式與演算法的能力。這種「遞迴式自我改進」（Recursive Self-Improvement，RSI）技術機制，可能成為繼生成式AI之後，另一波影響人類文明的科技革命。
早在1965年，英國數學家古德（I. J. Good）便提出「智能爆炸」（Intelligence Explosion）的概念。他認為，如果機器能夠設計出比自己更聰明的機器，新一代機器又能繼續改進自身，便可能形成不斷加速的智能成長，最終超越人類的理解與控制。
2026年3月，前OpenAI研究員卡帕西（Andrej Karpathy）展示Autoresearch實驗，讓AI代理自主修改程式、進行測試及分析結果。經過約700次實驗，找到近20項改進方案，使模型訓練效率提高約一成。這雖然尚非全面性的RSI，卻已展現AI自主研發的潛力。
近日，包括Anthropic執行長阿莫迪（Dario Amodei）等科技領袖，都曾警告AI能力可能在未來數年快速躍升。部分專家甚至預測，2027年前後可能出現更成熟的自我改進系統，但其實現時間與程度仍存在相當大的不確定性。
RSI一旦成熟，將對全球經濟產生深遠影響。首先，企業可以透過AI自主研發，大幅縮短創新週期。其次，小型企業也可能運用強大的AI代理，挑戰傳統大型企業的競爭優勢。再者，大量行政、分析及初級白領工作可能逐漸被取代，勞動市場與教育制度勢必面臨重大調整。
然而，RSI最大的挑戰不僅是經濟轉型，更是AI的安全與倫理問題。當AI能夠持續自我改進，如果其目標偏離人類價值，甚至自行追求資源、擴大權限或規避監督，人類將如何確保對AI的有效控制？
尤其當RSI與軍事科技結合，可能加速自主武器、情報分析及戰場決策的發展，壓縮人類判斷與介入的時間，甚至增加誤判與衝突升級的風險。因此，建立國際AI治理機制，確保透明、問責及人類最終決策權，已成為迫切課題。從中華文化的角度觀察，儒家重視仁義與道德責任，道家強調順應自然，佛家注重慈悲與智慧。這些思想提醒我們，科技發展不能脫離人文價值。
智能不等於智慧，科技進步也不完全等於文明進步。當AI逐漸具備自我進化能力，人類更應強化倫理判斷與文明自覺，使科技服務於和平與共同福祉，而非成為失控的力量。未來真正重要的，不只是AI能夠變得多麼聰明，而是人類能否運用智慧，為AI設定正確的發展方向，確保人類持有最終控制權。
