人類足夠瘋狂 無需恐懼AI決策 文：吳桐山

當地時間9月6日，英偉達CEO黃仁勳在X平台上的一則發文，高調祝賀OpenAI發布最新大模型GPT-6 Astra，並斷言「AGI（通用人工智慧）已經到來」。

隨着Astra的問世，業界普遍共識的AI發展五階段論似乎被按下了加速鍵。我們正站在從「推理者」向「代理人」過渡的門檻上，展望未來，AI將從單純的工具演變為合作者，甚至決策者。面對這種指數級的技術躍遷，社會上瀰漫着對「失控」的恐懼。然而，若我們冷靜審視人類自身的歷史，或許會發現：擔心AI會變得瘋狂，其實是一種多餘的焦慮，因為人類群體本身就從未真正理性過。

從對話到組織：AI進化的五級階梯

要理解Astra帶來的震撼，我們必須先釐清AI進化的路徑。根據業界（如OpenAI的分級系統）的普遍共識，人工智慧的發展被劃分為五個關鍵階段，這是一條從基礎工具邁向全方位自主決策的完整路徑：

一、聊天機器人：這是我們最熟悉的階段。AI具備基礎的自然語言對話能力，能聽懂指令、進行流暢交流，主要應用於客服和內容生成。

二、推理者：AI具備了媲美博士水準的高階邏輯推理能力。它們能執行複雜的數據分析、因果推導，在醫療診斷或科學研究等專業領域提供精準支援。

三、代理人：這正是我們即將進入的階段。AI擁有高度自主性，不僅提供建議，還能根據長期目標自主規劃並執行連續的複雜任務。未來的工作場景，將是「代理人與代理人」之間的直接溝通協調，人類只需做關鍵決策。

四、創新者：AI具備原創性的創造力，不再只是模仿或組合既有知識，而是能主動提出科學假設、技術解決方案，成為研發的加速器。

五、組織決策：這是最終階段。AI具備全方位的協同合作與戰略決策能力，能像一家高效運轉的公司，跨領域、跨尺度地協調全球資源，甚至管理完整的供應鏈與企業運營。

黃仁勳所宣稱的「AGI到來」，意味着我們認為AI已經具備了表現正常人類所具有的所有智能行為的能力。現在正進入「代理人」階段，AI將開始接管執行層面的繁瑣；而到了「組織」階段，AI甚至可以直接決策——例如不用你開口，它就根據你的習慣和需求直接下單買東西。

人類的「瘋狂」歷史：AI失控論的偽命題

談到這裏，許多人可能會對AI的發展感到憂心忡忡，擔心一旦AI進入「組織」階段，獲得自主決策權，人類是否還能控制這個「超級大腦」？這種對「非理性決策」的恐懼，其實恰恰忽略了人類自身的歷史教訓。

個體的人或許是理性的動物，但人類群體早已被證明是非理性的。回顧人類歷史，我們做出的錯誤決策難道還少嗎？

遠的不說，就在幾年前的新冠疫情高峰期，全球各個主要國家紛紛做出「封關不准往來」的決策。到頭來，整件事也不見得有人被追究責任，歷史的車輪就這樣在混亂中滾過。

再回顧歷史上歷次世界大戰、種族屠殺，哪一次不是由當時最「聰明」的人類精英策劃和執行的？人類群體在恐慌、貪婪或狂熱的驅使下。既然我們人類本身就如此「瘋狂」，經常在缺乏有效糾錯機制的情況下「一錯再錯」，那麼擔心AI會作出瘋狂的決策，實在是多餘的。AI的決策邏輯基於數據和演算法，從理論上講，它們比情緒化的人類群體更具備「理性」的潛質。

邊界與糾錯：從「人治」到「機治」的反思

當然，這並不是說我們可以對AI的發展放任自流。問題的癥結不在於AI是否會變壞，而在於我們是否能為其設立邊界和糾錯機制。

我們需要確保一旦AI作出錯誤決策，能夠有機制進行干預和控制。但諷刺的是，反觀當下的人類社會，我們同樣沒有有效的糾錯機制。無論是政治決策的失誤，還是經濟政策的偏差，往往要等到造成了巨大的社會成本後才被動調整，且鮮有決策者為此承擔實質性後果。

如果連人類自己都無法建立一套完美的「防錯系統」，又何必苛求AI必須完美無缺呢？與其在恐懼中抗拒AGI的到來，不如將這種焦慮轉化為建設性的動力。

文：吳桐山

學研社成員、時事評論員

＊作者文章觀點，不代表堅料網立場