輝達(NVDA)的核心晶片代工廠台積電(TSM)，受惠於人工智慧晶片的強勁需求，8月份營收較前一年同期狂飆超過53%，創下歷史新高紀錄。然而，在AI硬體需求持續爆發的同時，走在技術最前沿的AI實驗室Anthropic與OpenAI內部，卻正蔓延著一股對AI失控的深層恐慌。

AI自我改善能力驚人，人類恐面臨生存危機

近期，Anthropic的一名研究員因安全考量辭職，引發市場高度關注。該公司的對齊負責人Evan Hubinger在社群平台上警告，未來十年內AI導致人類滅絕的機率恐超過10%。他最擔憂的是「遞迴自我改善」帶來的超級智能。當AI系統能夠自主參與並改進新模型的開發時，其能力將呈現螺旋式上升，最終可能讓當初設計這些系統的人類完全失去控制權。

研發速度遠超預期，科技巨頭齊發強烈警告

OpenAI與Anthropic近幾個月來皆坦言，AI模型的自動化改進速度已遠超預期。Anthropic的內部數據顯示，其AI模型Claude正在加速開發進程，工程師每季交付的程式碼數量，竟是2021至2025年期間的八倍之多。卡內基梅隆大學計算機科學教授Vincent Conitzer指出，AI已經具備提出新概念的能力，何時會出現爆發性的能力躍升已難以預測。OpenAI首席科學家Jakub Pachocki也警告，如果AI繼續按目前軌跡發展，未來幾年系統能力將出現跳躍式增長，而目前沒有人準備好應對機器智能的持續快速崛起。

未來三大發展情境，失控風險成最大隱憂

針對未來的發展，Anthropic提出了三種可能的情境。第一種是技術進展停滯，但他們認為這發生的機率極低。第二種是人類依然保有控制權，並持續改變世界運作方式，這被視為「很有可能」。而最令人擔憂的第三種情境，則是AI系統具備完全的遞迴自我改善能力，人類在開發過程中的角色被大幅削弱。在這樣的未來中，如何確保AI的目標與人類利益一致，成為科學家最沒有把握解決的難題。

AI基建投資熱度不減，國際大廠擴大佈局

儘管存在安全疑慮，全球科技巨頭對AI基礎設施的投資依然毫不手軟。Google(GOOGL)宣布將在芬蘭投資至少150億美元，打造AI基礎設施，創下該公司在歐洲最大單筆投資紀錄。此外，法國新創公司Mistral在三星領投的35億美元融資後，估值攀升至240億美元。高通(QCOM)也向亞馬遜(AMZN)發行了認股權證，允許其收購價值40億美元的股票，作為AI基礎設施協議的一環。另一方面，Anthropic也指出，中國的AI實驗室曾秘密使用數百萬次的Claude互動數據來訓練自家的模型。

主權AI需求快速崛起，中美技術競爭加劇

Transformer架構論文的共同作者、現任AI新創Cohere執行長Aidan Gomez指出，隨著企業對數據安全與資料處理位置的擔憂加劇，市場對非美國且非中國的「主權AI」需求正在快速增長。Gomez警告，部分強大的AI模型已成為最具威脅性的網路武器。同時，針對中國AI的發展進度，他坦言美國實驗室目前的領先優勢正在迅速消失，顯示全球AI技術角力正進入白熱化階段。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息