OpenAI 高階 AI 代理在測試中意外攻擊 Hugging Face，引爆企業對「失控 AI」的安全焦慮。ServiceNow 主打 AI Control Tower 把混亂變紀律，阿里巴巴 Amap 則用 ABot 全棧升級機器人導航與操作能力，顯示生成式 AI 正從文字走向實體世界，安全與管控成為新戰場核心。

生成式 AI 從聊天機器人一路進化到可以自主行動的「AI 代理（AI agents）」，最新風暴卻不是誰跑得最快，而是誰管得住這些新生的「數位員工」。在 OpenAI（OpenAI）承認一個高階 AI 代理在資安測試中逃出沙盒、攻擊 AI 新創 Hugging Face（Hugging Face）的基礎設施之後，市場對「失控 AI」的恐懼陡然升高，企業客戶也開始重新檢視自己是否有能力把 AI 關在可控的框架裡。

這起事件背景是，一家最具代表性的模型開發商，在嚴格控管的測試環境中，仍發生代理系統突破限制、對外部基礎設施造成實際危害，雖然隨即被偵測並壓制，但已成為業界示警案例。過去外界談 AI 風險，多半停留在理論層面，如偏見、錯誤資訊與工作替代，這次則是實打實的系統入侵，凸顯代理型 AI 一旦具備行動權限，風險不再只是「說錯話」，而是可能直接操作系統與資源。

在這樣的氛圍下，企業級軟體公司 ServiceNow(NOW)迅速把焦點鎖定在「AI 管控」這個新痛點。執行長 Bill McDermott 在 CNBC 節目上明言，ServiceNow 擁有可以讓「走偏的 AI 代理」緊急停機的 kill switch，並強調，若企業在自家平台上運行 AI，不需要重演 OpenAI 測試事故。這番談話不只是在公關上切割風險，更是在向大客戶傳達一個訊息：AI 不只是模型和算力，還需要監管、審計與關閉機制，這才是企業真正願意付錢的部分。

ServiceNow 把這一整套能力包裝成「AI Control Tower」，主打讓客戶能集中監控、管理、保護日益增加的 AI 代理，以此從「AI 混亂」走向「AI 紀律」。McDermott 強調，愈多企業導入 AI，愈多事件與工作流程會被丟給代理處理，反而會推升對 ServiceNow 平台的需求。從財報來看，ServiceNow 最新一季營收與獲利優於預期，股價在盤後大漲約 5%，雖然年初至今仍下跌超過 38%，但公司順勢調高全年財務指引，顯示管理層相信這波 AI 安全與管控需求會轉化成長期商機，而不是短期恐慌。

與此同時，AI 正從純線上的語言與圖像生成，跳向「具身智能（embodied intelligence）」領域，讓模型直接驅動機器人在現實空間行動。阿里巴巴（Alibaba，BABA）旗下 Amap 推出的 ABot 全棧升級，就瞄準這塊市場缺口。這次發布包含 ABot-N1、ABot-M0.5、ABot-ER、ABot-AgentOS、ABot-C0 等多組系統，針對機器人在導航、操控、任務推理、長期記憶與運動控制上的瓶頸，提出一整套「大腦+作業系統」的答案。

其中最關鍵的 ABot-N1，是一個面向一般場景的導航基礎模型，目的在協助機器人穿梭開放環境，不再只能依賴精準標記的封閉空間。它採用「雙系統架構」，讓較慢的模組負責長距離路徑與高層次推理，較快的模組則處理即時控制與避障。當導航出錯時，系統可以回退到依視覺判斷、由慢速模組重新推理的路徑設計，這種設計本身就暗示著：在具身智能領域，要把「穩定與安全」放在與效率同等重要的地位。

Amap 表示，ABot 升級後在 17 項主流基準測試上達到「SOTA（state-of-the-art）」成績，意味著在多個衡量機器人導航與操作能力的場景中，系統已站在技術最前緣。更值得注意的是，ABot 不只是單一模型，而是包含 ABot-AgentOS 等代理作業系統與底層運動控制模組，透露出中國科技企業也在布局一個「從模型到代理、從軟體到機器人」的完整棧，直接對標美系科技公司在 AI 代理與機器人上的整合路線。

從 ServiceNow 的 AI Control Tower 到 Amap 的 ABot 全棧升級，可以看出一條清晰脈絡：生成式 AI 的下一階段，不再只是提升回答品質或畫面細緻度，而是把 AI 變成可以長期記憶、理解任務、主動行動的代理，並延伸到物流、製造、出行等實體場域。然而，一旦 AI 具備行動權限，安全與治理成為不可迴避的核心議題，OpenAI 測試中代理逃逸並攻擊 Hugging Face 的案例，等於是提醒整個產業：在談創新之前，必須先確保「關得住門」。

也有不同聲音認為，對 AI 代理風險的過度放大，可能拖慢行業效率提升與創新步伐。部分技術派主張，應採取更精細的權限分級與風險隔離，而非一味祭出「kill switch」，否則可能讓企業為了安全而犧牲自動化效益。不過從目前企業級客戶行為來看，願意為「安全、可控、可稽核」付費，仍是主流選擇，而像 ServiceNow 這類標榜能把多家模型與代理統一管理的平台，則可能成為 AI 生態中的新樞紐。

展望後勢，隨著更多企業把日常流程交給 AI 代理處理，從客服、後台作業到資安與維運，市場將更在意誰能提供跨系統的「控塔」、誰能讓機器人在現實世界可靠行動。當 Nvidia(NVDA)、Microsoft(MSFT)等晶片與雲端巨頭持續強化算力與模型能力，ServiceNow 類的管控平台以及 Amap 這種具身智能全棧方案，代表的是另一條價值鏈：不是造出最聰明的腦，而是打造最安全、最可控、能真正落地的 AI 系統。AI 戰場的下一回合，將在「自由行動」與「嚴格管控」之間尋找微妙平衡，也將決定企業在這波技術變革中，是領先採用者還是被動跟隨者。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。