隨着生成式人工智能（AI）技術快速發展，AI智能體（也稱AI代理）失控風險持續凸顯。美國人工智能企業OpenAI在調查旗下AI智能體失控事件時，再發現多起類似的AI「越獄」個案。OpenAI的競爭對手Anthropic此前亦承認旗下模型擅自入侵外部公司的系統。一連串AI失控事件引發業界震動，專家憂慮AI攻擊能力已超過管控能力，而AI仍需人類持續進行安全監控和防範。
路透社7月31日引述消息人士指出，OpenAI在核查AI失控入侵美國開源AI平台抱抱臉（Hugging Face）的內部歷史數據時，進一步發現了幾起類似的AI「越獄」案例。目前尚不明確新案例的具體數量、發生時間和確切過程。據消息人士透露，涉事AI智能體未突破企業內部網絡安全限制，事件影響範圍相對有限。
對此，OpenAI未正面回應事件，僅引述先前的聲明，強調除了調查抱抱臉被入侵事件外，也在全盤審查旗下模型的「廣泛活動」。
缺乏內部監控 美兩大巨頭失守
近期，美國頂級AI公司的智能體失控事件接二連三發生。OpenAI主要競爭對手Anthropic在7月30日也坦承，旗下模型自今年4月以來，曾未經授權入侵了三家企業的網絡。
值得注意的是，OpenAI當初啟動調查，並非是因為內部安全警報，而是在抱抱臉自行修補漏洞、上報美國聯邦調查局（FBI）並公開通報後，OpenAI才察覺問題。Anthropic亦坦言，公司未對旗下的模型評估日誌實施實時動態監控，未能及時阻止智能體的入侵行為。
安全專家憂心，頂尖AI公司所開發的智能體，其具備網絡入侵能力，已逾越企業的可管控範圍。英國劍橋大學存在風險研究中心（CSER）專家莫裏斯·奇奧多（Maurice Chiodo）對此表示深切憂慮。他說，整個AI產業正陷入失衡狀態，開發商不斷推出性能更強、自主性更高的AI，但配套的安全管控卻嚴重滯後，防護形同虛設，「從上述例子來看，他們當時根本連看都沒在看。」
中國AI關鍵時刻「救場」 硅谷巨頭撐開源模型
美國人工智能（AI）產業長期由OpenAI、Anthropic等閉源模型巨頭把持，中國企業開發的多款AI模型憑藉優秀性能、更高的性價比以及所代表的開源生態贏得硅谷企業的青睞。
近期OpenAI的AI模型失控攻擊開源平台抱抱臉（Hugging Face）的事件中，抱抱臉嘗試用Anthropic最先進的Claude Fable 5等前沿閉源模型抵禦攻擊，卻被這些模型自身的安全防護機制誤判攔截。最後關鍵時刻，抱抱臉使用中國智譜公司的開源模型GLM-5.2才得以「救場」。這讓外界看到了中國開源模型在網絡防禦方面的技術優勢。使用閉源模型，用戶無法自行下載和修改，而中國AI模型採取開源模式，既降低了使用成本，也給予用戶更大的自主權和靈活性，可以根據自身需求定做模型。
OpenAI和Anthropic等美國AI巨頭推出的模型為閉源模型，性能不斷提高的同時，使用成本也愈加高昂。中國深度求索公司的DeepSeek、月之暗面公司的Kimi等模型，正持續縮小與美國領先模型之間的能力差距，在成本方面卻具有顯著優勢。在AI服務平台OpenRouter上，中國模型已佔美國公司Token使用量的一半以上。數據顯示，Kimi K3的單位任務成本上，僅為Claude Fable 5的三分之一左右。
7月24日，包括微軟、英偉達、Meta在內的數十家美國科企和機構發表聯合聲明，公開支持開源模型。截至7月30日，簽署機構已增至230個。英偉達還於7月27日牽頭成立「開放安全AI聯盟」，創始成員超過35家，包括微軟、IBM、戴爾等。英偉達創辦人黃仁勳7月24日表示，開源模型可強化網絡安全、加速技術創新與普及。全球既需要頂尖閉源AI模型，也需要頂尖開源AI模型。
（來源：大公報）
收藏
取消收藏
分享
