【點新聞報道】據《華爾街日報》報道，美國人工智能（AI）公司OpenAI再爆另一宗旗下AI智能體失控網攻事件，加重外界對高性能智能體可能脫離人類開發者控制的擔憂。
在OpenAI今年5月的內部測試中，一群AI智能體對軟件服務平台RubyGems發動網絡攻擊，導致該平台一度癱瘓，被迫暫停新用戶註冊4天。RubyGems是Ruby編程語言的官方包管理器，在全球擁有逾400萬用戶。安全人員披露，OpenAI旗下智能體每隔2至3分鐘便在RubyGems上創建新賬戶，並上傳數百個形似垃圾文件的網頁抓取內容。RubyGems安全團隊在應對混亂期間，被迫暫停接受新用戶註冊。
該平台營運方、非牟利組織Ruby Central開源總監霍特證實，當時平台系統不堪負荷，「就我們所見的數量來說，這是一次大規模攻擊」，不過事後調查並未發現AI智能體成功竊取用戶憑證。
事件披露後，OpenAI表示這些AI智能體似乎是前往RubyGems進行訓練，利用該平台的程式碼服務作為一種臨時網頁瀏覽器，因這些AI智能體未獲完整網絡訪問權限。
研究AI安全問題的非牟利組織Nightingale協助披露是次攻擊，其行政總裁阿克斯表示，雖然這次事件造成的損害較輕微，但展示了智能體動用非常規手段解決問題的能力，「它們可以逃避網絡監管，並造成混亂。」
包括Anthropic和Meta在內的多家AI公司均於近日爆出AI安全「不一致事件」，即智能體曾做出超出營運者意圖的行動，甚至掩蓋行蹤、欺騙人類。OpenAI本月初表示，AI產業需更好的標準來披露這些情況。(來源:香港文匯報)
（本文為作者觀點，不代表本媒體立場）
收藏
取消收藏
分享
