【點新聞報道】9月18日，美國科技巨頭Google承認，今年5月旗下人工智能（AI）模型Gemini在進行網絡安全能力測試期間，透過測試環境錯誤開放的互聯網存取權限，入侵3間真實企業的受保護系統。這是Google首次確認其AI系統在自主情況下做出此類駭客行為。
Google安全工程副總裁Heather Adkins在聲明中表示，Gemini透過測試環境中錯誤開放的互聯網權限，在網絡上找到公開資訊及憑證，通過不斷猜測密碼，成功登入三家企業的系統。Google稱，Gemini在判定目標屬真實企業後已自行停止，事件並未造成實質損害。
事發於獨立資安評估公司 Irregular進行的資安測試期間。對此，Irregular發言人解釋，測試原以一間虛構公司為目標，但因該虛構公司與真實企業同名，加上測試環境意外開放網絡存取權，導致AI模型誤將真實網站當作測試目標。Google於7月底接獲相關通知，但在媒體查詢前並未有主動披露。
除了Google之外，Meta、Anthropic及OpenAI先前亦曾揭露與Irregular相關的類似AI資安評估事件。隨着AI代理（AI Agents）獲得更高的自主權以及對網絡與電腦系統的存取權限，此類事件也引發了業界對AI安全防護措施的高度關注。
（本文為作者觀點，不代表本媒體立場）
收藏
取消收藏
分享
