【點新聞報道】美國谷歌公司18日承認，其人工智能（AI）模型「雙子座」今年5月在網絡安全能力測試中，侵入了三家真實公司的系統。
谷歌安全工程副總裁希瑟·阿德金斯在一份聲明中說，在一次常規評估中，雙子座模型利用網上公開信息獲得了登錄憑證，獲得了三個其認為屬於測試範圍網站的訪問權限。谷歌已確保三個相關實體獲知此事，並與測試合作方調整測試流程。
據美國《華爾街日報》報道，測試由以色列「非常規」人工智能公司實施。在其中一項測試中，雙子座模型經反覆嘗試猜中密碼，最終進入一個受保護的真實系統。在另外兩項測試中，模型從公開存儲庫中找到登錄憑證，並利用這些憑證進入其他公司的受保護系統。
「非常規」人工智能公司的調查結果顯示，相關測試場景使用一家虛構公司作為目標，但這家虛構公司與現實中的一家企業同名。同時，測試環境意外開放了互聯網訪問權限，導致一些接受測試的AI模型將真實網絡目標誤認為測試場景的一部分並採取網絡攻擊行動。
按《華爾街日報》的說法，這是谷歌AI模型首起已知的自主入侵事件。谷歌方面已於7月底獲知該事件，但在媒體問詢前並未主動披露。谷歌方面表示，模型在發現進入真實公司系統後停止了相關行動，沒有給涉及的公司造成損害，無需主動公開相關情況。
此前已有數家美國知名AI企業承認旗下模型在測試中「越界」，侵入其他機構的系統，引發外界對美國AI模型安全和監管的擔憂。
7月下旬，美國開放人工智能研究中心（OpenAI）公開承認，其GPT-5.6 Sol等模型在內部評估中失控，突破隔離測試環境，侵入了「抱抱臉」公司的系統。隨後，美國Anthropic公司披露，其三款模型曾在網絡能力測試中未經授權訪問其他機構的系統。8月初，美國元公司證實，其一款模型在網絡安全能力評測期間侵入其他公司系統。
（來源：新華國際）
（本文為作者觀點，不代表本媒體立場）
收藏
取消收藏
分享
