【點新聞報道】美媒14日爆料指，美國政府日前對人工智能（AI）初創公司Anthropic的兩款新模型Mythos 5及Fable 5實施出口管制，這一決定的導火索是亞馬遜CEO賈西的一通電話。據報道，賈西11日晚致電美國財政部長貝森特等官員，稱其研究人員通過特定提示詞繞過了Fable 5的安全「防護欄」，獲取了可用於網絡攻擊的敏感信息。白宮隨即召開緊急會議，在施壓Anthropic自主撤回模型失敗後，美國商務部祭出管制措施。業界認為，此次管制不僅令正在籌備上市的Anthropic前景蒙上陰影，也折射出美國科技巨頭間的暗中角力。
據報道，亞馬遜研究人員在測試Fable 5模型時發現，通過一系列特定提示詞，可以繞過Fable 5的安全「防護欄」，取得能夠用於網絡攻擊的相關敏感信息。亞馬遜的報告顯示，在特定提示詞引導下，Fable 5模型能夠挖掘出至少4款軟件程序中的安全漏洞，而這類信息通常受模型安全機制屏蔽。
白宮施壓Anthropic自主下架失敗
賈西於11日晚間致電貝森特及其他政府高層官員反映這一問題，到12日上午，該問題已上報至白宮最高層。知情人士透露，貝森特、美國國家網絡總監凱恩克羅斯、白宮辦公廳主任威爾斯及其他高級官員舉行會議，討論應對措施。
Anthropic行政總裁阿莫戴與包括貝森特、美國商務部長盧特尼克等在內的政府官員於12日進行了數小時談判。會談中，阿莫戴解釋稱，亞馬遜研究人員提到的功能只能識別出少數先前已知的軟件漏洞，而且其他多款公開可用的AI模型也有類似用法，每天都被網絡安全防禦者用於系統維護。另有一名知情人士透露，Anthropic在發布這兩款新模型之前，一直與美國政府「保持合作」，也告知6月9日的發布日期，而美政府並未反對。
但凱恩克羅斯和貝森特並未被阿莫戴的論點說服。一名白宮官員表示，他們已將亞馬遜的調查結果提交給美國國家安全局（NSA）審閱，並認為他們掌握了確鑿的「證據」。
據報道，白宮方面敦促Anthropic主動下架模型，但阿莫戴則請求給予更多時間和信息，且並未做出承諾。Politico引述一位白宮高級官員報道，「我們苦苦哀求他們（Anthropic）幾個小時後才採取的最後手段。」但一位與Anthropic公司關係密切的人士反駁說，官員們未曾表示要合作的態度。美國政府在12日下午1點15分致電Anthropic，只給約90分鐘時間要求下架最新模型，理由是「未具體說明的國安風險」，下午5點左右正式發出出口管制命令。當天晚上10點左右，全球用戶無法使用Mythos 5及Fable 5。
Anthropic據報最快計劃今年秋季上市，新款頂尖模型被迫下架可能導致用戶流向其他平台，並對公司估值造成壓力。
特朗普政府加強AI模型監管
外界認為，此次出口管制不僅嚴重打擊Anthropic，也凸顯特朗普政府在AI監管方面的大幅「轉型」。美國總統特朗普重返白宮後，美國政府一度對AI行業整體採取較為寬鬆的監管立場，並撤銷拜登政府時期要求企業對高風險模型進行安全評估並上報的相關措施。但這段時間以來，美國政府在AI監管方面的政策從「放鬆」趨向「收緊」。6月初，特朗普簽署行政命令，要求Anthropic、OpenAI、谷歌等AI開發商對外公布AI新模型30天前，先行向聯邦政府開放訪問權限，自願將模型遞交政府進行網絡安全審查。
另外，作為Anthropic最大的投資方和雲服務提供商，亞馬遜此次「舉報」也揭示AI企業與美政府間的密切聯繫。亞馬遜方面表示，CEO賈西致電政府高層的本意是回應特朗普政府要求提供反饋的請求。亞馬遜發言人稱，作為服務大量公私客戶的領先雲服務提供商，政府就潛在安全風險徵詢其意見並不罕見，並稱此類情況下公司不會披露相關討論細節。
Anthropic與美政府「邊打邊合作」
美國政府近日以國家安全為由，要求人工智能（AI）初創公司Anthropic暫停Fable 5與Mythos 5兩款模型的境外訪問權限，Anthropic隨後表示已關閉全體用戶的兩款新模型訪問權限，但同時公開反對這項決定。
事實上，這並非Anthropic首次與美國政府爆發衝突，二者可謂「積怨已久」。
今年3月，美國國防部要求無限制地將Anthropic的Claude模型用於「所有合法用途」，包括完全自主的致命武器系統或大規模國內監控，遭到CEO阿莫戴的拒絕。美國國防部隨後宣布把Anthropic定為「供應鏈風險」對象，禁止國防部以及防務承包商在相關工程中使用該公司的AI技術。Anthropic因此控告美國國防部長海格塞斯及國防部，希望撤銷相關認定，目前案件仍在審理當中。
不過，美國政府並沒有因此停止與Anthropic合作。英國《金融時報》本月初報道，Anthropic正協助美國國家安全局（NSA）部署其旗下的強大Mythos AI模型，進行進攻性網絡行動。Anthropic據報已向NSA派遣6名「前置部署工程師」，負責指導Mythos的使用，並制定特定應用模型。
2月28日，包括伊朗最高領袖哈梅內伊在內的多名伊朗高層被美、以鎖定並打死。據《華爾街日報》報道，美軍在本次行動中使用了Claude，包括進行情報評估、目標識別和模擬戰鬥場景等關鍵任務。
（來源：大公報）
收藏
取消收藏
分享
