【點新聞報道】近日，ChatGPT製造商OpenAI基於安全理由，決定不發布新的GPT-6.1 Astra模型。OpenAI表示，該模型在「執行任務的授權範圍」以及「如何向使用者說明已完成的工作內容」這兩點上，尚未達到預期標準。
是的，AI的安全隱患，已經到了要適當煞車的地步了。
澳洲總理艾班尼斯（Anthony Albanese）於今年9月公開透露了一起自主AI智能體（AI Agent）自行突破政府系統權限的安全事件。
OpenAI今年7月也曾表示，其AI系統曾在未被授權的情況下，成功突破了開源平台Hugging Face的限制環境。安全研究機構METR與Redwood Research發布的報告揭示了大致原理：一個被限制在封閉系統內的AI，為了尋找出口，竟在未經授權的留言板上，與其他同樣受限的AI取得了聯繫，然後透過協同合作，成功繞過了系統規範。
人工智能也許未必「已經失控」？但近期一連串事件說明，具備執行多個步驟任務能力的AI，距離「失控」其實並不遙遠。
雖然AI存在安全風險，但絕不是一禁了之。
AI在醫療研究、無障礙服務、翻譯、科學探索、繁瑣工作等工作上有著明顯優勢。因此，如何安全地利用AI才是業界接下來要關注的重點。
目前最大問題是，人類的監管、安全測試和問責制度，仍未追得上AI產品的發展速度。到法律正式落實時，企業往往早已透過產品設計、用戶習慣和市場佔有率，在事實上建立了自己的規則。
早前，AI公司Anthropic的行政總裁Dario Amodei呼籲業界減慢AI研發。呼籲得到OpenAI行政總裁Sam Altman和xAI行政總裁Elon Musk等多位行業領軍人士的認同。當然，反對聲音也是有的，Meta老闆Mark Zuckerberg就駁斥，沒必要放緩發展AI的做法。
我認為，其實可以兩條腿走路，按發展進程設立明確紅線。
第一，對某些用途應設限制。例如，不容許AI在沒有人類覆核下作出某些重大事項的決定。同時施加嚴格限制，甚至禁止生物辨識監控、冒認、非自願私密影像，以及作武器工具等。
第二，高風險系統必須接受獨立審計。安全測試不能只由開發公司自己完成，而且測試要涵蓋準確性、私隱、網絡安全、濫用可能及申訴機制等。涉及公眾的系統，還應公開其用途、資料來源類別、適用範圍、已知限制、錯誤率等。
第三，法律必須賦予全面保護，嚴懲違法行為。個人應享有對自己聲音、面貌、個人資料及創作內容的可執行權利。
第四，也是最難的，AI治理必須國際化。其實AI模型、數據、雲端服務、網絡攻擊和假資訊都是跨越國界的，任何單一地區都難以獨力應對。要防止企業把高風險活動轉移到監管較薄弱的地區，形成逐底競爭。
面對AI，世界需要的不是恐慌，也不是盲目崇拜創新，而是及早劃下界線。AI始終要受人類控制的，我們要做的是，不被商業邏輯或權勢角力牽着走，把AI的副作用減到最少，這才是真正的進步。
相關報道：
收藏
取消收藏
分享
