近期，美國兩起與人工智能（AI）模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心（OpenAI）的模型在測試中失控并入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。
一方面是AI智能體為了完成任務自主突破邊界，另一方面是AI輔助發現的潛在漏洞超過了人工審核能力。兩起事件表明，隨著AI網絡攻防能力不斷增強，其“雙刃劍”效應日益凸顯，急需匹配的安全約束、人工驗證和風險處置機制。
自主行為突破邊界
美國抱抱臉公司系統遭到入侵事件表明，現有前沿AI模型已具備持續實施復雜網絡攻擊的能力。
這起失控事件發生在一項網絡安全基準測試期間。包括GPT-5.6 Sol在內的多個模型識別并利用了第三方軟件的一個“零日漏洞”，獲取了互聯網訪問權限，在推斷抱抱臉公司可能存有完成測試所需數據和解決方案后，入侵了該公司系統，以“竊取”答案。
OpenAI在擴大調查后還發現了該公司其他AI產品突破內部隔離的情況。另一家美國AI企業Anthropic日前也承認，在審查約14.1萬次網絡安全能力評估記錄后發現，其模型曾在多次測試中未經授權訪問了3家機構的“生產基礎設施”。
分析人士認為，當AI模型獲得明確的目標以及充足的算力、運行時間和操作權限后，可能不會按照人類預想的方式完成任務，而會自主尋找路徑繞過限制甚至“作弊”。
美國安全技術專家布魯斯·施奈爾指出，AI智能體可能過于字面化地完成任務目標，卻不能自然領會人類沒有明確寫入指令的限制。有研究發現，模型會利用任務、評分規則、提示詞或評測框架中的漏洞取得高分，而沒有真正展示評測原本希望衡量的能力。
隨著前沿模型自主能力持續提升，這種偏差帶來的風險正進一步放大。OpenAI在一份安全報告中說，早期模型遇到沙箱限制或環境障礙時往往停止工作，而新模型會不斷自主嘗試新辦法尋求突破。
安全措施急需完善
失控事件發生后，OpenAI表示已在修補漏洞期間收緊研究基礎設施配置，并加強模型訓練和評測過程中的隔離、監控、訪問控制及安全保護。
不少企業和研究機構認為，應建立“多重防線”以提高防護系統的穩健性。OpenAI認為，對于可以自主運行數小時、數天甚至數周的AI智能體，只審核單個動作已經不夠，還需要判斷其完整行動軌跡會導致什么結果。
谷歌深層思維公司提出，應建立系統級別的AI控制機制，包括沙箱、持續監控和分級授權；使用監督系統不斷檢查AI智能體的推理、行動和計劃，在發現危險行為時進行攔截；對于可能造成嚴重后果的網絡攻擊等高風險行動，應從事后審查轉向實時防護。
英國人工智能安全研究所建議，可能造成重大后果的操作應有人工審核，限制AI智能體訪問敏感資源，并保留在發現可疑行為時終止其運行的能力。
美國國家標準與技術研究所提出，應將AI智能體作為網絡中的獨立實體進行權限管理，為其制定專門的授權策略，只賦予AI智能體完成特定任務所必需的最低權限。
據媒體報道，多家AI企業的代表已受邀于4日與白宮官員會面，討論AI安全問題。
漏洞處置壓力陡增
此前業界認為，AI擅長大規模數據分析、模式識別和自動檢測，可助力網絡安全，使防御方受益。使用AI協助識別和發現漏洞已成為行業普遍做法，但如何充分利用AI提高網絡防御能力正成為新的挑戰。
英國《金融時報》報道說，AI正在迅速重塑網絡安全領域的攻擊和防御。蘋果公司近期所發布操作系統更新中的安全修復數量約為之前更新的5倍。該公司表示，其中多個漏洞由AI工具幫助識別。
但AI識別漏洞的能力也給蘋果公司帶來“煩惱”。該公司2025年推出了一項機制征集關于其軟件漏洞的線索，對于其中最嚴重、最復雜的威脅最高可支付500萬美元獎勵。蘋果公司近日表示，由于其審核系統收到大量AI“幻覺”生成的“漏洞”報告，因此限制研究人員在一定時間內可以提交的報告數量。
《金融時報》報道說，意大利一家網絡安全初創企業使用AI模型，在3個星期內發現了蘋果筆記本電腦操作系統50多個漏洞，但由于蘋果公司設置的限額而無法提交相關報告。該公司負責人阿爾弗雷多·佩索利表示，整個行業面臨的現實是，維護人員和供應商正在被新發現的大量漏洞所“淹沒”。
分析人士認為，OpenAI模型失控與蘋果公司面臨的情況看似沒有直接關聯，但兩者反映出一個結構性矛盾：在網絡安全領域，AI發現問題和采取行動的速度，正在超過人類驗證、約束和處置的速度。如果治理跟不上AI迭代，原本用于提高效率的AI工具可能產生新的安全風險。（記者 吳曉凌）
轉自：新華每日電訊
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
