當前，作為新一輪科技革命和產業變革的重要驅動力，人工智能大模型正深刻重構科研范式、產業形態與社會治理方式。然而，其潛在的安全風險，包括數據泄露、深度偽造、認知操縱等，正由技術隱患加速演變為現實威脅，迫切需要建立健全與之相適應的安全治理長效機制。
近年來，我國大模型研發與應用呈現爆發式增長態勢，但安全治理體系仍滯后于技術迭代速度。一方面，現有治理偏事后追責，缺乏對模型全生命周期的風險預判與動態監測，且缺少差異化與精細化的監管手段。另一方面，僅僅依賴政府發力，難以形成風險共擔、責任共治的治理生態。更值得警惕的是，大模型的認知引導能力可能被用于意識形態滲透，通過看似中立的問答輸出隱含價值偏見的內容。為此，應多管齊下，堵住安全漏洞。
大模型的安全威脅并非僅存在于部署后的濫用環節，其風險隱患早在數據采集、算法設計與訓練調優階段就已潛藏。隨著大模型加速向超大規模、多模態、多智能體、具身智能等方向演進，傳統事后處置模式已難以適應安全治理需要。強化前瞻布局，本質上是把握大模型安全治理的主動權，既是為技術發展劃定安全邊界，也是降低未來治理成本的源頭工程，更是防范系統性風險外溢的長效之策。因此，應推動治理關口前移，圍繞技術預研、風險預警、安全測試、規則嵌入等關鍵環節提前布設治理機制。面向下一代大模型技術演進趨勢，加強對多模態融合、多智能體協同、通用人工智能、具身智能等前沿方向的安全預研與評估。推動安全治理由被動應對轉向主動預防，實現從“看不見”風險到“看得見、防得住”風險的轉變。
大模型能力差異顯著、應用場景多元，若簡單套用統一監管標準，既可能抑制創新活力，也難以有效防控高風險領域。應綜合考量模型能力、數據來源、應用場景、用戶規模等因素，建立分級分類的風險識別機制，推動監管資源向重點領域和高風險環節精準投放。對低風險模型，實行備案管理和常態監測，最大限度減少對創新活力的制度約束；對高風險模型，特別是涉及公共決策、金融服務、醫療健康、輿論傳播等重點領域的模型，實施更嚴格的準入審查、算法認證和實時監管，確保關鍵場景安全可控。建立風險復評與動態校準機制，根據模型能力變化、場景拓展情況和風險暴露程度及時調整監管等級，推動監管標準隨技術演進而持續優化，避免“一次定級、終身適用”的僵化，使分級分類管理在動態中持久生效，成為健全治理長效機制的關鍵支撐。
大模型安全風險具有跨領域、跨層級、跨地域的復雜傳導特征，涉及技術研發、平臺運營、行業應用等主體環節，也關聯公共安全、意識形態、社會秩序等治理領域。當前，單一主體的單點防控難以應對系統性風險，政府掌握監管權限但缺乏技術洞察，企業擁有技術優勢但存在逐利沖動，科研機構具備專業判斷但缺少執行抓手，社會公眾身處應用一線卻缺乏參與渠道。只有將政府的制度優勢、企業的技術優勢、行業的協同優勢與社會的監督優勢有機整合，推動治理責任由分散割裂轉向協同共擔，治理機制由短期響應轉向常態運行，才能形成職責明晰、銜接順暢、運轉高效的治理長效機制。（作者：馬曉飛 王中鈺）
轉自：經濟日報
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
