隨著數字化社交的日益普及，平臺生態安全建設已成為行業健康發展的關鍵基石。Soul發布的《2025生態安全半年報》顯示，平臺通過AI技術全面升級治理體系，在反欺詐、內容審核、未成年人保護等領域取得明顯成效，為用戶構建了一個更加清朗、安全的社交空間。
面對網絡詐騙手段不斷翻新的挑戰，Soul建立了智能化的"識別-預警-攔截"全鏈條防御體系。平臺自主研發的"圖片/文本反作弊大模型"和"殺豬盤發帖文案識別大模型"協同工作，能夠有效識別文本變體、圖像偽裝等復雜詐騙行為。據統計，這一體系使得黑產分子的對抗成本顯著提高，平臺整體涉詐人群數量較此前下降約20%。在技術防護之外，Soul還注重與公安機關的協同治理。半年報數據顯示，平臺累計向警方推送網絡謠言線索50個、黑灰產線索25個，協助查明盜用照片等侵權案件20余次，處理警方調證協作需求80余次，形成了線上線下聯動的安全治理網絡。
在社交內容治理方面，Soul通過多維度策略持續優化平臺環境。平臺新增了可識別色情交易變體等違規行為的反作弊大模型，進一步提升了對新型違規行為的發現能力。數據顯示，平臺通過AI技術實現違規內容機審攔截量級達932萬，累計拉黑同設備下存在的多個違規賬號2.1萬個。針對群聊場景的特殊性，平臺實施了精細化管控措施。日均中斷語音違規消息4萬余條，攔截違規文字消息2.7萬余條，并對違規用戶實施梯度處罰，日均處理量達1.7萬+人次。在私聊場景中，平臺通過騷擾消息自見策略日均保護2.3萬+用戶，消息盒子功能輔助用戶日均收納消息超5000條。
在持續推進內容生態治理的同時，平臺將網絡暴力防治作為重點攻堅方向。網絡暴力作為數字時代的頑疾，一直是社交平臺治理的重點。Soul建立了"技術識別+人工審核+用戶教育"三位一體的治理體系，通過AI內容識別系統實時掃描侮辱、誹謗等不良內容，同時完善舉報機制，鼓勵用戶參與共治。平臺通過典型案例公示、防網暴指南推送等方式開展網絡文明宣傳，累計已有43.3萬+的用戶簽署友善互動聲明。治理成效顯著，日均保護用戶免遭網暴騷擾達3956人，處理私聊不文明行為用戶2146人，日均提醒引導私聊文明發言21.1萬+次。問卷調查顯示，超過八成用戶感受到了平臺環境的明顯改善。
在全面治理體系基礎上，平臺也特別關注未成年人這一重點群體的保護工作。在未成年人保護方面，Soul構建了包括身份認證、年齡識別、防沉迷系統等在內的全方位保護體系。值得注意的是，平臺首次在識別鏈路中引入AI大模型，能夠精準判斷用戶人設是否為未成年人，并識別成年人偽裝未成年人的情況。這一創新舉措取得了不錯效果，新AI大模型對假成年人的識別貢獻率高達99%，極大提升了未成年人模式的純凈度和安全性。平臺目前共設有未成年識別和保護策略51條，從注冊、內容瀏覽到互動交流等各個環節為青少年提供全面保護。
生態安全建設是一項需要長期投入的系統工程。未來，Soul將繼續加大技術研發投入，深化AI、大數據等技術在生態安全領域的應用，不斷提升風險識別和治理能力。平臺將始終秉持"用戶第一"的原則，與用戶攜手共建清朗、健康、有愛的網絡社交空間。
轉自：中關村在線
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
