“能力越大，責任也就越大。”這句話同樣適用于匯聚著億萬雙眼睛的互聯網主體平臺。
隨著互聯網信息載體和內容主體的不斷豐富，網絡不可避免地出現了魚龍混雜的局面。無視版權、低俗涉黃、詐騙信息、涉恐涉暴……種種問題交織在一起，嚴重破壞了網絡生態。為了改善網絡環境，知乎致力于構建認真、專業、友善的社區氛圍，并在此過程中，始終堅持長期主義，在不斷升級的內容風控對抗中持續自我提升。
知乎一直以來都非常重視社區生態治理，面對海量數據，治理方找準方法很重要。“我們需要充分利用好算法模型的優勢，并與第三方服務商合作。網易易盾是國內領先的內容安全服務商，我們非常認可其安全服務的專業性和可靠性。”知乎表示。
知識社區堅持「獲得感」的長期主義
諸如「如何打造一個不凌亂的家？」「如何開家長長久久的咖啡館？」「電腦內部是如何溝通工作的？」「我是否卷入了一場騙局？」「藝術品的收藏價值來自于何處？」等的問題在知乎中隨處可見，透露著未知與求知的博弈。
與每個疑問面對面的瞬間，人們總是迫切地尋找答案，搜尋一本答疑解惑的書，詢問一名相關領域的專家，或者是轉向知識社區“知乎”。即使是沒有學過的專業知識，沒有經歷過的人生，沒有觸達的未知，我們大概也會在翻閱數個帖子后，知曉一二。
從幾個人，到幾萬個人，再到數千萬人，對知識有渴求的內容創作者很快順著網線會合，以一磚一瓦的“智慧”聚集構成了全知全能的“知乎”。在招股書上，知乎給自己下了這么一個定義：“中文互聯網高質量的問答社區，創作者聚集的原創內容平臺”。自 2010 年成立以來，知乎以“讓人們更好的分享知識、經驗和見解，找到自己的解答”為使命，在諸多領域建立起了以社區驅動的內容變現商業模式。目前，知乎已經覆蓋問答社區、會員業務、商業內容解決方案、熱榜、機構號、視頻、直播等一系列產品和服務，并建立了包括音頻、視頻在內的多元媒介形式。
截至 2021 年第三季度，知乎共累計 4.59 億條多元形式的內容，其中問答條數達到 3.98 億，知乎平均月活躍用戶首次突破一億大關，知乎擁有累計超過 5300 萬的內容創作者，月活創作者數量達到 364萬。
可以說，知乎有著屬于自己執著且獨特的內容風控情懷，即獲得感。一直以來，知乎將能夠「開闊眼界，帶來幫助或引發共鳴」的內容高度概括為「獲得感」。截至目前，「獲得感」已經成為知乎衡量內容價值的標尺，用來強化社區治理，調整內容結構。好內容因此得到了更多關注、流量和收益，社區生態也因此更加健康繁榮。
打造知識海洋深處的凈化器
以往，提到內容風控，大家都會想到博人眼球的黃色擦邊球、性感裸露圖片……
在知乎看來，內容風控是指對合規內容的保護與對不合規內容的治理。這里面提到的「規」既包括法律、政策要求，也包括平臺對內容風控的自驅要求。如此看來，內容風控需要做到的其實就是識別、判斷不同載體（文本、圖片、聲音、視頻等）中信息的合規性。
基于這樣的目標，知乎設定了四個關鍵需求：法律法規的建設、內容風控技術的攻關、標準化的風控體系與高水平的人才，衍生出四大內容安全能力方向，簡單舉例：
一是，法律法規、政策要求、平臺自身規則往往是精煉的，在實際的內容安全業務中，需要在充分理解規則的基礎上，轉化為可以直接指導業務的標準，再同步到內容安全業務各個環節有效落地。
二是，面對每天海量的數據，對內容的智能理解能力成為了內容安全業務的強需求，知乎目前通過自研+采買服務的形式不斷補強風險內容的識別能力。
三是，采用人機結合的內容風險控制體系，能夠良好地輔助審核人員對內容進行把關，提升工作效率。知乎自研的策略引擎「哪吒」與審核系統「天璣」，將內容安全業務各環節高效串聯并運轉。
四是，設立了專門的內容安全培訓團隊，并搭建了完整的培訓流程，旨在長期培養出思想站位高、視野寬廣、經驗豐富的內容安全業務人員，幫助平臺把關的同時，為清朗網絡空間培養守護者。
AI賦能，不合規內容識別更高效
AI（Artificial Intelligence，人工智能技術）技術應用到內容風控中并非新鮮事，AI參與識別不合規內容越來越普遍。受疫情影響，許多工作都放在線上進行，知識的分享和獲取也不例外。通過AI進行內容檢測是一個節省人力、物力的全新方式，在幾年前就受到了知乎的采用。
雖然AI算法模型不能完全代替人類審核員，但卻是重要的違規“定位”工具。知乎采取AI機審和人審相結合的方式，離開了AI或是審核員，內容安全業務的質量和效果將大大下降。
在引入易盾的AI算法模型之后，知乎表示，易盾深厚的技術沉淀以及個性化定制的服務，在風險內容組織性與對抗性日趨增強的今天，能夠補強知乎對于不合規內容的識別、判斷能力。
近年來，知乎持續加大內容治理方面的投入，從內容安全紅線底線、不友善、內容質量、未成年保護等多方面入手，將第三方模型和自研模型相結合，大大提升了相關違規內容的召回率和準確率。
知乎表示，內容風控作為生態建設的基本盤，在其內部已經建立起來一套新產品、新功能上線的內容風控評估流程，任何功能更新、上線前都需要經過內容風控評估。對于公司未來發展的方向和重點，知乎也提前做了行業調研和能力儲備，確保基本盤一直是穩的，是可以跟得上行業發展的。
轉自：雷鋒網
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
政策協同發力 做好“十四五”時期就業工作
