騰訊天御內容風控全新發布 為網絡空間清朗保駕護航

　　11 月 30 日— 12 月 1 日，2022 騰訊數字生態大會在深圳召開，騰訊安全攜八款自研成果及背后的創新技術亮相，與生態伙伴共筑數字化安全新能力，探索以 " 安全共生 " 護航企業 " 行穩致遠 "。

　　在12月1日下午舉行的騰訊安全先行者·新品發布會場上，騰訊安全天御內容風控總監蔡飛以《攜手云原生，騰訊天御內容安全運營中心全新亮相》為主題分享了內容安全領域的風險與挑戰，以及騰訊天御內容安全運營中心的最新應對方案。

　　內容安全面臨的風險和挑戰

　　隨著移動終端與信息技術的快速發展，互聯網內容愈發多元。從文字到圖片到語音再到視頻、直播，數字技術的時代洪流正沖刷出一幅豐富多彩的數字生活畫卷。同時，更加龐大和復雜的內容安全隱患也伴隨而來。

　　對于數字內容平臺和企業來說，開展網絡生態治理刻不容緩，24小時不停歇的互聯網內容安全攻防戰每日都在上演。內容安全面臨的問題與挑戰主要分為三個方向：

　　1. 違規內容識別

　　數字內容類應用往往以用戶UGC內容為主，用戶資料，圖文消息和音視頻數據大部分是由用戶自己上傳，很容易出現色情，低俗，辱罵等不良內容。

　　2. 內容治理成本

　　企業和個人開發者不太可能具備足夠的安全團隊，建立功能完備的內容審核系統，組建專門的運營團隊。

　　3. 全球性業務合規

　　面向海外的業務場景，需要滿足不同國家地區的法規要求。

　　騰訊安全天御內容風控解決方案，三大特性守護內容安全

　　騰訊安全天御內容風控解決方案，以人工智能為核心，通過風控策略的靈活調度，打造覆蓋圖片、文本、音頻、視頻全內容形態的 AI 智能內容風控服務，為網絡空間清朗保駕護航。

　　01  更簡單：一鍵開通，自動審核

　　在上云的業務架構里，如電商、游戲或者教育業務通常會使用COS搭建數據存儲系統、使用VOD實現音頻視頻播放功能、基于TRCT云直播打造豐富多彩的音視頻互動功能。

　　以往企業要對這些云組件類的數據進行審核，需要通過各產品的SDK或者API獲取數據，完成數據的送審和處置，這對導致研發對接成本非常高。

　　在騰訊安全天御內容風控解決方案的新版本中，加強了內容安全與其他云基礎產品的聯動性，在控制臺一鍵開通、自動實現數據審核。

　　在內容安全的產品板塊里，騰訊安全對內容識別能力進行了技術架構升級，通過原子能力模型產生更多內容維度的特征，并且通過決策引擎實現對內容、行為和賬號等多維度特征進行綜合判斷，進一步提升識別效果和運營的靈活性。

　　升級了安全運營服務，打造了對安全態勢的實施感知能力，對突發的安全事件可以及時上線策略進行布控，并且定期組織紅藍對抗，優化識別效果，確保云上的業務數據持續健康。

　　提供一套統一的運營功能集成到各個云產品，讓云產品的客戶可以更容易地管理審核策略和優化審核效果。

　　新版本的核心目標是將復雜的內容審核功能和運營流程精簡為一鍵開通、自助運營和數據看板三個關鍵功能給了客戶，以滿足快速接入、靈活調優和對數據的可視分析的需求，極大地降低在內容審核方面的研發和運營成本，讓上云企業能夠在產品研發和安全運營方面都能夠實現降本增效的目的。

　　案例一：COS 全自動審核模式

　　在COS 全自動審核模式下，業務團隊只需針對COS的存儲配置開通送審功能，并且進一步配置對違規資源的處置規則，比如上傳的圖片如果包含低俗廣告，違規內容時，就會自動封禁。

　　對于數據的送審，違規數據的處置功能邏輯完全可以交給COS和天御內部系統實現，真正實現零研發接入。并且伴云審核還有一個很獨特的優點，由于COS和天域系統可以通過騰訊內部網絡通信，因此客戶不需要承擔因審核下載產生的費用。

　　以圖片審核為例，這種審核模式可以為客戶節省大約20%的整體審核費用。

　　在COS存儲場景下，當出現新的審核需求時，可以在控制臺啟動存量掃描能力，實現對歷史數據的全量清洗。

　　案例二：TRTC 全自動審核，靈活方便，費用更低

　　在天御內容審核中臺中，內置實現TRTC 的專屬審核模塊，全面對接TRTC的事件消息服務。通過實時監聽房間創建，用戶進退房等事件消息，實現對數據的自動送審功能。

　　面對網絡中斷等異常情況，可實現自動恢復，并且對重復數據進行自動去重。

　　在拉流審核模式方面，支持對單錄音視頻流進行審核，也支持將多路音視頻數據混合成一路進行審核。這種模式的切換可以實現自助配置，靈活調整，有效的平衡審核成本和業務風險。

　　02  更全面：超500種違規類型識別

　　新版本中第二個大特性，是審核能力的全面升級：

　　超過500多種的違規類型識別，整體提升了40%以上。

　　在識別粒度方面也進行更加精細的拆分，通過更細的標簽、靈活調整，以適應不同行業的審核需求。

　　案例一：守護未成年人網絡內容安全

　　在未成年人保護相關能力方面，提供了兒童邪典、未成年人低俗、未成年人不適宜表情包等十幾個標簽。

　　支持對未成年人年齡屬性的輸出，讓業務可以根據屬性進一步區分未成年人群體，從而制定不同的處置規則。

　　案例二：守護內容平臺版權風險

　　近年來，各行各業的版權保護意識越來越強。例如，在有聲小說業務場景中，用戶有可能上傳一些缺乏授權的素材，導致平臺方侵犯作者的權益，從而引發版權訴訟。

　　因此，在騰訊安全天御內容風控解決方案新的內容審核產品中，新增了版權篩查的功能，幫助平臺進一步降低版權的風險。

　　案例三：守護音視頻應用本地化場景

　　對于國內主打本地化場景的音視頻應用，基于中文普通話構建的安全識別能力，其效果會受地方方言影響大打折扣，因此騰訊安全天御內容風控解決方案在新版本里增加了超過20多種的國內方言識別。

　　針對海外地區的業務場景，也新增了英語，日語，韓語和阿拉伯語等主流語言的識別，并且在海外部署了專門的業務節點，進一步解決全球性的業務安全合規問題。

　　值得注意的是，經過多次的模型迭代，騰訊安全天御內容風控解決方案在隱晦違規元素的識別上也取得了較大的突破，例如變體字、行近字等干擾性強的違規內容。對一些情感性、傾向性檢測的場景，即使是在嘈雜音背景下，也能對風險內容進行及時的應對和處理。

　　03  更準確：國內權威認證，全五星最高能力標準

　　騰訊安全天御內容風控系統新版本今年六月份通過了中國信托院組織的專業評測，在文本、圖像、音頻、視頻四大類型的 16 項場景評測中均為滿分，斬獲“全五星”最高評級。

　　目前，騰訊安全天御風控已為 1500 多家平臺提供內容安全服務，共計審核圖片總量已突破 3000 億條，累計攔截不良內容超 5 億條，更多次參與護航重大展會、峰會的內容安全。