訂閱
糾錯
加入自媒體

神眼內容審核系統(tǒng),用AI筑起一道內容安全防護墻

2020-04-26 11:06
AiChinaTech
關注

移動互聯網時代數字媒體及社交平臺快速發(fā)展,互聯網數據量水漲船高,其中視頻類數據占比達到了80%,這標志著國內外一批優(yōu)秀的流媒體視頻平臺的快速成長,而在社交媒體領域視頻也成了主要的信息載體,大量的數據內容審核需求隨之而來。對于平臺方而言內容審核很關鍵,通常國內主流的社交產品都擁有超過千人的審核團隊,流媒體巨頭YouTube、社交巨頭Facebook的內容審核人員更是超過萬人。

對于內容審核而言,常見的問題包括造謠、傳謠、色情、暴力、種族等,這些問題在UGC平臺尤為凸顯。因為用戶基數龐大,在用音視頻形式輸出內容時,對于平臺等審查難度隨之提高,并且有時違規(guī)內容的邊界并不十分的清晰,這都給內容審核者的工作帶來困難。當下常見的內容審核機制分為兩種,一是采用過用戶標記有問題的內容讓機器學習,二是平臺根據用戶直接上報侮辱性、攻擊性內容,從管理系統(tǒng)上標記此類內容,進行特別審核并刪除。

政策及行業(yè)層面,國家互聯網信息辦公室在2019年11月-12月先后發(fā)布了《網絡音視頻信息服務管理規(guī)定》和《網絡信息內容生態(tài)治理規(guī)定》。對網絡信息內容生產者、網絡信息內容服務平臺、網絡信息內容服務使用者、網絡行業(yè)組織等提出了明確的管理要求。隨后,中國網絡視聽節(jié)目服務協(xié)會聯合央視網、芒果TV、騰訊視頻、優(yōu)酷等多家平臺共同制訂了《網絡綜藝節(jié)目內容審核標準細則》,經協(xié)會常務理事會會議審議通過,并發(fā)布。

在此背景下,極鏈科技Video++針對目前行業(yè)面臨的主要問題,響應政策號召,結合人工智能技術,打造全棧式智能內容安全審核引擎——神眼系統(tǒng),用AI技術幫助平臺方減輕內容審核壓力、降低內容審核成本,為客戶提供一站式的智能內容安全解決方案。

神眼內容審核系統(tǒng),用AI筑起一道內容安全防護墻

神眼內容安全審核系統(tǒng)基于先進的深度學習算法,面向視頻平臺、社交網站、網絡社區(qū)、融媒體等客戶群體,提供包括視頻、文本、圖像等泛內容的涉黃、暴力、政治敏感等風險內容的識別,高效遏制風險、全面釋放審核人力、提高審核效率、凈化網絡環(huán)境、提升用戶體驗。

產品核心功能包括:智能鑒黃、智能鑒暴、政治敏感人物識別、公眾人物識別、違禁品識別、廣告檢測、圖像質量檢測、logo識別、OCR審核等。該系統(tǒng)支持本地私有化部署,獨立的運營平臺滿足精細化運營需求,并為客戶配套三次審核流程,機器+人工雙重保障審核準確率高于行業(yè)平均水平,為企業(yè)構建牢不可破的安全防御體系。

神眼內容安全審核系統(tǒng)基于海量特征樣本的多維度內容識別技術,采取全序列采樣識別,支持軌跡流跟蹤,有效提升視頻抽幀的質量和檢測效率。該技術能為視頻、圖片、文本等場景提供強大的深度學習算法和算力保證,對政治人物、色情、暴恐、旗幟等內容進行識別審核,大幅度降低內容風險,可減少90%以上人工審核成本。

經過多年的技術迭代升級,極鏈科技Video++構筑了技術壁壘,擁有視頻識別、圖像識別、文本識別等人工智能技術,沉淀了包括VideoAI金目視頻內容結構化引擎、頑石OS視聯網操作系統(tǒng)、VideoNet視頻AI數據集等一系列的基礎平臺,專注消費級視頻AI技術研發(fā)和商業(yè)應用。

目前,神眼內容安全審核系統(tǒng)已全面對外開放,極鏈期待與更多企業(yè)攜手并進,共同努力打造更加安全健康的網絡環(huán)境。

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

    掃碼關注公眾號
    OFweek人工智能網
    獲取更多精彩內容
    文章糾錯
    x
    *文字標題:
    *糾錯內容:
    聯系郵箱:
    *驗 證 碼:

    粵公網安備 44030502002758號