互聯(lián)網廣告內容審核專題(三)——人機聯(lián)動
編輯導語:筆者上一篇文章《機器審核》中,重點介紹了機器審核的能力,互聯(lián)網廣告內容審核專題(二)——機器審核;本文來談談機器和對人工審核如何組合運作,滿足各類業(yè)務場景的需求?
首先,什么場景需要人工審核?對于機器無法準確識別的內容,都需人工審核進行確認;通常機器審核和人工審核的量級約為9:1,對于日均量級上億的內容產品上,人審日均量級也達到百萬級,同時滿足時效性要求和審核質量無疑是很困難的。
因此在實際業(yè)務中,根據(jù)不同產品的形態(tài),建立不同的人機聯(lián)動審核機制,最大化滿足審核訴求。
下面分別談談兩種基本的審核機制:
一、人機聯(lián)動機制
1. 先審后發(fā)
先審后發(fā)是早期審核采用的模式,要求全部內容均通過完整的審核流程后允許上線分發(fā),用以保證風險最低、質量最優(yōu)。
通常對于商業(yè)廣告,高風險行業(yè)或客戶必須采用先審后發(fā)機制,來避免風險的發(fā)生;對于重質量的內容社區(qū),也需要經過完整的審核流程才能進行發(fā)布。
以上給出先審后發(fā)機制中,機器和人工審核聯(lián)動的基本流程。待審內容都先通過機器審核;當機審輸出結果達到閾值,準確度可信時,按機器審核結果通過上線或直接拒絕;當機審輸出結果未達到閾值,給出疑似風險的判斷,推送給人工審核進行最終確認,按人審結果通過上線或直接拒絕。
對于先審后發(fā)機制,不斷提升機器審核的準確率,將會大大減少人工審核的工作。
2. 先發(fā)后審機制
對于海量的內容,全部采取先審后發(fā)機制無法滿足內容分發(fā)的時效要求。近些年興起的先發(fā)后審機制,可以幫助解決這部分問題。
對于商業(yè)廣告,可以選取低風險行業(yè)或客戶,允許先上線分發(fā),幫助其短時間內獲取更多流量;對于時效性要求高的內容產品,如評論、視頻彈幕等,快速上線展現(xiàn),滿足其實時發(fā)布需求。
以上給出先發(fā)后審機制中,機器和人工審核聯(lián)動的基本流程。待審內容通過機器審核,秒級輸出機審審核結果;如機審結果確認有風險,則按機審結果直接拒絕,否則立刻上線分發(fā);上線后根據(jù)展現(xiàn)量抽取線上展現(xiàn)內容,推送人工復審,檢查風險問題。
如人工復審發(fā)現(xiàn)的風險問題較大,可以將該行業(yè)或客戶的審核機制升級為先發(fā)后審,來保證風險可控。
在審核業(yè)務中,先審后發(fā)和先發(fā)后審兩種機制也通常組合運作,靈活調配,以最小的成本實現(xiàn)風險控制,滿足審核時效要求。
二、審核任務分配
在人機聯(lián)動審核機制中,如何將審核任務快速分配給對應的人員進行審核呢?來一起看看審核任務分配機制。
1. 審核任務主動分配
上圖是一套動態(tài)靈活的審核任務分配機制,減少任務等待時間,更快速地分發(fā)給審核人員。
第一步:待審任務灌入審核任務池,等待被分配。
第二步:根據(jù)審核組長或管理人員配置的權重,自動分發(fā)相應比重的任務,進入審核員任務列表,審核員可以開始審核;通常分配權限需支持靈活配置,如支持審核員請假等場景。
第三步:對審核任務池和審核員任務列表實時監(jiān)控;如出現(xiàn)任務池任務突增,需加快分配至審核員任務列表進行審核;如審核員任務列表剩余任務不足,任務池主動進行分配;通過這樣動態(tài)分配的方式,保證審核員有充足的任務,避免任務積壓。
實際審核任務分配可以基于此基本方法進行變換,滿足不同場景的審核需求。
本篇文章的內容就到這里,關于更多的審核模式、審核機制、審核業(yè)務管理方式等會在后續(xù)文章中繼續(xù)和大家分享!歡迎大家一起探討!
本文由 @Rush 原創(chuàng)發(fā)布于人人都是產品經理,未經許可,禁止轉載
題圖來自?Unsplash,基于 CC0 協(xié)議
贊??