編輯導(dǎo)語(yǔ)：新媒介環(huán)境下，“人人都有麥克風(fēng)”、“把關(guān)人”缺失、不受時(shí)空限制的網(wǎng)絡(luò)傳播渠道使得內(nèi)容可以迅速擴(kuò)散。這些都給內(nèi)容安全帶來(lái)了挑戰(zhàn)，內(nèi)容審核成為內(nèi)容平臺(tái)的重中之重。無(wú)論內(nèi)容、形式、平臺(tái)如何發(fā)展變化，傳播的5W模式都是通用的，對(duì)內(nèi)容的審核可以圍繞著5個(gè)要素展開(kāi)。

一、5W模式與內(nèi)容審核

1948年，拉斯韋爾提出了傳播過(guò)程及其五個(gè)基本構(gòu)成要素，即：

1. Who：誰(shuí)——內(nèi)容的生產(chǎn)者；
2. What：內(nèi)容——生產(chǎn)者說(shuō)了什么；
3. Which-In Which Channel：渠道——內(nèi)容通過(guò)什么渠道傳播；
4. Whom-To Whom：受眾——誰(shuí)接受到了內(nèi)容；
5. With-With What Effect：效果——內(nèi)容傳播后取得了什么效果。

所有的傳播行為都可以圍繞這5個(gè)要素展開(kāi)。

所謂內(nèi)容審核，也不僅僅是對(duì)內(nèi)容本身進(jìn)行識(shí)別，尤其是在目前機(jī)器識(shí)別無(wú)法達(dá)到100%的準(zhǔn)確、內(nèi)容數(shù)量本身及其龐大的情況下，通過(guò)對(duì)各個(gè)傳播要素的“監(jiān)控”，也是完善機(jī)器審核的數(shù)據(jù)維度、提升審核效率的有效途徑。

5W要素應(yīng)用到內(nèi)容審核中，分別與以下角色環(huán)節(jié)相對(duì)應(yīng)：

1. Who：生產(chǎn)者是否靠譜？是否是一個(gè)“可信”的人？他發(fā)布不合規(guī)信息的可能性有多大？
2. What：內(nèi)容本身是否是合規(guī)的？
3. Which：渠道想要做好“把關(guān)人”的角色，應(yīng)該如何開(kāi)展內(nèi)容審核 ？
4. Whom：受眾本身有無(wú)異常？受眾的行為是否合規(guī)（如發(fā)布不良評(píng)論）？
5. With What Effect：傳播的情況是否正常？

內(nèi)容審核目前都是通過(guò)機(jī)器+人工的方式進(jìn)行，審核的機(jī)制既可以是先發(fā)后審也可以是先審后發(fā)。

如何選擇這些方式和機(jī)制、在提升審核效率的同時(shí)最大程度地保障內(nèi)容安全、同時(shí)又不影響用戶(hù)體驗(yàn)，維護(hù)三者的平衡，可以圍繞上述各要素來(lái)進(jìn)行規(guī)劃設(shè)計(jì)。

二、五要素在內(nèi)容審核中的應(yīng)用

1. Who：對(duì)內(nèi)容的生產(chǎn)者的風(fēng)險(xiǎn)評(píng)分和標(biāo)簽體系

1）建立對(duì)于內(nèi)容生產(chǎn)者的風(fēng)險(xiǎn)評(píng)分

從內(nèi)容生產(chǎn)者發(fā)布第一條內(nèi)容開(kāi)始，就對(duì)他展開(kāi)內(nèi)容識(shí)別，基于靜態(tài)的注冊(cè)信息、此前的行為信息建立初步的風(fēng)險(xiǎn)情況后，根據(jù)其后續(xù)發(fā)布內(nèi)容的情況動(dòng)態(tài)實(shí)時(shí)調(diào)整，同時(shí)建立黑名單制度。

如：一個(gè)內(nèi)容生產(chǎn)者，此前瀏覽的內(nèi)容都是財(cái)經(jīng)、商務(wù)類(lèi)型的，而且綁定了銀行卡，則前期的靜態(tài)評(píng)分可以認(rèn)為他是一個(gè)低風(fēng)險(xiǎn)用戶(hù)。

后續(xù)其發(fā)布的內(nèi)容在一段時(shí)間內(nèi)多次觸發(fā)人工審核機(jī)制，則可以提高他的風(fēng)險(xiǎn)等級(jí)；隨后他發(fā)布的內(nèi)容被用戶(hù)舉報(bào)且人工審核確實(shí)違反了規(guī)則，則可以視情況將其納入黑名單，限制之后的內(nèi)容發(fā)布行為。

2）建立對(duì)于內(nèi)容生產(chǎn)者的標(biāo)簽體系

針對(duì)內(nèi)容發(fā)布者進(jìn)行畫(huà)像，可以實(shí)現(xiàn)對(duì)異常行為的監(jiān)控。

標(biāo)簽體系可以包括用戶(hù)的性別、年齡段、常用地理位置、常用設(shè)備、發(fā)布的內(nèi)容類(lèi)型等信息。一旦某些信息發(fā)生變化，則需要對(duì)其內(nèi)容進(jìn)行重點(diǎn)監(jiān)控，防止異常行為，如用戶(hù)被盜號(hào)后此賬戶(hù)被用來(lái)發(fā)布不合規(guī)內(nèi)容。

此外也可以設(shè)置優(yōu)秀內(nèi)容生產(chǎn)者等標(biāo)簽，對(duì)此類(lèi)用戶(hù)發(fā)布的內(nèi)容免審核或可以先發(fā)后審。

2. What：對(duì)內(nèi)容的識(shí)別規(guī)則和手段

建立內(nèi)容審核的規(guī)則，審核的規(guī)則大體上來(lái)說(shuō)源于監(jiān)管的要求和業(yè)務(wù)的政策。

1）監(jiān)管的要求

內(nèi)容不能涉及黃賭毒暴政恐，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》等也對(duì)內(nèi)容審核提出了詳細(xì)的要求。

2）業(yè)務(wù)的政策

為營(yíng)造社區(qū)的良好氛圍，保證用戶(hù)體驗(yàn)，內(nèi)容不能涉及侵權(quán)、謾罵、隱私、低俗、垃圾內(nèi)容等；為保障平臺(tái)的正常運(yùn)營(yíng)和利益，不能違規(guī)發(fā)布廣告、添加鏈接等；為社區(qū)用戶(hù)安全考慮，內(nèi)容不能涉及導(dǎo)流、詐騙等。

3）豐富審核的技術(shù)手段

充分利用人工智能等技術(shù)手段，實(shí)現(xiàn)對(duì)文本、圖片、聲音、視頻的自動(dòng)識(shí)別，不斷提高機(jī)器的召回率和準(zhǔn)確率。

4）搭建機(jī)器審核和人工審核的流轉(zhuǎn)機(jī)制

包括內(nèi)容在何種情況下觸發(fā)審核、何種情況下觸發(fā)人工審核，人工審核是否需要復(fù)核等，完善的流程設(shè)置對(duì)效率的提升大有助益。

3. Which：助力審核人員扮演好“把關(guān)人”的角色

1）設(shè)置有效的任務(wù)分配機(jī)制

提升分發(fā)效率和審核效率，保證需審核視頻100%分發(fā)，且在最短時(shí)間內(nèi)到達(dá)審核人員，同時(shí)按照一定的規(guī)則給審核人員分配需要審核的視頻。

按照觸發(fā)人工審核的原因來(lái)分發(fā)，可以使審核人員積累在某一領(lǐng)域的審核經(jīng)驗(yàn)，提升審核效率。

2）為審核人員提供配套的功能

“工欲善其事必先利其器”，提供審核的輔助功能，助力人工審核提速。

如針對(duì)文本的審核對(duì)敏感詞高亮顯示，針對(duì)音視頻的審核標(biāo)注關(guān)鍵幀、設(shè)置倍速瀏覽功能，審核的信息通過(guò)信息流的方式自動(dòng)呈現(xiàn)，減少操作點(diǎn)擊環(huán)節(jié)。

4. Whom：通過(guò)受眾識(shí)別違規(guī)內(nèi)容的“蛛絲馬跡”

1）為受眾提供舉報(bào)功能

一方面可以節(jié)約審核資源，另一方面也是對(duì)機(jī)器和人工審核錯(cuò)誤率的一種彌補(bǔ)。

2）建立受眾的標(biāo)簽體系

和針對(duì)傳播者的標(biāo)簽體系一樣，對(duì)用戶(hù)的畫(huà)像除了用于針對(duì)用戶(hù)的內(nèi)容推薦外，也可以是對(duì)內(nèi)容質(zhì)量反饋的一個(gè)維度。

例如：同一個(gè)內(nèi)容被大量不同標(biāo)簽的用戶(hù)關(guān)注，可能內(nèi)容本身存在了誘導(dǎo)行為，就需要人工審核予以確認(rèn)。

3）進(jìn)行受眾聚集情況分析

針對(duì)受眾的集中情況進(jìn)行分析，是否過(guò)于聚集。

不過(guò)此方式多用于直播中刷量行為等的監(jiān)控，在內(nèi)容審核中，可以輔助判斷內(nèi)容是否存在誘導(dǎo)、違規(guī)廣告營(yíng)銷(xiāo)等。

5. With What Effect：通過(guò)傳播的效果發(fā)現(xiàn)內(nèi)容的異常

1）通過(guò)觀看、點(diǎn)贊、轉(zhuǎn)發(fā)、評(píng)論數(shù)等的監(jiān)控發(fā)現(xiàn)異常行為

傳播范圍廣泛的內(nèi)容中若存在風(fēng)險(xiǎn)，造成的后果更為嚴(yán)重，因此要對(duì)觀看、點(diǎn)贊、轉(zhuǎn)發(fā)、評(píng)論量比較大的內(nèi)容特別關(guān)注。

另外：這些指標(biāo)的異常也是一個(gè)值得關(guān)注的風(fēng)險(xiǎn)點(diǎn)，此前點(diǎn)贊數(shù)一直不過(guò)百的用戶(hù)新發(fā)布的內(nèi)容突然點(diǎn)贊過(guò)萬(wàn)，可能需要對(duì)內(nèi)容進(jìn)行人工審核。

2）對(duì)評(píng)論進(jìn)行內(nèi)容識(shí)別

評(píng)論同樣是內(nèi)容審核需要關(guān)注的部分，對(duì)評(píng)論內(nèi)容的識(shí)別。

一方面是監(jiān)控評(píng)論是否有違規(guī)行為，另一方面通過(guò)關(guān)注評(píng)論內(nèi)容中是否存在對(duì)內(nèi)容本身的舉報(bào)等，來(lái)進(jìn)行內(nèi)容審核。

三、小結(jié)

從5W模式入手建立內(nèi)容審核的體系，是基于傳播要素的完整模式。

內(nèi)容審核的重點(diǎn)還是在對(duì)內(nèi)容本身的識(shí)別方面，從提升機(jī)器審核的召回率和準(zhǔn)確率，到提升人工審核的效率，再到搭建完整的流轉(zhuǎn)機(jī)制，從其他要素著手也主要是為優(yōu)化這三個(gè)環(huán)節(jié)來(lái)服務(wù)。

當(dāng)機(jī)器能夠?qū)崿F(xiàn)對(duì)違規(guī)內(nèi)容的100%精準(zhǔn)識(shí)別，甚至具備了自我學(xué)習(xí)的本領(lǐng)，能夠自己去拓展發(fā)現(xiàn)審核的“要義”，或許其他環(huán)節(jié)也就不那么必要了。

本文由 @小小晶 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉(zhuǎn)載

題圖來(lái)自Pexels，基于 CC0 協(xié)議