編輯導(dǎo)語：短視頻風(fēng)行的時代，我們每天都在接收各種各樣的信息。一直以來，碎片信息的參差不齊是一個值得重視的問題，UGC社區(qū)的審核也就顯得非常重要。本文圍繞如何審核UGC社區(qū)內(nèi)容，為審核者提供了一些新思路。

UGC 社區(qū)，是以用戶生產(chǎn)原創(chuàng)內(nèi)容為主的線上社區(qū)，但由于用戶創(chuàng)作水平的不同，生產(chǎn)的內(nèi)容自然有優(yōu)劣之分，同時，有人聚集的地方就會有商機，自然有別有用心的人發(fā)廣告。所以，對用戶原創(chuàng)內(nèi)容的審核，無論是為了良好的用戶體驗還是來自政府監(jiān)管的壓力，都是社區(qū)必須要做的事情。

從內(nèi)容流程「生產(chǎn) — 審核 — 加工 — 消費」來看，當(dāng)內(nèi)容生產(chǎn)后，運營人員在后臺審核通過后，再做糾正錯別字等加工，內(nèi)容才會呈現(xiàn)在榜單、推薦 Feed 流 等前端展示位。

在審核過程中，運營人員充當(dāng)「清潔工」和「淘寶客」，前者是做合規(guī)性審核，針對的是黃賭毒暴政恐，以及不符合社區(qū)業(yè)務(wù)的內(nèi)容；后者是做質(zhì)量審核，針對的是符合社區(qū)業(yè)務(wù)的內(nèi)容，做出三六九等的質(zhì)量評級，然后給予對應(yīng)的曝光流量。

針對這兩種內(nèi)容性質(zhì)的審核，一般都是以分值進行評判，比如針對不符合規(guī)性的內(nèi)容，分值是 0 – 50 分，一般是不給予流量（冷處理）或直接刪除；而針對質(zhì)量等級的內(nèi)容，分值是 60 – 100 分，且分?jǐn)?shù)越高，說明內(nèi)容質(zhì)量越好，那么在前端就可以獲得多一點流量。

為了加快內(nèi)容審核，大公司都會開發(fā)出反廣告的 antispam 系統(tǒng)，特點是「機器為主，人工為輔」，運營人員提供違禁詞、敏感詞，然后系統(tǒng)在用戶發(fā)布內(nèi)容后，直接刪除觸及到違禁詞的內(nèi)容，將觸及敏感詞的內(nèi)容放置在待審核區(qū)，交給運營人員審核。

但由于我之前所在的 UGC 社區(qū)處于探索期，后臺審核只支持內(nèi)容分類打標(biāo)、設(shè)置內(nèi)容等級的分值、下架刪除內(nèi)容等基礎(chǔ)功能，再加上內(nèi)容量在 5000 條左右（帖子 500 條，評論量 4500 條），相對那些上百萬級發(fā)布量的社區(qū)而言，這一點的內(nèi)容量還是比較少，于是我雇用幾名兼職，采用人工方式搭建審核體系。

PS：文末有這篇文章目錄的思維導(dǎo)圖，可以保存下來，然后再閱讀~

一、合規(guī)性審核

我將不符合規(guī)性審核的內(nèi)容，都稱為廣告，一共有 7 條，比如：

1）黃賭毒暴政恐等違法亂紀(jì)內(nèi)容，特別是黑絲露腿截圖

2）個人收賣，比如賣鞋、賣房、收游戲賬號

3）有損自家平臺的話語，比如辱罵、詆毀

在這些定義中，最好是附上例子，讓兼職和其他同事可以快速明白，以便達成共識。

當(dāng)廣告的定義設(shè)定之后，就需要給兼職分配工作。由于在我之前負責(zé)的社區(qū)中，內(nèi)容主要有兩部分，一部分是帖子，即用戶發(fā)的動態(tài)，內(nèi)容的載體有圖文或視頻，但沒有直播形式；另一部分是評論，即用戶在帖子下的評論。在后臺系統(tǒng)中，帖子、帖子下的評論都是獨立顯示，也就是一個頁面顯示帖子列表，另外一個頁面顯示評論列表。如果要把兩者關(guān)聯(lián)起來，那么必須要人工通過帖子 ID 進行查詢。

基于此，我把兼職分為兩批，一批用來搭建帖子廣告處理體系，另外一批用來搭建評論廣告舉報體系，如下：

1. 帖子廣告

對于帖子廣告，只需要一個人一天總共花 80 分鐘，即可在后臺系統(tǒng)查完，所以我安排了一名兼職在后臺檢查，發(fā)現(xiàn)廣告的帖子，進行如下操作：

1）一般情況下，兼職打上廣告標(biāo)簽進行標(biāo)識，然后運營人員每天下班前審查廣告標(biāo)簽的帖子，確定是廣告的帖子，就進行冷處理（此時帖子會在前端隱藏），或直接刪除。

2）遇到嚴(yán)重的情況，特別是黃賭毒，或反復(fù)發(fā)帖辱罵平臺，兼職需要即時私信運營人員，一般都是直接刪除。

2. 評論廣告

由于評論數(shù)量多，再加上不少人直接發(fā)廣告圖片，以至于運營人員在后臺查看時，即使花白天的時間，也僅僅找到幾條。

所以，我換了一種思路，招募了 10 名兼職，專門在 APP 前端查看帖子，并且用馬甲號進行評論，一旦遇到帶有廣告的評論，直接截圖并且圈出來，分享到微信群，然后有額外一名兼職在后臺系統(tǒng)處理，即時反饋每個兼職的當(dāng)月累計舉報次數(shù)。一個月下來，廣告的舉報總數(shù)可以高達 2000 條。

此外，還可以收集一些頻繁出現(xiàn)的廣告關(guān)鍵字，比如要的聯(lián)系、當(dāng)面交易，那么可以每天在后臺進行搜索。以后做反廣告的 antispam 系統(tǒng)時，這些廣告關(guān)鍵字可以直接派上用場。

多嘴一句，在發(fā)布量或評論量比較少的社區(qū)，特別是處于探索期時，不建議做 antispam 系統(tǒng)，除了耗人力之外，還有一個重要原因就是，太多限制的關(guān)鍵字會導(dǎo)致社區(qū)的忠實用戶流失，比如大多數(shù)平臺將「微信」及其衍生詞「vx」等作為限制關(guān)鍵詞，只要用戶發(fā)表的言論帶有這些詞語，輕則直接刪除，重則禁止用戶發(fā)言，這極大地打擊了用戶的熱情。

二、質(zhì)量審核

在質(zhì)量審核中，也會分為帖子和評論，主要是為了篩選出優(yōu)質(zhì)內(nèi)容，防止出現(xiàn)劣幣驅(qū)除良幣的不良現(xiàn)象。需要注意的是，由于兼職不了解業(yè)務(wù)、內(nèi)容網(wǎng)感差等因素，由運營人員全程參與，哪怕一天只能評級 20 條，那么也不會引入兼職做質(zhì)量審核。

1. 帖子質(zhì)量

考慮到我招募的 KOL 達人多半是職高學(xué)生，創(chuàng)作水平一般，我當(dāng)時將帖子質(zhì)量分為 A、B、C 三級，C 要求為語句通暢、表達清晰，而 A、B 則要求懂得結(jié)構(gòu)化表達，即總分總結(jié)構(gòu)。

在審核過程中，評為 A、B 兩級的帖子，分值設(shè)為 80 – 100 分，優(yōu)先在推薦頁第一屏幕顯示，而 C 級文章，分值在 60 分左右，將會在推薦頁第二屏幕顯示。

為了防止運營人員的強干預(yù)對內(nèi)容造成誤判，那么也會對每篇內(nèi)容做獨立的數(shù)據(jù)統(tǒng)計，比如知乎會將知乎答主的每篇回答的閱讀量、互動數(shù)進行記錄，并且做成看板提供給創(chuàng)作者。

此外，并且我公司系統(tǒng)將 24 小時內(nèi)達到「閱讀率 10%，點贊人數(shù) 8」（閱讀率 = 閱讀人數(shù) / 曝光人數(shù)）的帖子設(shè)置為優(yōu)質(zhì)帖子，自動給予更多的流量。

對于優(yōu)質(zhì)帖子，運營人員還可以做以下的操作：

1）置頂

當(dāng)某篇帖子被運營人員設(shè)為置頂后，在 APP 前端會有置頂標(biāo)識，和其他普通帖子做出一定的區(qū)分，并且用戶做下拉刷新不會改變其位置，比如今日頭條 APP 經(jīng)常會把官方的時政新聞置頂在推薦頁頂部。

2）設(shè)置精選內(nèi)容區(qū)

可以設(shè)立榜單、編輯精選區(qū)等產(chǎn)品功能，將優(yōu)質(zhì)的帖子放進去。比如酷安每天都會將熱門的圖文、問答等類型的內(nèi)容放入編輯精選區(qū)。

3）制作《社區(qū)創(chuàng)作者指南》

對于優(yōu)質(zhì)的內(nèi)容，運營人員根據(jù)數(shù)據(jù)做簡要分析，比如對于閱讀率高于 4% 的帖子，原因可能是標(biāo)題善于用「你」，讓讀者感到作者是和他對話，更為貼近人心，那么可以將這些心得整理到《社區(qū)創(chuàng)作者指南》，以指導(dǎo)社區(qū)的其他創(chuàng)作者。

這樣做可以極大激勵社區(qū)創(chuàng)作者的熱情，就好像上小學(xué)時，老師會把學(xué)習(xí)成績優(yōu)秀的學(xué)生名字寫在黑板上，鼓勵其他學(xué)生的向他看齊。

2. 評論質(zhì)量

對于評論，一般是按照點贊、時間等維度進行算法排序，不需要運營太過于操心。

不過對于較為優(yōu)質(zhì)的評論，特別是神評論，一般是運營安排兼職用馬甲號進行評論，俗稱埋雷，在后臺將該評論設(shè)置「加熱」，該評論將會在 APP 前端顯示在帖子的外面。此外，一般也可以使用程序算法進行自動設(shè)置，比如對每一條帖子，第一個評論超過 10 個點贊數(shù)，則自動設(shè)置為神評論。

但在埋雷時，一定要記得換號，防止出現(xiàn)「黃婆賣瓜，自賣自夸」的翻車現(xiàn)象，比如抖音不時有博主為了引發(fā)內(nèi)容消費者多評論，故意在評論下夸自己的作品很好，但評論時卻忘記了切換到小號。

三、對違規(guī)用戶的處理

審核內(nèi)容不僅僅是審核內(nèi)容，還需要審核發(fā)內(nèi)容的人，畢竟內(nèi)容是由人發(fā)出來的。

我將用戶分為普通用戶、KOL、高危用戶。其中 KOL 是可以創(chuàng)作出高質(zhì)量帖子的用戶，高危用戶是時常違規(guī)的用戶，比如經(jīng)常廣告，而其余的都是普通用戶。

對于 KOL，一般都會愛惜自己的羽毛，不會輕易出現(xiàn)發(fā)廣告、辱罵他人等違紀(jì)行為，所以對于他的帖子或評論，審核時都會直接通過，并且還會對他的帖子分配多一點流量。而對于他出現(xiàn)違規(guī)問題，那么運營人員可以私信他，對他進行警告提醒，如果情節(jié)嚴(yán)重或多次違反，那么可以對他進行禁言，短則七天，長則幾個月

但對于高危用戶，一般是注冊才幾天的新用戶居多，注冊后就會立即發(fā)廣告的帖子或評論。而這些用戶，一般是屢教不改，運營人員會把他拉進黑名單，禁止他發(fā)帖子或評論，并且對他所有的帖子以及評論進行刪除，封禁時間一般為幾個月。如果違規(guī)次數(shù)超過 3 次，那么會對其進行永久封號。

在社區(qū)中，由于觀點各異，在評論區(qū)經(jīng)常會出現(xiàn)罵戰(zhàn)，最后都會上升到人身攻擊。當(dāng)運營人員發(fā)現(xiàn)后，應(yīng)該封禁雙方當(dāng)事人的賬號，即時刪除不好的評論，并且在在前端留下解禁的微信聯(lián)系方式，當(dāng)被封禁的用戶再次進行發(fā)帖或評論，解禁的聯(lián)系方式就會被彈出來，那么他可以添加微信，然后進行申述。

此外，由于審核會出現(xiàn)疏忽，那么可以發(fā)揮群眾的力量。方式主要有兩種，如下：

1）產(chǎn)品實現(xiàn)舉報功能

比如知乎用戶可以舉報知乎回答或評論，然后知乎會在給出舉報的處理結(jié)果：已處置 or 未發(fā)現(xiàn)違規(guī)。

但這種方式是非常耗人力，比如在產(chǎn)品端實現(xiàn)流程化之后，還需要用客服或運營人員進行核實。

2）私信官方號

一般存在私信功能的社區(qū)，都會設(shè)置官方號，用戶可以將要舉報的用戶或內(nèi)容，截圖或發(fā)鏈接給官方號，寫上舉報理由，然后交由官方號進行處理。這種方式比較省人力，并且運營人員可以即時跟舉報者進行實時溝通。

對于大公司如何審核內(nèi)容，感興趣的可以查看知乎 Alita 鄭瑜的文章：《UGC社區(qū)的內(nèi)容如何進行審核和過濾？》

最后，這篇文章比較長，特意為你準(zhǔn)備了一張思維導(dǎo)圖，方便你閱讀。

作者：貓曉豆豆，社區(qū)運營，會一點知識管理。微信公眾號：貓曉豆豆。

本文由 @貓曉豆豆 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來自Unsplash，基于 CC0 協(xié)議。