大部分產(chǎn)品的審核機(jī)制和方式相對(duì)簡單粗暴，對(duì)于“誤發(fā)敏感內(nèi)容”的用戶而言十分不友好，甚至有推卸責(zé)任的“嫌疑”。本文就來思考一下反垃圾策略下的體驗(yàn)優(yōu)化可以怎么做呢？

無論任何形式的互聯(lián)網(wǎng)產(chǎn)品，用戶發(fā)布內(nèi)容的時(shí)候，都逃不過一層屏障——內(nèi)容審核。

內(nèi)容審核是產(chǎn)品反垃圾策略下的產(chǎn)物，是對(duì)產(chǎn)品內(nèi)容的風(fēng)險(xiǎn)把控，減少產(chǎn)品中出現(xiàn)的“垃圾”信息，凈化網(wǎng)絡(luò)生態(tài)環(huán)境。

這種措施對(duì)于大環(huán)境而言是必須的，但是大部分產(chǎn)品的審核機(jī)制和方式相對(duì)簡單粗暴，對(duì)于“誤發(fā)敏感內(nèi)容”的用戶而言十分不友好，甚至有推卸責(zé)任的“嫌疑”。

那么接下來就可以一起思考一下，反垃圾策略下的體驗(yàn)優(yōu)化可以怎么做呢？

01 概念解讀與背景分析

反垃圾策略，實(shí)際上就是對(duì)網(wǎng)絡(luò)生產(chǎn)內(nèi)容進(jìn)行審核，識(shí)別、刪除不符合《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》的文字、音頻、視頻等內(nèi)容。

內(nèi)容審核方式目前通用的是AI+人工審核的方式，具體的解決方案不盡相同。AI通過將用戶內(nèi)容與敏感詞庫中的關(guān)鍵詞進(jìn)行比對(duì)后進(jìn)行識(shí)別、剔除或者禁止操作；AI可以識(shí)別絕大部分內(nèi)容，提升審核整體的效率；但是對(duì)于視頻內(nèi)容等機(jī)器未學(xué)習(xí)到的內(nèi)容，仍需要人工審核去把控，或者對(duì)用戶的申訴內(nèi)容進(jìn)行人工干預(yù)和處理。

目前內(nèi)容審核解決方案也很多，例如網(wǎng)易易盾、百度大腦，以及字節(jié)跳動(dòng)開發(fā)的靈犬反低俗助手小程序等等。

（圖片來源：https://dun.163.com/product/censor-system?from=baiduP_FLJ_CP6026）

（圖片來源：https://ai.baidu.com/solution/censoring?track=cp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

（圖片來源：靈犬反低俗助手微信小程序）

02 反垃圾策略所面臨的的問題

對(duì)于內(nèi)容消費(fèi)的產(chǎn)品而言，反垃圾、風(fēng)控是產(chǎn)品安全的保證，這些策略是產(chǎn)品正常運(yùn)營的保障。但是目前各個(gè)產(chǎn)品的內(nèi)容審核機(jī)制不同，處理和應(yīng)對(duì)方案也存在差異，這就導(dǎo)致一系列的操作與體驗(yàn)問題存在。

接下來的內(nèi)容主要以用戶生產(chǎn)成本最低的“文字”內(nèi)容進(jìn)行分析。

扎克伯格認(rèn)為，AI是內(nèi)容審核的答案。毋庸置疑，面對(duì)海量的內(nèi)容，利用AI算法進(jìn)行過濾和風(fēng)控是最優(yōu)的選擇。但是選擇過后，各個(gè)產(chǎn)品面向用戶的解決方式是不同的。

比較簡單粗暴的方式就是利用AI進(jìn)行監(jiān)測和刪除，但是這依賴于強(qiáng)大的敏感詞庫與機(jī)器學(xué)習(xí)能力。這種內(nèi)容審核本著近似“劣幣驅(qū)逐良幣”過濾機(jī)制，將一切名字敏感詞庫的詞匯進(jìn)行禁止。這種做法確實(shí)可以阻隔絕大多數(shù)的不良信息在平臺(tái)上出現(xiàn)，但同時(shí)也會(huì)出現(xiàn)很多讓人無奈的情況，例如用戶本想上傳一段詩歌評(píng)論：

（尋找到下段文字中的敏感詞，看看你是否具備火眼金睛？）

人們可以在世界上走來走去，但無論走到哪里，都依然是圍著自我在轉(zhuǎn)，似乎永遠(yuǎn)無法真正地走出孤獨(dú)的自我，抵達(dá)別的心靈。而正如黑夜總會(huì)降臨一樣，人也終究會(huì)離開這個(gè)世界，生活充滿著各種各樣的可能性，或幸福或痛苦，或富貴或貧窮，唯有死亡是每個(gè)人無法逃避而不得不接受的可能性。

洋洋灑灑一大段，但是發(fā)布時(shí)卻被攔住了，系統(tǒng)提示有敏感詞，無法發(fā)布。

這個(gè)時(shí)候用戶就會(huì)懵了，只提示了有敏感詞，但是敏感詞是哪個(gè)卻不告知；好不容易寫了這么一大段，居然又發(fā)不了……

（圖片來源：筆者自繪+網(wǎng)絡(luò)表情圖）

這種嚴(yán)格的內(nèi)容審核看似玩笑，但是當(dāng)真作用在用戶自己身上的時(shí)候，對(duì)于普通用戶而言的傷害是無形的。這種邏輯只是以一種強(qiáng)硬的態(tài)度告知用戶做錯(cuò)事了，你就是做錯(cuò)了，所以我們的平臺(tái)的禁止你發(fā)布，你需要立刻馬上改正，但是我還不告訴哪里錯(cuò)了，怎么去調(diào)整解決。

（這種場景為何似曾相識(shí)……）

很多時(shí)候用戶發(fā)布的詞匯中包含一些敏感詞時(shí)，會(huì)被禁止發(fā)布或者審核后刪除，但是用戶是無法感知到究竟哪個(gè)是敏感詞的，這種無力感會(huì)嚴(yán)重影響用戶的互動(dòng)行為或者下一步的轉(zhuǎn)化率，長此以往，不需要多次，用戶在平臺(tái)的流失率就會(huì)變得很大。

面對(duì)這種情況，實(shí)際上需要平臺(tái)和用戶共同努力去解決。平臺(tái)方需要不斷更新自己的敏感詞庫，不斷訓(xùn)練機(jī)器學(xué)習(xí)的能力；同時(shí)產(chǎn)品也需要一些忠實(shí)用戶進(jìn)行反饋，經(jīng)平臺(tái)人工審核后發(fā)布并調(diào)整敏感詞庫內(nèi)容。但是這些操作行為在時(shí)間成本上的消耗是巨大的，用戶互動(dòng)時(shí)的即時(shí)性很難延續(xù)下去。

03.如何在命中敏感詞時(shí)優(yōu)化用戶體驗(yàn)？

對(duì)于審核機(jī)制體驗(yàn)的優(yōu)化，實(shí)際上需要從技術(shù)和設(shè)計(jì)兩方面共同協(xié)調(diào)，才能給用戶“無感”的用戶體驗(yàn)，即便內(nèi)容被策略限制，互動(dòng)的體驗(yàn)和行為仍然能夠延續(xù)。

1. 技術(shù)上

首先是對(duì)自身敏感詞庫內(nèi)容的不斷優(yōu)化、補(bǔ)充、升級(jí)，不斷優(yōu)化補(bǔ)充新的詞匯，例如可嘗試補(bǔ)充詩歌詞匯、常用詞組等過濾機(jī)制；

其次需要對(duì)提升機(jī)器學(xué)習(xí)能力，主要是增強(qiáng)機(jī)器的語義理解能力，提升對(duì)場景識(shí)別、上下文識(shí)別的能力，從而在根本上減少對(duì)敏感詞的“誤識(shí)別”，為人工審核緩解更多壓力。

2. 設(shè)計(jì)上

內(nèi)容審核是硬性要求，任何互聯(lián)網(wǎng)產(chǎn)品都是要遵循，但是這并不等同于簡單、粗暴地限制、禁止用戶，設(shè)計(jì)上需要通過更加友好的方式，為用戶的內(nèi)容生產(chǎn)流程創(chuàng)造更加良好、充滿安全感的體驗(yàn)。無論平臺(tái)的審核機(jī)制如何，在反垃圾策略下，對(duì)于用戶體驗(yàn)的優(yōu)化思路的共通的，都需要將控制感歸還給用戶，維護(hù)用戶與產(chǎn)品之間的信任感，不能將所有的責(zé)任轉(zhuǎn)嫁給用戶就結(jié)束了。

審核的流程目前主要分兩種策略，對(duì)于時(shí)效性較高的產(chǎn)品，往往采用先發(fā)后審的機(jī)制，用戶發(fā)布的內(nèi)容通過機(jī)器過濾后可以立即發(fā)布，同時(shí)其他用戶可見，人工審核在發(fā)布后進(jìn)行；相對(duì)應(yīng)的另一種就是先審后發(fā)，通過機(jī)器過濾、人工審核流程后再發(fā)布出去。

兩種策略機(jī)制的差異點(diǎn)在于用戶內(nèi)容是否會(huì)即時(shí)發(fā)布，而讓用戶產(chǎn)生疑惑和壓力的環(huán)節(jié)，主要出現(xiàn)在先發(fā)后審的機(jī)器過濾環(huán)節(jié)。從用戶行為路徑去分析可以看到，大部分流程的阻斷和干擾都出現(xiàn)在了敏感詞被識(shí)別后，機(jī)器往往未給用戶提供可選擇的解決方案，告知用戶下一步應(yīng)該怎么做才是對(duì)的，符合要求的，只是將用戶內(nèi)容擋在紅線以外，用戶的發(fā)布流程被阻斷，原本的發(fā)布路徑斷開，這就導(dǎo)致用戶在這個(gè)流程中陷入“進(jìn)退兩難”的境地。

因此，關(guān)鍵的設(shè)計(jì)優(yōu)化思路在于給用戶創(chuàng)建新的閉環(huán)操作，讓用戶能夠順暢解決當(dāng)前面臨的問題。在實(shí)際操作上可以借鑒VUI設(shè)計(jì)思路，當(dāng)路徑上出現(xiàn)新的阻斷造成缺口時(shí)，應(yīng)該圍繞任務(wù)建立新的閉環(huán)路徑，將用戶重新引導(dǎo)至核心路徑中來，從而流暢完成內(nèi)容生產(chǎn)流程，優(yōu)化產(chǎn)品體驗(yàn)。

（圖片來源：筆者自繪）

（1）敏感詞內(nèi)容提示

直接告知用戶命中的敏感詞內(nèi)容，直觀提示用戶修改，避免用戶陷入疑惑；

（圖片來源：筆者自繪）

（2）內(nèi)容替換

可在發(fā)布前或者發(fā)布結(jié)果中將敏感詞內(nèi)容替換為可發(fā)布內(nèi)容。在這里可以進(jìn)行進(jìn)一步的延伸，例如允許用戶自主選擇或者隨機(jī)替換方式，這樣既可以正常發(fā)布內(nèi)容，又可以強(qiáng)化情感化體驗(yàn)。但是需要注意的是，這種主動(dòng)提供替換方案的方式存在一定的業(yè)務(wù)風(fēng)險(xiǎn)，設(shè)計(jì)方案中還是需要評(píng)估使用。

（圖片來源：筆者自繪）

（圖片來源：筆者自繪）

（3）自動(dòng)屏蔽打碼

與內(nèi)容替換結(jié)果比較類似，只是在用戶發(fā)布過程中不會(huì)詢問用戶，發(fā)布結(jié)果自動(dòng)針對(duì)敏感詞進(jìn)行屏蔽處理，不影響用戶正常發(fā)布流程；

（圖片來源：筆者自繪）

（4）僅自己可見

用戶可以正常發(fā)布內(nèi)容，但如果內(nèi)容涉及敏感詞，機(jī)器識(shí)別后可將當(dāng)前內(nèi)容進(jìn)行降權(quán)和假寫處理，僅用戶自己可見，其他用戶不可見，隨后繼續(xù)進(jìn)行人工審核處理。

04.小結(jié)

反垃圾策略是互聯(lián)網(wǎng)產(chǎn)品內(nèi)容凈化的必要屏障，是給用戶呈現(xiàn)健康內(nèi)容生態(tài)的重要環(huán)節(jié)。但是在策略的實(shí)現(xiàn)上，大部分產(chǎn)品的解方案往往普遍簡單粗暴，更多操作流程及體驗(yàn)細(xì)節(jié)需要設(shè)計(jì)師進(jìn)一步優(yōu)化，從產(chǎn)品、業(yè)務(wù)形態(tài)及審核流程出發(fā)，在全局視野下優(yōu)化體驗(yàn)，主動(dòng)承擔(dān)起企業(yè)責(zé)任，而不是將所有的“誤”發(fā)內(nèi)容的責(zé)任全部甩鍋給用戶。

#專欄作家#

蝦米&胖喵，微信公眾號(hào)：pangmiaodesign，人人都是產(chǎn)品經(jīng)理專欄作家。資深交互/產(chǎn)品設(shè)計(jì)師，夫妻搭檔，貓奴。曾就職百度/愛奇藝，目前專注于電商、商業(yè)化方向的產(chǎn)品體驗(yàn)設(shè)計(jì)。“有貓，就有一萬種美好！”

本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來自 unsplash，基于 CC0 協(xié)議