教育產品解決「涉黃」問題究竟有多難？

　　導語

　　近日，「互動作業」App的微信公號「作業小互」被媒體曝光有大量不雅、性暗示的內容，引起了社會的廣泛關注。近些年，因為網際網路行業的高速發展，內容生產的門檻降低，大量優質內容出現的同時，一些「涉黃」等問題內容也隨之而來，這些內容也逐漸滲透到了教育行業，這次的曝光也並不是教育行業首次出現類似的問題，對於擁有內容分發能力的網際網路平台，類似垃圾內容的監管已經是繞不開的問題，我們產生了一個疑問：教育產品解決涉黃的問題究竟有多難？

　　一、

　　「問題內容」為什麼會大行其道？

　　「涉黃」內容這件事其實從網際網路誕生之初就已經存在了，至於這麼多年狀況沒有改變的，是因為人性本身沒有發生改變。

　　1、人性問題。產品的運營方從運營數據的角度來說，這類垃圾內容相比學習內容顯然更吸引眼球，更容易做出高的數據，同時擴大產品的「商業價值」，能夠帶來可觀的曝光量和下載量，拉動人氣和各項數據，因此很多人「鋌而走險」也要一試。但是這裡的增長並不是持久的增長，與產品的目標尤其是教育產品的目標是相違背的。

　　2、「涉黃」邊界模糊難以準確界定。此次被曝光的賬號里充斥著大量低俗及挖苦老師的不良內容，含有「網戀」「污」「早戀」等字眼的標題黨文章被多次推送。在《私底下的你們原來是這樣的人》《現在網戀真的很嚴格，勸大家千萬不要輕易嘗試》等多篇推文的精選留言區中，還出現了「看黃片」、「做愛」等字眼。負責人稱：「內容不算涉黃，仁者見仁」，「成人看沒問題，只是不符合青少年。」沒有明確的法律界定給後續的事件處理上帶來了很多的困難。

　　3、監管鬆懈、處罰力度不足。從監管方面來說，通常情況下較為後置，歷次的教育產品涉黃事件中，都是在媒體曝光之後，監管機構介入。然而處罰力度並不高，通常情況下僅僅是暫時封號和小額罰款了事，違法成本很低。《治安管理處罰法》第六十八條 製作、運輸、複製、出售、出租淫穢的書刊、圖片、影片、音像製品等淫穢物品或者利用計算機信息網路、電話以及其他通訊工具傳播淫穢信息的，處10日以上15日以下拘留，可以並處3000元以下罰款；情節較輕的，處5日以下拘留或者500元以下罰款。《網際網路站禁止傳播淫穢、色情等不良信息自律規範》也做了相關規定，但是其法律效力和處罰力度也稍顯不足。

　　二、

　　人工還是機器？如何解決涉黃問題

　　似乎大家現在已經達成了共識，解決內容審核的問題一定是要依靠機器+人工的方式。說到如何解決「色情」「暴力」等垃圾信息，今日頭條應該是最有經驗的公司之一了，今年5月的一場大會上，今日頭條媒體合作總監潘宇介紹了目前頭條的情況：23000名員工的今日頭條，其中10000人是負責內容審核的，也就是說，頭條組建了一個龐大的審核團隊，7乘24小時不間斷監控、審核，具體到每一幀的畫面，以及各種評論內容，營造符合社會主義核心價值觀的正能量生態。同時還包括了400人的人工標註團隊，提升演演算法效率。

　　我們了解到，人工審核的遺憾在於效率，頭條每天50萬條內容全部交由人工來篩的話，一個人需要工作500天才能看完，機器則只需要90分鐘。此外，內容審核工作的主要難點在於邊界。在一定程度上，對於低俗低質內容的判定，人工操作有主觀性，而機器也存在局限性，識別容易「一刀切」。

　　當前人力成本居高不下，對於一個教育網際網路公司可能還沒到100人，幾乎不可能再組建一支近百人的審核團隊，另外從產品角度來講，它是希望有更多的用戶和活躍度的，嚴厲的審核標準可能一定程度上會影響產品的發展。因此基於這兩個角度考慮，產品本身解決涉黃內容的意願並不會那麼強烈。甚至一定程度上縱容此類內容的發展，就會出現文章一開始這樣的情況。

　　在網際網路行業中，並不是沒有通過「灰色地帶」「打擦邊球」迅速起來規模，後期進行洗白轉型成功的案例。然而在教育行業是決然不可能行得通的，你的教育屬性決定了家長不會給你第二次機會傷害他的孩子，原罪是難以洗白的。