岳陽(yáng)依賴的小紅書(shū)KOC種草，我們是一家集企業(yè)品牌營(yíng)銷(xiāo)策劃咨詢、互聯(lián)網(wǎng)整合營(yíng)銷(xiāo)推廣、短視頻營(yíng)銷(xiāo)推廣、高端小程序制作、網(wǎng)站開(kāi)發(fā)、品牌形象設(shè)計(jì)為一體的專業(yè)化機(jī)構(gòu)，多年來(lái)我們一直專注于中小企業(yè)的品牌打造、互聯(lián)網(wǎng)營(yíng)銷(xiāo)推廣領(lǐng)域。
強(qiáng)監(jiān)管下的自我審核一直以來(lái)，內(nèi)容平臺(tái)涉黃涉的問(wèn)題都是平臺(tái)審核和政策監(jiān)管的“重災(zāi)區(qū)”。2019年6月，國(guó)家網(wǎng)信辦曾對(duì)吱呀、Soul、語(yǔ)玩、一說(shuō)FM等26款違法違規(guī)音頻平臺(tái)，分別采取約談、下架、關(guān)停服務(wù)等階梯處罰。
但是，如果不是有組織大批量的賬號(hào)行為，可能就需要人工審核或其它監(jiān)測(cè)的平臺(tái)來(lái)輔助。目前各平臺(tái)采用的多是系統(tǒng)攔截加人工的方式，有規(guī)則、黑名單、人工智能風(fēng)控，也有人工審核，者結(jié)合進(jìn)行欺詐信息和不良內(nèi)容的清洗。除了技術(shù)因素之外，平臺(tái)的主觀選擇也是一大重要因素，很多社交平臺(tái)存在涉黃問(wèn)題，但如果不打擦邊球，平臺(tái)活躍度可能降低。所以，在審核上，一方面黑產(chǎn)組織在不斷與規(guī)則作斗爭(zhēng)，開(kāi)發(fā)新模式，再加上用戶數(shù)巨大，技術(shù)加人工的審核難度依然不小，另一方面，平臺(tái)在權(quán)衡內(nèi)容和活躍度的時(shí)候，也要做出取舍。
網(wǎng)易云音樂(lè)、荔枝FM、企鵝FM、喜馬拉雅、右、探探等APP也在今年經(jīng)歷了下架。2018年4月，快手、火山小視頻安卓版APP也曾被下架整改，要求全面清查庫(kù)存節(jié)目，對(duì)低俗、暴力、血腥、色情、有害節(jié)目立即下線。內(nèi)容社區(qū)不斷的自我審核與外部監(jiān)管并存基本成為常態(tài)。強(qiáng)監(jiān)管之下，對(duì)于內(nèi)容平臺(tái)的審核能力提出了更高要求，一些企業(yè)也探索了新的方式。張一鳴曾發(fā)道歉信表示強(qiáng)化總編輯責(zé)任制，全面糾正算法和機(jī)器審核的缺陷，不斷強(qiáng)化人工運(yùn)營(yíng)和審核，將6000人的運(yùn)營(yíng)審核隊(duì)伍擴(kuò)大到10000人。除了通過(guò)內(nèi)容質(zhì)量中心嚴(yán)把內(nèi)容質(zhì)量關(guān)外，今日頭條還建立了打擊低俗的人工智能小程序“靈犬系統(tǒng)”，輸入文字或文章鏈接，系統(tǒng)即可檢測(cè)內(nèi)容質(zhì)量指數(shù)，并給出算法模型的鑒定結(jié)果，配合人工審核進(jìn)行內(nèi)容質(zhì)量把控。
除了建立自己的風(fēng)控體系之外，一些也會(huì)去找第方合作。為各類(lèi)平臺(tái)提供審核服務(wù)的從業(yè)者江洋對(duì)燃財(cái)經(jīng)表示，人工審核和機(jī)器審核相輔相成，有一部分機(jī)器不能攔截到的東西，通過(guò)人工去提供一些標(biāo)簽，算法就可以去驗(yàn)證，同時(shí)捕捉到跟這個(gè)賬號(hào)有關(guān)聯(lián)的群組和賬號(hào)，這樣效率會(huì)更高。即使企業(yè)大力審核，各類(lèi)APP仍然難逃被下架的命運(yùn)。那么，內(nèi)容審核難在哪兒？有哪些新模式與技術(shù)應(yīng)用在審核上？江洋告訴燃財(cái)經(jīng)，目前審核方面的技術(shù)已經(jīng)經(jīng)歷了個(gè)階段。代審核解決方案以名單類(lèi)（如黑名單）等方案為主，技術(shù)上比較簡(jiǎn)單，建立基于數(shù)據(jù)的名單，根據(jù)一些關(guān)鍵詞，并通過(guò)大數(shù)據(jù)AI技術(shù)收集數(shù)據(jù)名單中的有效信號(hào)，攔截相關(guān)信息。
比如可以設(shè)置一個(gè)賬號(hào)發(fā)廣告不能發(fā)超過(guò)50條，到第51條賬號(hào)就會(huì)被封。第始了機(jī)器學(xué)習(xí)，或者說(shuō)有監(jiān)督的機(jī)器學(xué)習(xí)。即給風(fēng)控案例或數(shù)據(jù)做一些標(biāo)簽，通過(guò)各種機(jī)器學(xué)習(xí)的手段，把它固化成模型，通過(guò)不停的迭代，做風(fēng)控和反欺詐方面的決策。