自從彈幕視頻網站Acfun和Bilibili的興起之后，國內很多視頻平臺甚至直播平臺紛紛加入了實時彈幕功能，現(xiàn)在對于經常在網上看視頻的朋友而言，在視頻中看到彈幕，或自己看視頻時發(fā)點心情彈幕，已經是習以為常的事，甚至有些人專門喜歡看視頻中吐槽的彈幕，還會通過實時發(fā)布的彈幕與別人相互交流，因此說視頻中的彈幕，其實已經成了視頻內容的一種重要組成部分。
盡管優(yōu)質的彈幕將屏幕前的觀眾聚集在了一起，但是很多無意義甚至惡俗的彈幕內容也極大地破壞了用戶體驗。短時間內瘋狂涌入的彈幕可以表一個視頻的熱門程度，但同樣也給屏幕前的觀眾帶來了困擾。因此各大彈幕視頻網站都在采用“關鍵詞過濾+人工審核”的方式來監(jiān)管彈幕內容。各大視頻網站都有自己的屏蔽詞庫，比如愛奇藝就有自建的監(jiān)測工具”愛奇藝大腦“，根據(jù)彈幕的關鍵詞進行屏蔽。
2018年8月，《北京青年報》在《順風車司機直播女乘客牟利》一文中寫到，” 有順風車司機邊接單邊在虎牙平臺上直播，且專選女性乘客。整個直播過程中，女乘客并不知道自己正在被看客‘圍觀’，也不知道直播間滿屏都是污穢不堪的留言。“此后，彈幕文化下，低俗的彈幕內容對于網絡環(huán)境的負面影響日益引起重視。
近日，中國網絡視聽節(jié)目服務協(xié)會發(fā)布《網絡短視頻平臺管理規(guī)范》和《網絡短視頻內容審核標準細則》，再次重申彈幕進行”先審后播“的重要性，但這對于視頻和直播平臺來說，無疑是一個巨大考驗。據(jù)小葫蘆直播平臺統(tǒng)計，2018年全年全平臺直播彈幕條數(shù)就達到了452億條。而截止到今天(3月7日)下午三點，虎牙和斗魚兩個平臺的彈幕條數(shù)已經分別達到了1430萬條和1015萬條。
這樣龐大的彈幕條數(shù)，和更加堅決的監(jiān)管政策，也促使平臺方不斷優(yōu)化過濾規(guī)則。常見的處理方式有敏感詞攔截、詞庫過濾和違規(guī)用戶屏蔽。而Acfun和Bilibili還在前端頁面為用戶開放了通過正則表達式屏蔽彈幕的功能，這種規(guī)則引擎也可以應用在全平臺的彈幕管理中。由于詞庫攔截的方式相對滯后和刻板，各個平臺也逐漸擴大人工審核團隊來完善審核，字節(jié)跳動公司提出將現(xiàn)有6000人運營審核隊伍再度擴大至總人數(shù)1萬人，快手宣布將審核團隊從2000人擴大至5000人。
然而盡管人對于價值觀的辨別、社會局勢的把握、大事件的捕捉要遠遠強于機器，但卻免不了有疲勞疏忽的時刻。熱門直播?瞬間爆發(fā)的彈幕容易讓內容審核員應接不暇，也很難在15秒內做出準確判斷，因此讓現(xiàn)在更加成熟智能的機器審核輔助審核員顯得尤為重要。
隨著近年來數(shù)據(jù)挖掘的迅速發(fā)展，文本挖掘也開始受到重視，逐漸應用到垃圾信息處理中。通過文本分詞、詞性標注、句法結構分析、詞位置分析等手段，結合大數(shù)據(jù)的算法實現(xiàn)對垃圾彈幕、涉黃涉政彈幕的分析識別也是未來彈幕管理的大方向。
以在業(yè)內知名的人工智能公司圖普科技為例，此前依托圖像識別技術，圖普科技為眾多直播、短視頻平臺提供了圖像視頻的內容審核。但是正如之前順風車司機接單直播視頻所表現(xiàn)出來的，單一的圖像審核維度并不能完全評價用戶的內容是否符合規(guī)范，彈幕文字也是考量因素之一，因此，圖普科技便研發(fā)了文本內容審核的功能，利用全天候響應速度快的機器識別，從圖像和文字兩個維度對用戶內容進行審核，?既保證了審核的及時性和準確性，又能減輕內容審核員的負擔。可以說現(xiàn)在人工智能充當了網絡環(huán)境的掃地機器人，幫助內容審核員凈化網絡環(huán)境，帶給用戶更好的體驗。
對于視頻直播平臺來講，想要保證用戶粘度，內容體驗永遠是根本。既要在市場和用戶的監(jiān)督下做好內容審核的工作，避免踩到紅線，又不能因此犧牲用戶體驗，阻止彈幕文化的發(fā)展，因此不斷優(yōu)化審核技術，引入基于自然語言處理的智能文本審核，或許將是平臺方們的必經之路。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
