如何對短視頻平臺違規內容巡查？

根據視頻內容分類巡查：短視頻平臺上對各類視頻內容進行了分類，如生活記錄類、知識傳播類、新聞報道類、個人直播類，根據所需監測的類別進行查找，對所查找收集的視頻內容信息進行巡查監測。

根據搜索關鍵詞巡查：監管單位可通過在短視頻平臺搜索框輸入所需巡查的信息作為關鍵詞進行檢索，對搜索出來的短視頻內容逐個進行巡查，篩選和排查違規的視頻內容信息。

內容巡查的標準

系統配置標準，支持圖文集合

系統平臺可配置相關文字巡查標準，同時也支持上傳圖片形式的標準

手機端查看巡查要求，圖文并茂

巡查人員巡查過程中可通過手機查看巡查要求，能有效落實標準要求，指引巡查人員具體工作過程。

查看時序圖

可按巡查點位簽到時間顯示巡查計劃時序圖，并根據顏色的區分簽到、未簽到、結果異常和跳過顯示巡查點。

不斷擴招的后顧之慮

綜合各路媒體報道來看，字節跳動內容審核員已擴招超2萬人，快手、B站、騰訊等各平臺也分別有數千人。整體不到十萬數量級的內容審核員，在面對數億人民產生的倍量內容時，互聯網秩序的維護者們也顯得有些力不從心。

內容審核員就如“互聯網保安”，24小時在文本、圖片、音頻、視頻的不間斷“巡邏”，攔截那些黃色、低俗、涉政、廣告等違規內容，如果攔截不及時，隨時就可能上演“全民知曉”的內容安全事故。而長期熬夜、身體紊亂、長期面對黃色、低俗等內容，對審核員的精神，心理，造成非常大的損傷。

國內外已有不少從業者受到類似困擾，輕則“惡心到吃不下飯”，“晚上做噩夢”，嚴重的心理創傷，甚至可以讓人變得麻木和暴躁，越來越具有攻擊性，甚至有審核員猝死。

可以說，當前依靠人工審核來控制內容合規安全，已達到較高負荷的狀態。

那不斷擴大審核團隊規模，就可以“后顧無憂”嗎？顯然這已不再是較優解。眼下還是平臺可以增加人力成本，擴招人工、“少賺一點”的階段，但作為企業，都會在成本和收益之間想達到一個平衡。

如果單純把內容風險控制當成一件純技術性的事情，或者說只認為是企業的成本負擔，不能創造收益。那企業只需要準備大量訓練數據，一些判斷模型就可以直接拿來用，甚至還可以拿出去做成生意。但真正經歷過內容安全痛苦的企業就會知道，內容風險控制掌握著企業發展的命門。

海量的內容，在人工之外如何做好內容的合規和安全？現已成了所有內容相關企業繞不開的話題，而內容風險控制細分領域頭部玩家們，也瞄準了貼近人類思維的AI內容審核機制的算法研究。