YouTube加入「違規影片收視率」指標，用AI遏止色情、暴力影片散佈

YouTube 一直以來都十分謹慎審查上傳到 YouTube 上的影片，避免色情、暴力、騷擾或是仇恨言論等影片散播，大部分的情況下 YouTube 是透過人力搭配技術來標記不適當的影片，不過因為疫情影響，目前暫時是透過技術來協助人工審查。

但這樣做可能導致 YouTube 誤判而刪除不違反 YouTube 政策的內容，對此，YouTube 持續持續研擬不同的方式來更精準的判斷違規影片。

▲ YouTube 每季公佈「社群規範違規處置報告」，透明化 YouTube 移除的違規內容資訊，從推出這份報告以來，已經有 8 千 3 百萬部影片和 70 億則留言因違反《社群規範》而遭到移除（圖為 2020 年 Q4 遭移除的影片數量以及發現的方式）。

新增「違規影片收視率」準則

自從 YouTube 從 2017 年大力投資機器學習技術之後，目前 YouTube 已經可以利用自動檢舉功能偵測出 YouTube 上 94% 的違規內容，而當中有 75% 的影片在觀看次數不到 10 次之前便會遭到移除；今天 YouTube 將加入「違規影片收視率（Violative View Rate）」 這項全新的數據指標，用更加透明的方式向使用者呈現系統的成效。

簡單來說，違規影片收視率協助 YouTube 判斷 YouTube 上違規內容的觀看次數所佔比例。

YouTube 團隊從 2017 年便開始在公司內部追蹤這項數據，這是評估 YouTube 是否盡責處理平台內容的重要指標。在持續投資人力與技術下，發現違規影片收視率逐漸下降。

最新的違規影片收視率介於 0.16% 到 0.18%，表示在 YouTube 上每一萬觀看次數中，有 16 到 18 次觀看了違規內容。與 2017 年同一季相比，違規影片收視率下降了超過 70%，這個成果主要歸功於 YouTube 所投資的機器學習技術。

新增「違規影片收視率」的好處在於，有助於減少違規影片影響的觀眾數量，也就是讓觀眾減少看到違規影片的機率。

舉例來說，某部違規影片累積了 100 次觀看次數，但出現在平台上的時間超過 24 小時；另一部影片在發布後數小時就已觸及數千位觀眾，然後才遭到移除，以影響範圍來說，後者影響較大，因此導入「違規影片收視率」就可以幫助 YouTube 找出更多這樣的影片。

YouTube 會對平台上的影片進行抽樣並計算違規影片收視率，再將結果傳送給內容審查專員，他們會判斷哪些影片確實違反政策，哪些則否。藉由抽樣調查，我們可以更全面地瞭解系統無法偵測出的違規內容。

YouTube Trust & Safety 總經理 Jennifer Flannery O’Connor 表示，YouTube 團隊會持續檢視及更新政策、與專家攜手合作，並公開說明違規處置的工作進展。我們致力於落實前述改進措施，避免違規內容在 YouTube 上出現，如此對觀眾、對我們的業務都有幫助