By 超神经
内容概要：YouTube、Facebook、Twitter 等社交平台一直在花大力气进行内容审核，尤其是使用机器学习技术逐步替代人工。但近期 YouTube 决定暂时叫停这一推进，返聘年初解雇的人工审核员。
关键词：内容审核 机器学习
YouTube 在今年初，将内容人工审核团队大量裁撤，全部替换成为 AI 进行内容审核。
所以，今年 4-6 月整个第二季度里，YouTube 线上的所有视频，都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度，没有人工审核员参与内容初审。
这一大步跨越，带来了不小的后果，YouTube 在近期叫停这项举措，并且大批返聘在年初解雇的人工审核团队。
AI 替换人工：下架视频数创纪录
AI 审核被叫停的重要原因之一，就是 AI 审核的规则相较于人工，更为严格，甚至会导致误伤。
根据 Google 在定期的透明度报告中提到：在 2020 年 AI 接管内容审核的 4-6 月中，共有 1100 万个视频被 AI 标记违规并下架，这些视频主要来自于美国、印度和巴西。
但是，在今年的第一季度里，被鉴定违规并下架的视频，仅仅只有 660 万。而 从人工换成 AI 之后，被下架的视频数几乎翻了一番。
因为 AI 审核遭下架的视频，占全部下架视频的 95%
（数据来源：Google 官方透明度报告）
在被 AI 下架的 1100 万个视频中，多数为色情、虚假、涉恐犯罪类型，但是也有不少是误伤。
其中，就有 32 万个被 AI 标记下架的视频提出了申诉，最后近半数都通过二次审核，并重新上线。而在过去，进行申诉的视频，只有 25% 左右可能重新上线。
YouTube 的审核 AI，以一己之力，让 YouTube 的播主们瑟瑟发抖，花更多时间自查内容，一时间怨声载道让 YouTube 头疼不已；大量的申诉，还给 YouTube 团队，增加了不少重新审核的工作量。
人工再上位：时机尚未成熟，AI 仍需努力
在年初 YouTube 裁减人工审核团队前，全职或外包的审核岗位多达 10000 个。
这些人工审核员分布在 Google 的全球办公室，或是外包供应商的各个办公点。
万人团队：巨大运营成本
人工审核员的岗位要求并不低，比如要负责中东地区的内容审核岗位，需要掌握阿拉伯语和阿拉伯方言语系，并对中东地区上传视频进行审核，以便及时标记出涉及恐怖、暴力、煽动内容的视频。
这样的工作，每周需要审核 500 小时以上的视频，初级岗位的薪水可以达到 18.5 美元/小时，年薪可达 37000 美元左右。
再资深的内容审核岗位，需要掌握一些的法律知识，不仅能得到 Google 全职员工的待遇，还可以获得近 100000 美元的年薪。
从菲律宾的青年外包工人，到湾区的风控运营，
都在内容审核中发挥着重要作用
风光的背后，Google 也同时在承担着不小的成本，这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。
这次返聘 YouTube 也提及：疫情让人工审核成本变高、难度加大。当初迫不得已，必须在人工干预不足和 AI 过度干预两者之中，选择了 AI。
人工审核：边缘职业身心俱疲
内容审核不是一份简单的工作，不仅每周有固定的工作指标，还要长时间面对儿童色情、暴力、恐怖类型的画面，往往也会让人身心俱疲。
《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业，做出过深度报道。接受采访的内容审核员，无一例外都表达了这份职业，对自己的身心健康产生了强烈的负面影响。
《财富杂志》用带着防毒面具的审核员，
比喻审核工作给人带来的心理创伤
媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善，比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。
人工还是 AI：不用着急下定论
人工审核的支出、对人心理的伤害、机器学习的技术进步，这些都推动了近年各平台对自动化内容审核的研究和快速应用。
AI 虽然有一定的误伤几率，但是在对违规内容的审查中，的确展现了超过人工审核的高效。
YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时，提到了一组数据「被 AI 标记删除的 1100 万个视频中，超过 50% 的视频，在没有用户播放前就被下架；超过 80% 的视频，播放 10 次以内就被下架。」
YouTube 作为大规模用 AI 代替人工的先行者，势必会踩坑，但同时也为其他公司甚至全社会，指明了人与 AI 协同关系中更加清晰的发展方向。
这样的实验虽然折腾，但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据，也让媒体和社会在接受未来的不确定性，有更多的共识和信心。
谁知道写文章的我，是不是个 AI 呢？
参考来源：
The Verge：《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》
Fortune：《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》
华盛顿邮报：《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》
Wired：《As humans go home, Facebook and YouTube face a coronavirus crisis》
—— 完 ——
