小伙伴们应该知道,我不是有在 B 站做视频嘛,最开始还想着做一个半月更的 UP 主,结果努力到现在,刚刚成为一个月更 UP 主。
从写文章到做视频,真的感觉一入视频深似海,回炉重造半个月,不单单是文案,还要时刻考虑视频画面,而且当我想要发布时,有些地方过不了 B  站审核是最让我难受的。
当然吐槽归吐槽,我也能理解 B 站的严审核,无论是内容创作者本身,还是平台方,都要严守网络红线,如果不加以审核,不加以控制,乱开车的老司机分分钟就能搞炸平台。
不过身为一个倒腾软件的公众号主,我是挺好奇 B 站审核机制,毕竟按去年的数据说,月活 UP 主都有 270 万+。
海量且实时的视频不可能一口气都交给人工审核,肯定有机器帮忙初选,所以我去了解了一下机器审核背后的原理。
在 6 月 28 日腾讯 Techo Day 技术开放日的直播里,就有提到视频审核的东西,原理嘛,嗯,相当麻烦。
视频审核大体上分两支,一个是图像,一个是音频——
图像相当于从视频中抽帧,然后对画面进行人脸识别、人体识别,图标识别、OCR 文本识别等操作。
音频也要进行违禁歌曲识别、声纹识别、娇喘识别、情绪识别等操作。
换句话说,非大厂不可玩,那大厂有没有能让我们体验使用的现成工具呢?去腾讯云官网一瞅,发现有现成的体验入口。
实话实说,机器审核固然可以鉴别一些明显的色情画面,但问题是,机器的对手可是一群狡猾的老司机,那么多擦边球视频,机器能搞定吗?说实话,我想来挑战一下。
腾讯云机审
我自诩是个身经百战的老司机,印象里的机器审核是远不如人的,画面稍有变化,应该就歇菜了。
不过日本骑兵、步兵的视频咱就不测了,没啥意义,百分百会不通过审核,何况腾讯云视频内容安全识别工具能查出来的东西可相当多:
所以让我们先试一下影视剧里的片段,比如我从《下女的诱惑》里录了 21 秒的视频,里面有一闪而逝下图这样的激情画面。
这里我打码了,测试的原视频是没有打码的,要是不打码估计图都放不出来,如果在视频制作中出现,妥妥的违规画面。
来看看腾讯云表现如何,识别成功。
不仅展示了画面在视频中出现的时间节点,还给出了违规的类型,不过可能只是背影,而无正面,所以腾讯云给出的违规只是「性感」,而不是「色情」。
但不管怎么样,如果制作视频中要用到这个画面,打码或删除是绝对少不了的。
真人可以识别,那动漫人物呢?接着我又从 1987 日本动漫《妖兽都市》中录了个屏,里面足足有 6 处被判定为「色情」画面:
看来不管是真人,还是动漫人物,腾讯云并没有因为画面主题的不同而放松警惕。
顺嘴提一下,我还测了个油管上穿着性感弹钢琴视频,虽然 UP 主并未漏点,但 2 分钟的视频,足足 143 张违规。
刚好我设置的就是每秒抽一帧,看来从头到尾,腾讯云都没有错判一帧图片。
所以你看,机器也并不是那么刻板,不是说没有露点就不违规。
除了色情画面,我看腾讯云还支持审核暴力画面,我干脆找了暴力美学的《杀死比尔》,注意,我还没找原片,而是油管上其他 UP 主的影视二创接说。
按理说二创解说都是筛选后的画面,我看着感觉也没啥问题,但 14 秒的视频片段,腾讯云审核出了 7 张暴恐,1 张违法图片:
暴恐大多是受伤后的血腥场景,能审查出来我并不感到奇怪,真正让我觉得厉害的,是下面这张图:
画面本身没什么问题,被判定是暴恐的,其实是在图片下方的字幕描述中,这就是 OCR 的功劳。
图像识别 + OCR 看来是难不倒腾讯云了,色情音频又如何呢?
我先试了西班牙奢侈两性品牌 Bijoux Indiscrets 所建立的一个高潮图书馆内的油管视频,画面很正常,有问题的是音频中存在羞羞的声音。
腾讯云面对如此不加修饰的音频,自然没有放过,成功识别出两条音频违规。
但这个难度好像太弱了,如果是性暗示的音频呢?我从某音找到了个号称御姐喘声的 ASMR,这种游走在过线边界的视频,能否躲过一劫呢?
很遗憾,不仅图片有违规的风险,音频也难逃法眼。
这下,图片识别 + OCR 识别 + 音频识别,视频审核的三大基石算是测试完了,效果不得不服,无论是画面的裸露、色情、性感,还是文字的暴恐,亦或最后的娇喘,都被腾讯云给拿捏了。
结语
其实测了一圈,相信你也发现了,在强大的机器审核面前,费尽心思弄的那点流量密码,可能只是水中月,不堪一提。
那做视频怎么规避这些风险?你想想看,腾讯云这个服务,不正好用来提前审核嘛,早点在筛选素材时审核一遍,比视频做好了,再被退回要省时省力得多。
哎,说真的,云工具这玩意已经出现在方方面面了,视频审核中的那些技术,不就是前几年当红炸子鸡们的集大成者嘛,在云端服务器搞定,反而更方便。
虽然 6 月 28 日已经过了,但错过直播的小伙伴也不用担心,腾讯把这次活动的课件材料合集整理成《腾讯云轻量级工具指南》。
👆扫码即可获取
从使用 Lighthouse 一键构建云上应用的技术原理解析,到使用 Serverless 云函数快速搭建直播间的实战指导等等,感兴趣的小伙伴,尤其是需要内容风控的内容创作者、网站运营者,扫上面的码,或者点「阅读原文」下载学习下吧。
电报群:wldxh  QQ 群:729224889  网站:wldxh.com
继续阅读
阅读原文