对象存储 COS 推出一站式内容审核服务,助力打造绿色互联网

今年,国家网信办深入推进“清朗·春节网络环境”专项行动。截至3月24日,网信办共累计清理相关违法违规信息208万余条,处置账号7.2万余个,协调关闭、取消备案网站平台2300余家。

可以预见的是,国家网信办严打违法违规信息会成为常态,网络安全政策更是一年比一年严格,企业约谈、整顿、罚款、关停的案例已经屡见不鲜。那互联网企业要如何做好内容风控呢?

为了解决数据内容安全问题,腾讯云对象存储 COS 推出了一站式内容审核,提供了包含图片、视频、语音、文字等全品类数据的内容安全智能审核服务,帮助用户有效识别色情低俗、违法违规、恶心反感等违禁内容,协助用户建设绿色健康的平台环境。

COS 内容审核依托于具有20年数字内容安全运营经验的腾讯安全服务,可以为企业提供成熟的云上内容审核解决方案。企业仅需1人进行代码维护,1人定期审查审核结果是否有异常,即可享有高达每日10亿次的审核处理集群,且内容识别准确率高,可覆盖上百的审核场景,还能为企业节省90%的成本投入

服务架构

1、快速接入

支持 API 调用与控制台配置,可视化页面操作,无需开发,帮助您快速接入使用。

2、覆盖全面

支持图片、音频、语音、文本等多种媒体数据的审核,覆盖各个行业上百种违规类型,具有模型丰富的机审和专业的人工复审团队。

3、功能丰富

支持增量、存量数据审核,可通过可视化页面或指定回调地址查看审核结果,违规数据自动冻结,审核增量内容自动触发。

4、高效可用

依托 COS 提供毫秒级响应、每秒万级并发,支持动态扩容,灵活应对高并发场景。

覆盖全品类数据审核

1、图片审核

采用前沿的图像识别算法,结合海量的违规图像数据进行训练建模,覆盖度广、识别准确率高、召回率高,并实时跟进监管要求,不停地更新审核服务的识别标准和能力。图片识别场景包括:

  • 色情:识别多种涉黄违规类型的图片,如色情漫画、涉黄图片等
  • 广告:识别多种形式的广告图片,包括网络小广告、微商商品图片、招嫖广告等
  • 违禁:识别多种违法违规内容,包括抽烟吸毒、赌博、打架斗殴等

2、视频审核

利用视频截帧能力将视频帧进行图片审核,可自定义截帧频率,有效降低视频审核成本。审核的结果可在控制台可视化展现,还支持视频违规自动或手工冻结,拥有和图片审核一致的识别场景。

3、音频审核

使用前沿语音识别算法构建的语音识别(ASR)引擎,能够对语音的内容进行转译处理,识别违规内容包括色情、广告、低俗、灌水等。并能结合音频特征识别技术,准确识别低俗语音(呻吟、娇喘、ASMR)等违规内容。还兼容各种地方口音的普通话,高效协助用户审核处理视频直播、语音直播或对话等场景产生的音频数据。

4、文本审核

采用前沿的自然语言处理算法,结合海量的敏感关键词库进行建模,并配置有多种预处理和匹配识别规则,快速准确识别各种变形文本,例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语,可有效过滤违规数据,打造快速、高质、稳定文本审核服务。

使用形式多样

1、增量审核

在控制台上直接通过选项、开关的形式进行审核的配置,配置完成后当文件上传到存储桶内时,将自动进行审核。还可以配置自动冻结策略,当审核到违规数据时,自动冻结数据进行打击,快速保护业务安全。此外,可以通过配置回调规则,在审核完成时,自动发送回调,到指定地址来进行下一步的业务操作。

2、存量审核

在控制台创建内容审核任务,针对指定的存储桶或存储桶内的目录前缀进行大规模批量的数据审核。因审核算法在不断的更新,国家监管政策也在不断的更新,定期的数据审核可以有效防止审核中的漏网之鱼,应对监管监督。

3、通过 API 调用

通过调用内容审核的 API 接口,用户可以实现对存储桶内指定的文件进行涉黄、广告引导等内容的检测。

COS 内容审核场景适用于众多行业,尤其是社交平台、在线教育、电商平台以及游戏行业,这些行业都具有数据多,增长快,数据类型广泛的特点,对数据审核的覆盖性、准确性、高效性都有极高的要求。而 COS 内容审核的多违规类型覆盖、增量数据自动触发审核、审核秒级响应、场景化定制完全可以满足所有审核场景。

posted @ 2021-04-16 18:08  云存储小天使  阅读(31)  评论(0编辑  收藏  举报