广东智能app内容巡查重要性承诺守信「在线咨询」理科实验班

移动app内容巡查介绍

移动APP作为时下便捷的用户信息延展平台，内容监管平台可为移动应用开发商提供内容过滤方案，避免用户在开发的APP中发表不当言论，规避监管风险，带来安全价值。

针对业务系统包括APP中的文本、图片、音频和视频等信息进行安全检测和过滤，结合国家监管政策要求，提供对内容的涉政、违禁、广告等风险内容过滤审核。

被忽视的内容安全，App领域成了重灾难区

近年来，各类互联网企业接连不断因内容违规问题被罚。企业有意自查，对内容进行把控，却处处是难题。行业到底怎么了？或者，更多想问的是我们的内容安全屏障到底怎么了？

各家互联网平台都不约而同地开始升级风险管控力度，预防网暴能力，新上线“风险提醒”“发文警示”等功能，整治不当私信和不当评论，推动形成预防网暴的合力。

在加强风险管控的背后，是网暴已达到猖狂的程度。就拿近期的案例而言，上海姑娘因打赏外卖员200元被网暴跳楼；19岁女孩直播中被怂恿喝农作物药品，类似事件则多次被推上热搜，而这只是互联网内容安全问题的冰山一角。

今年3月份，人民日报连发三篇评论斥责网暴。更早之前，中央网信办也开展了“清朗·2022年春节网络环境整治”专项行动，其中重点整治任务中，排在首位的就是“网暴、散播谣言等问题”，包括借疫情、社会热点事件等挑动，进行人肉搜索、攻击等情况。

针对此次专项行动，中国信通院与网易、博特智能等企业在2022年也完成了面向互联网信息服务类企业的《内容审核体系成熟度评估规范》，该规范将能帮助互联网信息服务类企业全方面梳理内容安全体系，及时查漏补缺，协助互联网信息服务类企业开展“自查自纠”。

就在近期，中国信通院再次牵头会同阿里、网易、中国移动、博特智能、YY直播、映客直播等互联网信息平台、机器审核服务商，召开了内容审核机审能力调研会，重点对互联网信息平台在文本、图片、视频、音频领域的机审能力进行了深入调研，将为国家有关部门开展后续规范工作提供科学依据。

这也预示着内容安全领域的相关行业标准即将出台，平台对展示用户内容的审核负责任，将被正式规范约束。

智能内容处理市场需要奇才

根据报送资料显示，博特智能的App内容巡查系统，采用自动化控制技术与检测能力，在面向动态的违规信息和实时更新的UGC内容监控中，可以实现24小时对页面进行抓取，进行抽样专项巡查或者全量巡查，批量清理违规数据。在App端，则不需要让企业推送数据，并能生成巡查报告，可以及时向企业发出漏审风险预警，制定下一阶段的内容风险控制工作计划。

2019年成立的博特智能，开始在智能内容处理市场崭露头角。梳理其背景后发现，博特智能很早之前就与中科院重点实验室有深度的合作，双方的研究人员还联合研发内容科技的中心技术和产品。并获得东湖创投、深创投集团等数千万元的投资加持赛道突围。

可以说，博特智能的“加速跑”，也证明了其在自然语言理解、文本识别与过滤、图像识别、视频内容分析、中文文本纠错、格式文档分析、文本摘要、文本感情的色彩判断等方向已有多年的经验和技术积累。

App内容巡查系统，本质上是一个主动监测系统，三级内容风险控制闸门在对文本、图片、视频、音频、直播的巡查过程中，会比“人机协同”更具有后发优势，在机器、人工都漏掉时，内容巡查系统依然能实时发现风险并前置处理。

智能内容处理市场需要奇才

对于涉及内容风险控制相关的企业而言，内容巡查算是一个全新的解决方案。在积极尝试的同时，更看重的是通过提前自查自纠，避免监管机构的事后惩戒，防患于未然，堵住内容风险控制漏洞的同时，也堵住了企业的发展风险外溢，两全其美。

从技术发展层面而言，AI技术是可以做到像人一样初步判断出一条评论是否“阴阳怪气”，使用AI比人工进行内容风险管控，效率更高，成本更低。

当然，我们也看到AI对自然语言的理解与处理还无法贴近人类的思维，特别是在多样性语义环境变化中，以及边界定义模糊的条件下，比如维权类内容，机器还无法高精度识别。但这只是数据量的问题，AI通过大规模数据的不断训练，克服瓶颈也只是时间问题。

不久的将来，被大众寄予厚望的AI替代人工操作简单、重复度高的工作是大势所趋。

但我们希望的是，在内容、社交、电商、游戏等涉及内容风险控制的互联网企业能重视平台内部的自查自纠，积极引入更适合的内容风险控制体系，还互联网一个清朗空间。