首页> 安全资讯 > 监管趋势更严,互联网内容如何才能更安全

监管趋势更严,互联网内容如何才能更安全

发布时间:2020-06-05

近年来,随着移动互联网的飞速发展,移动App为大众的学习、生活带来了许多便利,公众可以从移动App上获取想要的互联网信息,同时也可以在移动App上产出自己的内容,以及发表评论等。互联网丰富了移动应用的展现内容,但同时也给APP运营单位以及监管部门带来很大的内容审核挑战,包括来自《网络安全法》对平台内容的监管要求,严禁出现的色情、涉政、违禁、暴恐等内容。

内容信息合规:包括来自监管要求的色情、涉政、违禁、暴恐等内容和损害平台自身利益的广告导流等,目前大部分平台及App运营者对于内容合规性的审核还不够到位。

 

PGC内容审核:是指服务端下发的内容,若资讯内容未做审核,发布的信息中带有敏感、违规内容时则会造成不良影响,影响的用户面积将会非常广泛。

 

UGC内容审核:是指用户端产生的原创内容,不免有不法以及激进份子在App提供的评论或者信息发布平台中发布反党反共、涉政涉黄等不良信息,用户的言论缺乏统一的管控。

 

爱加密深耕于移动应用安全领域多年,在内容监测领域积累了深厚的经验并持续进行攻防升级。爱加密内容监管平台采用关键字匹配识别、自然语言处理、智能图像识别、图像目标检测、样例图片识别、智能视频识别、样例视频识别等技术手段,结合产生内容的账号、设备、IP的行为以及全球风险库,精准识别色情、涉政、违禁、暴恐、广告等内容风险,实现高效、准确、全面覆盖的内容审核过滤。

 

可帮助各类网站、移动客户端(App)、论坛贴吧、即时通信工具(微信)、直播平台、存储平台、CDN平台、UGC(用户生成内容)平台等客户,开展业务中含有的色情淫秽、低俗庸俗、暴力血腥、恐怖惊悚、网络赌博、钓鱼诈骗、网络谣言、邪教迷信、谩骂恶搞、反动暴恐、威胁恐吓、仇恨煽动、违禁品制售、传播不良生活方式和不良流行文化等违规内容(文本、图片、视频)的全面监测、科学分析、及时发现、准确定位、有效取证、处置管理,规避监管风险,带来安全价值。

 

核心功能

主要功能包括:数据采集、内容审计、审计管理、违规处置。

1、 数据采集

业务流量采集,采集业务网络数据包,根据网络协议及应用协议规范对业务数据进行协议解析,将从业务流量中采集的网站内容还原成真实可见的文字、图片、视频等格式文件。

 

网络爬虫采集,基于用户提交的域名或URL对目标网站进行URL分析提取、网页源文件下载提取、网站图片、视频格式文件下载提取。

 

文件接口采集,基于接口方式获取文本、图片、视频文件。

 

2、内容审计

文本违规监测,对文本进行违规关键字匹配监测,同时基于自然语言处理识别,发现不良文字信息。

 

色情图片监测,对图片进行智能色情图片识别监测,发现色情淫秽图片。

 

样例图片监测,对图片进行样例图片匹配监测,发现命中样例的图片。

 

色情视频监测,对视频进行智能色情视频识别监测,发现色情淫秽视频。

 

样例视频监测,对视频进行样例视频匹配监测,发现命中样例的视频。

 

3、 审计管理

违规信息人工审核,支持对平台监测发现的网站违规内容信息进行人工审核,确保监测结果的准确性。监控结果集中展现,提供对平台监测发现的网站违规内容信息数据、报表集中展现。

 

4、违规处置

支持基于预设的黑名单IP、黑名单域名、黑名单URL、违规关键字、样例图片特征、样例视频特征策略,对业务流量进行实时并行监测,对发现的违规网站请求和网站违规内容传输会话数据流进行实时阻断过滤。支持向第三方系统同步违规内容信息实现闭环处置。

 

应用场景

适用于各类网站、移动客户端(App)、论坛贴吧、即时通信工具(微信)、直播平台、存储平台、CDN平台、UGC(用户生成内容)平台等客户开展业务内容合规自查。适用于信息安全监管部门针对下级单位各业务开展内容合规检查考核。

 

适用于全国“扫黄打非”工作小组办公室专项工作、国家重大事件(如:两会、国庆、春节)期间信息安全应急支撑保障、地方政府互联网信息安全专项工作、行业信息安全主管部门或集团单位互联网信息安全专项保障。

 

产品优势

1、网络爬虫采集,基于用户提供的网站域名、IP、URL等基础数据,自动搜索去重网站URL链接并行高速下载网站文本、图片、视频。

 

2、关键字匹配,基于预设的3万+条不良信息关键字策略(支持自定义),对采集获取的网站文本进行关键字匹配识别,发现含有不良信息关键字的文本内容。

 

3、自然语言处理,平台基于深度学习的自然语言处理技术,通过使用不良监管数据训练字词向量,提升泛化能力,从而提高文本不良信息的检测发现率,弥补关键字匹配的预设策略不全的缺点,可有效识别预设关键字策略之外的文本不良信息。

 

4、智能图像识别,平台通过大量同类型图片数据持续训练、频繁迭代模拟形成人脑视觉认知对同类型/相似场景(如:色情淫秽、反动暴恐标志、特定文字、特定人物、特定场景等)的图片进行检查,可智能识别同类型/相似场景的图片,从而发现图片不良信息。

 

5、图像目标检测,平台对图片中出现的旗帜、Logo进行精准识别,可在给定的图片中精准找到物体所在位置,并标注出物体的类别,通过该技术可有效识别网站中含有的特定目标图片(如:违规旗帜、Logo等)。

 

6、样例图片匹配,平台基于积累的数万张涉政敏感、反动邪教样例图片(支持自定义)建立的特征库,将被审计图片与特征库进行比对分析,发现违规内容图片。

 

7、智能视频识别,系统视频审计以图片检测技术为基础,通过提取关键帧图片集进行识别,并综合考虑图片集识别结果做出最终判断。

 

8、数据传输阻断,系统支持基于预设的不良信息网站IP、域名、URL对不良信息网站用户访问行为进行拦截<需全流量接入可支持阻断>。


加入收藏