如何审核聊天室内容

摘要:本文为大家分享如何3步解决聊天室内容审核难题,以下为步骤说明。

一、开通「安全通」功能

1、登录云信控制台 > 选择你的应用 > 功能管理 > IM 专业版 > 选择安全通 :

2、如果尚未开通安全通功能,会弹出申请开通页面,点击确认申请即可:

3、如果已经开通了安全通,点击安全通会进入安全通的设置页面,该页面内容主要分为三个部分:

·内容安全抄送地址:云信服务器会将审核的结果放在消息抄送的 yidunRes 字段里,然后通过聊天室消息抄送同步到配置的应用服务器。所以这里需要配置一个消息抄送的地址,并打开聊天室消息抄送的功能。详见消息体中的 JSON 字段说明链接。

链接:

https://doc.yunxin.163.com/docs/TM5MzM5Njk/DI3OTg5Mjg?platformId=60353#消息体中的JSON字段说明

·内容安全与疑似处理配置:可以针对不同内容(文本消息、图片消息等),配置不同的审核策略。

·送检失败的消息处理策略:当检测到内容违规时,选择是否拦截该消息。

二、基础设置以及策略选择

1、点击前往设置,进入内容安全抄送地址的设置页面,需要配置消息抄送地址以及选中聊天室消息的抄送选项,设置完成后点击保存,并回到安全通设置页面:

2、针对具体的消息类型进行配置,点击需要送检的消息类型后面的配置选项进行单独配置,以普通文本消息为例,内容安全配置选中聊天室,打开疑似处理配置的开关,并选择需要处理的违规类型,如图所示:

3、消息命中反垃圾时候的策略选择,建议选择拦截:

三、针对特殊需求进行特殊开发

IM 中如果开启了安全通相关的配置,发送的消息会默认通过安全通审核。如果有特殊需求请根据下列字段查询开发文档进行开发。

· Server:通过 useYidun 来选择该条消息是否经过安全通;通过配置antispam ,antispamCustom 来设置自定义消息的反垃圾类型。

链接:https://doc.yunxin.163.com/docs/TM5MzM5Njk/TYyMDI1MTg?platformId=60353#发送聊天室消息

· Windows(C):kNIMMsgKeyAntiSpamEnable、kNIMMsgKeyAntiSpamContent, kNIMMsgKeyAntiSpamUsingYiDun

链接:

https://doc.yunxin.163.com/docs/TM5MzM5Njk/DU5ODU2OTA?platformId=60227#聊天室消息收发

·Web:yidunEnable , antiSpamContent , antiSpamUsingYidun

链接:https://doc.yunxin.163.com/docs/TM5MzM5Njk/jgyODc1NDk?platformId=60179#发送聊天室消息

· Android:通过  NIMAntiSpamOption  单独设置安全通反垃圾配置。

链接:https://doc.yunxin.163.com/docs/TM5MzM5Njk/zY5NzQzNjU?platformId=60002#聊天室消息收发

· iOS:通过NIMAntiSpamOption 单独设置安全通反垃圾配置

链接:

https://doc.yunxin.163.com/docs/TM5MzM5Njk/jQ0MjQ0NDI?platformId=60278#聊天室消息收发

注意:自定义消息比较特殊,开发者如需自定义消息经由安全通反垃圾,在发送消息时需要通过上述相关字段进行配置,说明自定义消息的内容是文本还是图片、视频等,以便安全通按照相应类型进行反垃圾处理。开发配置中,如果配置了不经过安全通反垃圾,则消息会经过通用反垃圾。

以上就是详细流程解说,按照如上步骤就可以轻松完成「安全通」的接入,解决聊天室内容审核的难题。

相关阅读

1、安全通一站解决内容传输和安全检测两大问题

网易智企安全通,融合了网易云信和网易易盾的产品能力,可以一站解决内容传输和安全检测两大问题,客户端只需集成云信SDK即可与云信通信服务建立连接,云信通信服务直接对接易盾内容安全服务,无需客户进行复杂的后台数据对接。

2、网易云信:融合通信云服务专家、通信与视频 PaaS 平台

集网易 24 年 IM 以及音视频技术打造的融合通信云服务专家,稳定易用的通信与视频 PaaS 平台。提供融合通信与视频的核心能力与组件,包含 IM 即时通讯、5G 消息平台、一键登录、信令、短信与号码隐私保护等通信服务,音视频通话、直播、点播、互动直播与互动白板等音视频服务,视频会议等组件服务,并联合网易易盾推出一站式安全通信方案「安全通」。目前,网易云信已经成功发送 1.6 万亿条消息,覆盖智能终端 SDK 数累计超过 186 亿,我们期待每个智能终端都有云信的融合通信能力。

3、更多推荐阅读

视频教程|IOS自定义消息收发讲解

视频教程|AOS登录登出实现