logo开发者社区
小程序小游戏
登录
常见问题梳理之安全内容检测接口

常见问题梳理之安全内容检测接口

3619浏览作者: 小程序管理员(Fremontlee)

目前有部分小程序因「未做风险词以及风险内容过滤,不符合平台要求」而未通过版本更新审核,针对此类审核常见拒绝问题特加以说明:

为了有效规避线上安全风险,小程序需在搜索板块及其他用户可自定义输入的功能区接入安全内容检测接口。

安全检测接口分为图片检测及文本检测,接入文档参见:https://developer.toutiao.com/dev/cn/mini-app/develop/open-capacity/content-security/content-security-detect

例如搜索场景下,在用户主动搜索敏感词时不展示相关内容结果。即当用户输入相关内容的时候,该检测接口返回prob=1的值为敏感词,对这个结果进行处理,保证搜索不出内容即可,可以加相关的提示文案 如“因相关法律和要求,相关搜索结果不予展示”。

有其他疑问欢迎在评论区留言哦~

最后一次编辑于 2020年05月26日

18条评论

avatar
zy812717713

能不能给论坛加个搜索功能啊

appid: tt636c15d1fc46ef31
已经做了风险内容过滤了,之前已经接入过并且上线了的,这次又因为这个原因拒绝了呢。麻烦技术大大能看下是什么原因么?

文本过滤接口太慢了,200ms,把大家的服务都拖垮了。希望能够做到10ms以内,谢谢!

请举例子,看看敏感词有哪些

回复slakofan
aaaaa

请给出测试用例呀,到底是哪个词语

跪求审核一下这个小程序:tt5b042db9c42e9530

抖音不用搞了,很多公司被抖音玩死了,说白了抖音就是一个游戏公司,还等电商,想的多了

回复number_1
兄弟你差点给我劝退了
回复Ganchunli
电商小程序邀请制的
aaabbcd

可爱吗?aaaa

input 组件 输入文本需要内容检测吗

设置了服务器域名就是个摆设,完全不起作用,在搞毛啊,一天天的也没人回应,要这社区何用?要我们反馈有何意义?

image.png做了风险词汇内容检测,还是审核失败

有一说一,你们需要检测没问题,但是,你们检测接口经常500是几个意思?麻烦做好内容安全的同时,也做好你们的基础设施建设呀。

1、表单输入模块做了安全过滤,也给出了响应的提示
2、展示模块的内容是从后端接口拿的一些文本内容,这些文本内容也都**事先请求了你们的内容安全检测接口,都是安全的。**然后提审结果还是审核不通过,你们给出的审核不通过的原因截图,就一张图片,图片上没做任何标注,这让开发人员去猜到底哪里出了问题吗???

官方提供的【内容安全检测】接口,认为【qq.com】包含违法违规内容

服气   真的服气  审核人员的贵手是不能打字吗  给我一张图片  审核不过全靠猜。

邮箱输入 的功能,调用 官方提供的【内容安全检测】接口,认为【qq.com】包含违法违规内容

邮箱输入 需要 内容安全检测 吗?
加载中