最近论坛偶尔会有人发违法内容,由于精力有限,不能及时处理,而已有的“敏感词过滤”插件需要在本地建立词库,但本地词库有诸多缺点,比如需要自己积累敏感词、需要及时更新、词库规模有限等等。
百度内容审核平台针对文本提供全方位的审核能力,覆盖涉黄、违禁、恶意推广、低质灌水、恶心不适等丰富的识别维度,并且新用户有5w次免费调用额度(企业认证用户50w)。
所以就基于百度内容审核平台提供的文本内容审核api写了这个插件,可以审核论坛用户的主题与回复内容,如果含有违规内容将无法发布并且提示违规原因,为论坛有效过滤不良内容。
效果展示
1.发帖时标题含违规词:

2.发帖时内容含违规词:

3.回帖时含违规词:

4.修改主题时标题含违规词:

5.修改主题时内容含违规词:

6.修改回复时含违规词:

使用说明
1.到百度智能云(https://ai.baidu.com/solution/censoring)领取免费资源:

2.获取AppID、API Key、Secret Key :

3.将插件压缩包上传到plugin目录,解压,到后台安装,进入设置页面,将上述步骤获得的AppID、API Key、Secret Key等填入:

注意:一定要填入这三个参数,不然将报错!!!插件安装与配置后一定要清理缓存!!!
提醒
1.根据自己需要调整百度内容审核策略,比如开启了“恶意推广策略”,则内容中出现联系方式、以及联系方式的变种,都会被判定违规,建议根据站点性质调整审核的策略与尺度(百度内容审核平台策略有相关设置)。
2.本插件for free,允许转载,但是禁止基于本插件修改以商用,请保留插件中的作者信息。
开发计划
百度内容审核api返回的内容有:合规、不合规、疑似、审核失败四种,目前的逻辑是只有合规的才会正常评论,其它地无法评论,接下来的开发计划是不合规的直接拦截无法评论,疑似与审核失败的进入待审核状态,由管理员再次审核。
最后于 2022-5-8
被forever编辑
,原因: