百度文本审核插件
forever 2022-6-22

维护论坛时经常会遇到有人发违法内容,但由于精力有限,不能及时处理,而已有的“敏感词过滤”插件需要在本地建立词库,但本地词库有诸多缺点,比如需要自己积累敏感词、需要及时更新、词库规模有限等等,无法满足我的需求。

百度内容审核平台针对文本提供全方位的审核能力,覆盖涉黄、违禁、恶意推广、低质灌水、恶心不适等丰富的识别维度,并且新用户有5w次免费调用额度(企业认证用户50w)。

所以就基于百度内容审核平台提供的文本内容审核api写了这个插件,可以审核论坛用户的主题与回复内容,如果含有违规内容将无法发布并且提示违规原因,为论坛有效过滤不良内容,效果如下。

效果展示:

1.发帖时标题含违规词:

2.发帖时内容含违规词:

3.回帖时含违规词:

4.修改主题时标题含违规词:

5.修改主题时内容含违规词:

6.修改回复时含违规词:

使用说明:

1.到百度智能云(https://ai.baidu.com/solution/censoring )领取免费资源:

2.获取AppID、API Key、Secret Key :

3.将插件压缩包上传到plugin目录,解压,到后台安装,进入设置页面,将上述步骤获得的AppID、API Key、Secret Key等填入:

注意:一定要填入这三个参数,不然将报错!!!插件安装与配置后一定要清理缓存!!!

提醒

1.根据自己需要调整百度内容审核策略,比如开启了“恶意推广策略”,则内容中出现联系方式、以及联系方式的变种,都会被判定违规,建议根据站点性质调整审核的策略与尺度(百度内容审核平台策略有相关设置)。

2.本插件免费,允许转载,但是禁止基于本插件修改以商用,请保留插件中的作者信息。

开发计划

百度内容审核api返回的内容有:合规、不合规、疑似、审核失败四种,目前的逻辑是只有合规的才会正常评论,其它地无法评论,接下来的开发计划是不合规的直接拦截无法评论,疑似与审核失败的进入待审核状态,由管理员再次审核。

免金币下载

https://xiuno.cn/thread-7.htm

最后于 2022-6-22 被浅唱编辑 ,原因:
上传的附件:
相关帖子
最新回复 (12)
全部楼主
  • wushuiyin
    2022-6-23 2
    0
    这样是不是帖子内容也是上传到审核服务器上了呢  求大佬解答下
  • 小鹿君
    2022-6-24 3
    0
    这个挺好的呀!
  • forever 楼主
    2022-6-25 4
    0
    wushuiyin 这样是不是帖子内容也是上传到审核服务器上了呢 求大佬解答下
    没有,这个插件是审核不通过的直接被拦截,不会写入数据库
  • xiangkk
    2022-6-25 5
    0
    祝xiunobbs论坛越办越好!!!
  • 神烦
    2022-7-31 6
    0
    感谢楼主ing!!!
  • 小白白888
    2022-8-3 7
    0
    面对如此强贴,论遇到多大阻力,只要我一息上尚存,就绝不会让它沉沦下去,这一点请楼主放心。 
  • likejia
    2022-8-9 8
    0
    祝xiunobbs论坛越办越好!!!
  • 17327933349
    2022-8-16 9
    0
    想问密码错误是啥意思
  • geruixi
    2022-9-2 10
    0
    这个挺好的呀!
  • tb252111
    11月前 11
    0
    连站长都被拦截,要你何用。..
  • q2784038931
    7月前 12
    0
    我要拿出这帖子奉献给世人赏阅,我要把这个帖子一直往上顶,往上顶!顶到所有人都看到为止! 
  • weige
    1月前 13
    0
    楼主,你写得实在是太好了。我惟一能做的,就只有把这个帖子顶上去这件事了。 
返回