为论坛过滤不良内容:百度文本审核插件
forever 20天前

最近论坛偶尔会有人发违法内容,由于精力有限,不能及时处理,而已有的“敏感词过滤”插件需要在本地建立词库,但本地词库有诸多缺点,比如需要自己积累敏感词、需要及时更新、词库规模有限等等。 
百度内容审核平台针对文本提供全方位的审核能力,覆盖涉黄、违禁、恶意推广、低质灌水、恶心不适等丰富的识别维度,并且新用户有5w次免费调用额度(企业认证用户50w)。 
所以就基于百度内容审核平台提供的文本内容审核api写了这个插件,可以审核论坛用户的主题与回复内容,如果含有违规内容将无法发布并且提示违规原因,为论坛有效过滤不良内容。

效果展示


1.发帖时标题含违规词:

2.发帖时内容含违规词:

3.回帖时含违规词:

4.修改主题时标题含违规词:

5.修改主题时内容含违规词:

6.修改回复时含违规词:

 

使用说明


1.到百度智能云(https://ai.baidu.com/solution/censoring)领取免费资源: 

2.获取AppID、API Key、Secret Key :

3.将插件压缩包上传到plugin目录,解压,到后台安装,进入设置页面,将上述步骤获得的AppID、API Key、Secret Key等填入:

注意:一定要填入这三个参数,不然将报错!!!插件安装与配置后一定要清理缓存!!!

提醒


1.根据自己需要调整百度内容审核策略,比如开启了“恶意推广策略”,则内容中出现联系方式、以及联系方式的变种,都会被判定违规,建议根据站点性质调整审核的策略与尺度(百度内容审核平台策略有相关设置)。

2.本插件for free,允许转载,但是禁止基于本插件修改以商用,请保留插件中的作者信息。


开发计划


百度内容审核api返回的内容有:合规、不合规、疑似、审核失败四种,目前的逻辑是只有合规的才会正常评论,其它地无法评论,接下来的开发计划是不合规的直接拦截无法评论,疑似与审核失败的进入待审核状态,由管理员再次审核。

最后于 19天前 被forever编辑 ,原因:
上传的附件:
最新回复 (5)
全部楼主
  • oliolo 版主
    20天前 2
    0
    自从有了这东西,都不会说话了。打了一大堆字,不让发布,不知道那个词有问题。
  • apwl
    20天前 3
    0
  • loverf
    18天前 4
    0
    装个敏感词插件就行
  • forever 楼主
    18天前 5
    0
    loverf 装个敏感词插件就行
    前言部分已经写了为什么在有敏感词插件的情况下,我还要写这款插件
  • 稀神旭东
    12天前 6
    0
    这个东西好
返回
forever
二级用户组
5
主题数
4
帖子数
0
精华数