做好内容安全检测，和风险说「再见」！（上）

前言

内容安全检测，是每一个小程序主都面临的“头疼”问题，轻则短暂性不可访问，重则永久封号，甚至关小黑屋。本文将为您详细说明，如何在小程序中对一段文本进行合法内容检测，以判断是否含有违法违规内容。

本文重点为你讲述：

• 内容安全检测常见应用场景及解决办法

• 学会使用小程序·云开发的云函数+结合request-promise第三方库实现内容请求校验

• 掌握如何在小程序端请求云函数（有别于传统的wx.request的方式(类似AJax)）

• 在云开发的云函数端,利用第三方https请求库(request,request-promise),获取Access_token,以及向微信官方提供的内容检测接口发请求进行校验

• 云函数端与小程序端错误码的处理

01.背景

无论是小程序还是自行开发的一些类似社交,带有用户自行产生内容的软件应用,例如:即时通讯,社群,论坛,音视频直播等,对于接入内容安全的检测是非常有必要的。

对于小程序而言,这一点在审核上是非常严格的,净化言行,做一个知法守法的人很重要…

接入内容安全检测,规避输入一些违法违规低俗等内容,避免辛辛苦苦开发出来的应用。

被恶意上传反动言论或上传一些违规内容(文字/图片/视频等),导致小程序或应用被下架,或遭永久禁封,或个人及公司被公安机关打电话,约喝茶等,这样的话,就得不偿失了的。

02.应用场景

• 检测小程序用户个人文字资料是否违规
• 针对特点词汇（如过于商业以及营销之类的词）可以进行过滤或禁止输入
• 在内容发布之前自动检测用户发表的信息（包括评论、留言等）是否违规

03.解决办法

围绕如何处理内容安全检测问题，一般有3种方法：

方案1**:引入第三方接口对内容进行校验(例如:百度AI内容审核平台,网易云盾等)**

方案2: 公司后台小伙伴自行开发文本,图片,音视频等内容审核接口

方案3: 小程序服务端提供的API进行校验

每一种方法各有优劣势，具体如下图。

	解决方案	优势	劣势
1	引入第三方接口对内容进行校验	前端同学只需按照官方提供的第三方接口文档,进行校验即可,无需后台介入,功能强大,覆盖范围广	接口调用的频次有限制,收费
2	公司后台小伙伴自行开发文本,图片,音视频等内容审核接口	后台小伙伴自己造轮子,根据自己的业务需求以及用户属性,自定义内容审核机制	开发周期长,成本大,难以覆盖全面
3	调用小程序服务端提供的内容安全API进行校验	简单,高效	想不出来,因为相比前两种方案,对于不依赖后端接口的开发者来说,简直是雪中送炭

在微信小程序生态下，官方提供了2种路径帮助用户解决内容检测问题，即

• 使用服务器开发模式，通过HTTPS调用
• 使用小程序·云开发，通过云函数或云调用来实现。

服务器开发模式，相信大家都相对比较熟悉，在此就不再赘述。接下来为大家重点介绍，如何通过小程序·云开发的云函数实现内容安全检测。

04.通过云开发的云函数+request-promise第三方库实现内容请求校验

Step 1: 在小程序端先布局：完成静态页面。(pages文件夹下的文件都是属于小程序前端代码,每个文件夹目录代表的就是一个模块,一个页面)

小程序前端wxml代码示例

<view class="container">
  <textarea class="content" placeholder="写点文字..." bindinput="onInput" auto-focus bindfocus="onFocus" bindblur="onBlur">
  </textarea>
</view>

<view class="footer">
  <button class="send-btn" size="default" bind:tap="send">发布</button>
</view>