4.2 云开发必备——图像安全审核

知识点

图像安全审核-来自云开发扩展能力
更多的比较
- imgSecCheck来自开放能力
- imgSecCheck来自服务市场
- 违规内容识别
- T-Sec 天御图片内容安全

图像安全审核-来自云开发扩展能力

这是云开发最新推出的非常好用的人工智能能力，能够完成对图片安全审核的大部分需求。

图像安全审核提供鉴黄、鉴政、鉴暴恐等多种类型的敏感内容审核服务，有效识别违禁图片，规避违规风险。

名称	额度	数据类型
图片安全审核云开发扩展能力	2000张/日	云存储fileId中图片绝对地址

接口文档：https://docs.cloudbase.net/extension/abilities/image-examination.html

使用方法

v2 版中已使用微信服务市场的优图服务来实现，具体可以看 taro/src/utils/image-safe-check.js

export const getResCode = (res) => {
 ...
}

const getCheckResult =(data) => {
  const { Suggestion, PoliticsResult = {}, PornResult = {}, TerrorismResult = {} } = data

  let result = {}

  if (Suggestion === 'PASS') {
    result.status = 0
    result.data = { isSuccess: true }
    result.message = ''
  } else if (PoliticsResult.Suggestion !== 'PASS' || PornResult.Suggestion !== 'PASS' || TerrorismResult.Suggestion !== 'PASS') {
    result.status = -87014
    result.message = '存在违禁图片'
  } else {
    result.status = -1002
    result.message = '请求失败'
  }

  if (result.status) {
    throw result
  }
  return result
}

/**
 * 图像安全审核
 * @param {string} base64Main
 */
export const imgSecCheck = async (base64Main) => {
  try {
    const res = await wx.serviceMarket.invokeService({
      service: 'wxee446d7507c68b11',
      api: 'imgSecCheck',
      clientMsgId: 'id' + parseInt(Math.random() * 10000),
      data: {
        Action: 'ImageModeration',
        Scenes: ['PORN', 'POLITICS', 'TERRORISM'],
        ImageBase64: base64Main,
        Config: '',
        Extra: ''
      }
    })

    let data = getResCode(res)
    let result = getCheckResult(data)
    return result
  } catch (error) {
    console.log('error2 :', error)
    throw {
      status: 87014,
      message: '图中包含违规内容，请更换'
    }
  }
}

完整的使用示例，请参照 https://github.com/hi-our/hi-face/blob/1.x-stable/cloud/functions/image-safe-check/index.js

对比更多的腾讯云图像安全审核服务

图片审核前，可以先用wx.compressImage进行图片压缩。

这里为了方便，均已云开发中的云调用来作为基础，大部分功能其实也支持HTTP API的调用。

名称	额度	数据类型
imgSecCheck 开放能力	免费	Buffer
imgSecCheck 服务市场	365天内免费10000次	ImageUrl、ImageBase64
违规内容识别	每月10000次（估计）	ImageUrl、ImageBase64
图片内容安全 T-Sec 天御	30天内免费10000次	ImageUrl、ImageBase64

开放能力 imgSecCheck

接口文档 https://developers.weixin.qq.com/miniprogram/dev/api-backend/open-api/sec-check/security.imgSecCheck.html

在实际使用中发现的大问题，图片Buffer大小超过100k，可能就报图片太大的错误了。有的小伙伴说，10k都可能会报。

服务市场 imgSecCheck

接口文档：https://developers.weixin.qq.com/community/servicemarket/detail/000a246b6fca70b76a896e6a25ec15

根据 返回值及示例请见 https://cloud.tencent.com/document/api/865/35473#3.-.E8.BE.93.E5.87.BA.E5.8F.82.E6.95.B0可以看出，其功能是基于T-Sec 天御图片内容安全进行的封装，但允许试用1年。

违规内容识别

这个功能不仅支持图片地址，还支持图片Base64数据，也就是说无需将图片上传到图片服务即可进行识别。

这也是我目前在使用的方案，因为我的图片不大，并且当用户在确认需要保存图片后，我才会将图片上传到云存储上。

我的步骤为

选择图片后，图片会被裁剪为600x600
使用 wx.compressImage()将图片的质量从 100 降为 10
将图片数据格式转换为Base64
使用违规内容识别进行图片安全审核

PS：腾讯云是将这个功能给雪藏了，我自己扩展了其tencentcloud-sdk-nodejs来做到的。

T-Sec 天御图片内容安全

接口文档：https://cloud.tencent.com/product/ims

这个的花费是最大的，我这里就不多讲了。