资讯专栏INFORMATION COLUMN

上云采购季！| 爆款云服务器低至4.6元/月，首单享0.9折

免费试用
首页/文章专栏/[打怪升级]小程序评论回复和发帖功能实战（二）

[打怪升级]小程序评论回复和发帖功能实战（二）

ThinkSNS / 3018人阅读

摘要：发帖的功能只要理清思路，其实并不复杂，利用机器做内容审查是关键，直接关系到小程序的整体安全。内容检查重点由于内容安全对于小程序运营至关重要，稍有不慎就容易导致小程序被封，所以在这块的校验除了常规人工检查外，我们还可以用到微信的内容安全。

这次分享下“发帖功能”，这个功能其实风险蛮大的，特别是对一些敏感言论的控制，如果没有做好可能导致小程序被封，所以除了必要的人工审核和巡查以外，我们需要一些微信安全监测API的帮忙，在AI加持下，现在很多大公司对内容和图片的效率大大提高了。

这个DEMO仅是一个流程示例，由于涉及到云函数和“真”敏感图，这里就有文字图代替。

发帖的功能只要理清思路，其实并不复杂，利用机器AI做内容审查是关键，直接关系到小程序的整体安全。

[toc]

用户选择手机图库或拍照 
let tempImg = 0; //代表已选择的图片
wx.chooseImage({
    count: 3 - tempImg.length, //选择不超过3张照片,去掉当前已经选择的照片
    sizeType: ["original", "compressed"],  //获取原图或者压缩图
    sourceType: ["album", "camera"],  //获取图片来源 图库、拍照
    success(res) {
        // tempFilePath可以作为img标签的src属性显示图片
        let tempFilePaths = res.tempFilePaths;
        console.log(tempFilePaths);
        
        //举例：这里可以size 来判断图片是否大于 1MB，方便后面内容检查
        if (res.tempFiles[0] && res.tempFiles[0].size > 1024 * 1024) {
            console.log("图片大于1MB啦")
        }
    }
})

这里用到的方法是chooseImage，它可以设置让用户选择手机图片库和拍照获得，需要注意的是考虑到后面要用微信自带API做图片安全检查，图片大小不能超过1MB，所以需要设置sizeType为compressed。

内容检查（重点）

由于内容安全对于小程序运营至关重要，稍有不慎就容易导致小程序被封，所以在这块的校验除了常规人工检查外，我们还可以用到微信的内容安全API。

为什么用微信官方提供的API？
主要有二点：有一定的免费额度，基于企鹅大厂的专业AI检查。

1、云函数+云调用

目录结构

├─checkContent
│      config.json   //云调用的权限配置
│      index.js   //云服务器node 入口文件
│      package-lock.json 
│      package.json   // NPM包依赖
│ ...

为什么要强调这个？
因为本人一开始在用云函数+云调用的时候，经常会出现各种不明BUG，很多都是因为目录里面少传文件，或者少配置。

云函数内容：

const cloud = require("wx-server-sdk");
cloud.init();
exports.main = async (event, context) => {
    console.log(event.txt);
    const { value, txt } = event;
    try {
        let msgR = false;
        let imageR = false;
        //检查 文字内容是否违规
        if (txt) {
            msgR = await cloud.openapi.security.msgSecCheck({
                content: txt
            })
        }
        //检查 图片内容是否违规
        if (value) {
            imageR = await cloud.openapi.security.imgSecCheck({
                media: {
                    header: { "Content-Type": "application/octet-stream" },
                    contentType: "image/png",
                    value: Buffer.from(value)
                }
            })
        }
        return {
            msgR,   //内容检查返回值
            imageR   //图片检查返回值
        };
    } catch (err) {
        // 错误处理
        // err.errCode !== 0
        return err
    }
}

这里主要用到security.msgSecCheck和security.imgSecCheck这2个微信开放云调用方法（需开发者工具版本 >= 1.02.1904090），以往我们还要在服务器上多带带写个方法，现在变得十分的方便，直接在云函数中调用即可。

这里需要重点说2个点

图片security.imgSecCheck 方法只能接收buffer，所以需要把temp的临时图片转化为buffer的形式传过去，我们这里用到 getFileSystemManager 的方法。

如果目录文件中没有config.json，需要自己建一个，并且做一个授权的配置。

{
    "permissions": {
        "openapi": [
            "security.msgSecCheck",
            "security.imgSecCheck"
        ]
    }
}
2、检查文字内容安全 
wx.cloud.callFunction({
    name: "checkContent",
    data: {
        txt: "乐于分享，一起进步"
    },
    success(_res) {
        console.log(_res)
    },
    fail(_res) {
        console.log(_res)
    }
})

//返回值参考
{
    "errMsg": "cloud.callFunction:ok",
    "result": {
        "msgR": {
            "errMsg": "openapi.security.msgSecCheck:ok",
            "errCode": 0
        },
        "imageR": false
    },
    "requestID": "77952319-b2b4-11e9-bdc8-525400192d0e"
}

应用场景举例：

用户个人资料违规文字检测；

媒体新闻类用户发表文章，评论内容检测；

游戏类用户编辑上传的素材(如答题类小游戏用户上传的问题及答案)检测等。 频率限制：单个 appId 调用上限为 4000 次/分钟，2,000,000 次/天*

通过wx.cloud.callFunction的方法调用checkContent的云函数，检查一段文本是否含有违法违规内容。

3、检查图片内容安全 
//获取 temp临时图片文件的 buffer
wx.getFileSystemManager().readFile({
    filePath: tempImg[0],  //这里做示例，所以就选取第一张图片
    success: buffer => {
        console.log(buffer.data)
        //这里是 云函数调用方法
        wx.cloud.callFunction({
            name: "checkContent",
            data: {
                value: buffer.data
            },
            success(json) {
                console.log(json.result.imageR)
                if (json.result.imageR.errCode == 87014) {
                    wx.showToast({
                        title: "图片含有违法违规内容",
                        icon: "none"
                    });
                    console.log("bad")
                } else {
                    //图片正常
                }
            }
        })
    }
})

//返回值参考
{
    "errMsg": "cloud.callFunction:ok",
    "result": {
        "msgR": false,
        "imageR": {
            "errMsg": "openapi.security.imgSecCheck:ok",
            "errCode": 0
        }
    },
    "requestID": "c126353c2d-b40b-11e9-81c4d-525400235f2a"
}

应用场景举例：

图片智能鉴黄：涉及拍照的工具类应用(如美拍，识图类应用)用户拍照上传检测；电商类商品上架图片检测；媒体类用户文章里的图片检测等；
敏感人脸识别：用户头像；媒体类用户文章里的图片检测；社交类用户上传的图片检测等。 频率限制：单个 appId 调用上限为 2000 次/分钟，200,000 次/天*（图片大小限制：1M）

这里先要用 getFileSystemManager() 获取临时图片的buffer（这个是重点），然后再通过wx.cloud.callFunction的方法调用 checkContent的云函数中security.imgSecCheck的方法，校验一张图片是否含有违法违规内容。

一开始本人调试的时候，也遇到无法上传的问题，必须通过文件管理(getFileSystemManager)获取buffer后才能上传检查图片，耗费了本人不少debugger时间。
完整代码

原本想做个实际的demo（代码片段）分享给大家打开参考的，但是云函数必须是一个已注册的APPID，无奈只能贴代码。

这里主要还是提供一个整体思路，希望能帮助大家减少开发成本，更好的解决问题和完成任务 ^_^

html部分：