摘要：得益于今年来计算机速度的提升大规模集群技术的兴起的应用以及众多优化算法的出现，耗时数月的训练过程可缩短为数天甚至数小时，机器学习可以被广泛运用，大大提升鉴黄效率。
图片鉴黄服务市场容量巨大，作为移动互联网行业最为热门的创业领域，移动社交类App每天生产大量图片，并有无数色情图片混杂其中，所以高效准确地鉴别和剔除淫秽色情信息成为一项十分艰巨的任务。
此外，移动直播的大热也导致图片鉴黄需求大增，尤其对于中小开发团队而言，直播平台很可能因为人力监管问题而在涉黄审核方面出现风险。而自主研发鉴黄功能或增加审核人员又会增加产品和服务外的支出，给前期开发造成额外压力。利用人工智能图像识别技术进行高效准确的自动化鉴黄服务，能降低企业使用鉴黄服务的技术门槛，帮助企业有效减少相关人力成本的投入。
如何界定性感与色情△ 传统神经网络与深度神经网络
机器学习是人工智能的核心，简单来讲它就是：运用一套通用的算法——泛型算法，建立起数据逻辑，利用模仿人脑的机制来解释数据，让机器自动学习良好的特征，从而减少人工审核的过程。
举例来说，想要教会机器去识别色情图像，需利用成千上万的图片样本去“训练”它，提取色情图片特征并不断记忆。每张图片中的任何一个点都包括亮度值、色相值、饱和度值，通过设置这三个值的大小范围，机器能识别出“肉色”，进而猜测出图片里裸露的人体皮肤区域。
色情图片最明显的特点就是画面中人体皮肤颜色所占比例较大，当机器识别图片中有类似人体肤色区域后，需要进一步确认区域的来源，看他们是没有穿衣服的女主角还是正常物体。假设两块黄色区域分别是两条腿或者两只胳膊，另一块区域是人的身体，这些区域的长度值、宽度值符合人体大小比例，且彼此位置满足一定的几何关系，则有很大可能是色情图片，如果这些区域之间大小和位置不像是人的身体，则可以排除色情图片的嫌疑。
△ 计算肤色区域的几何关系
△ 图片区分标准
色情：裸露敏感部位，包含露骨镜头，描述性交行为和色情场景的图片。
性感：衣着暴露但没有裸露敏感部位。
正常：非色情，非性感图片。
色情与艺术的鉴定标准是人定的，理论上讲可以通过刻意训练、调整阈值等手段让机器更符合自己的标准，色情图片数量越多，风格和场景越多样化，机器学习结果越准确。
机器学习的一个主要优势在于可以利用大数据样本，在学习的过程中不断提高识别精度。得益于今年来计算机速度的提升、大规模集群技术的兴起、GPU 的应用以及众多优化算法的出现，耗时数月的训练过程可缩短为数天甚至数小时，机器学习可以被广泛运用，大大提升鉴黄效率。
人工智能图片鉴黄：机器学习与人工审核相结合△ 又拍云智能鉴黄工作流程
又拍云“智能鉴黄”功能将自动对直播、视频、图片等内容进行鉴别。目前在一张图片鉴黄的完整过程是将它拿到鉴黄中心鉴别，完毕后，再把结果发送至图片审核平台进行最终确认。对于疑是色情图片将由人工审核确认，而这部分将会随着训练次数的增加而不断减少，帮助运营团队节省人工审核成本。
如何进行直播鉴黄通常情况下，视频直播鉴黄服务利用视频截图、图像识别、语音审核、弹幕监控、关键词提取等方式识别色情内容。
其中视频直播的鉴黄可按照以下步骤：识别图像中是否存在人物体征并统计人数；识别图像中人物的性别、年龄区间；识别人物的肤色、肢体器官暴露程度；识别人物的肢体轮廓，分析动作行为；提取音频信息关键词，判断是否存在敏感信息；实时分析弹幕文本内容，判断当前视频是否存在违规行为。每分钟视频采集关键帧的频率可由客户自主设定，从1秒到几十秒均可，例如可以默认5秒采集一次关键帧用于识别。
推荐阅读：
"人机"对战：电脑太简单了，我是射手 skr~skr~skr
AI 这么优秀，连我鉴黄师的饭碗都抢了
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/18598.html
摘要：第一代鉴黄师正如大家所想的那样，通过一双肉眼鉴别淫秽图片和视频。老司机带着新司机在这个阶段，传统鉴黄师从完成鉴别工作转变到教会机器如何识别的更准确。 在互联网高速发展的今天，直播平台，内容社区，视频网站等UGC/PGC平台蓬勃发展，如雨后春笋般出现。但巨大的安全隐患也接踵而至，内容审核成为企业最关键的一道防火墙。企业招聘大量的内容审核专员来应对包括色情、暴力、犯罪等多个方面的不良内容。...
摘要：第一代鉴黄师正如大家所想的那样，通过一双肉眼鉴别淫秽图片和视频。老司机带着新司机在这个阶段，传统鉴黄师从完成鉴别工作转变到教会机器如何识别的更准确。 在互联网高速发展的今天，直播平台，内容社区，视频网站等UGC/PGC平台蓬勃发展，如雨后春笋般出现。但巨大的安全隐患也接踵而至，内容审核成为企业最关键的一道防火墙。企业招聘大量的内容审核专员来应对包括色情、暴力、犯罪等多个方面的不良内容。...
摘要：客户需提供一个接收处理结果的地址，处理结果被封装成字符串，通过请求，传递给用户的接口。鉴黄任务完成后，会将处理结果传递到调用创建该任务时所填写的回调地址。 回调说明本篇目录功能概述转码回调详情截图回调详情切片回调详情鉴黄回调详情功能概述视频转码、截图、切片、鉴黄等任务处理完成后，UMedia可以回调用户的接口，通知处理的结果。客户需提供一个接收处理结果的URL地址，处理结果被封装成 json...
摘要：阿里巴巴集团安全部今年在直播管控中的特色在于大量采用人工智能和深度学习等技术，配合优化后的高性能多媒体计算集群，大幅度降低人工审核成本的同时，提升了对内容风险的防控能力。 阿里巴巴直播内容风险防控中的AI力量 直播作为近来新兴的互动形态和今年阿里巴巴双十一的一大亮点，其内容风险监控是一个全新的课题，技术的挑战非常大，管控难点主要包括业界缺乏成熟方案和标准、主播行为、直播内容不可控、峰值...
摘要：阿里巴巴集团安全部今年在直播管控中的特色在于大量采用人工智能和深度学习等技术，配合优化后的高性能多媒体计算集群，大幅度降低人工审核成本的同时，提升了对内容风险的防控能力。 阿里巴巴直播内容风险防控中的AI力量 直播作为近来新兴的互动形态和今年阿里巴巴双十一的一大亮点，其内容风险监控是一个全新的课题，技术的挑战非常大，管控难点主要包括业界缺乏成熟方案和标准、主播行为、直播内容不可控、峰值...
阅读 543·2021-11-17 09:33
阅读 3570·2021-09-01 10:46
阅读 1633·2019-08-30 11:02
阅读 3079·2019-08-29 15:05
阅读 1277·2019-08-26 11:39
阅读 2137·2019-08-23 17:04
阅读 1829·2019-08-23 15:43
阅读 1256·2019-08-23 14:12
