摘要：分工各不相同，树突的庞大组织作为神经元的输入，轴突则作为输出。这对应的是神经网络中神经元的两种状态激活状态和未激活状态。输入节点因为没有计算因为用方块表示，神经元用深色圆形表示。模拟的能力首先考虑一个神经元里的输出与之间的关系。
1. 神经网络介绍
神经网络的原理根本在于对人类大脑行为的神经生物学模拟，这样看的话克隆技术也能算一种了吧。大脑可以看做一台精密、稳定、计算能力超强的计算机，其中的信息处理单元就是神经元（Neuron）。神经元是大脑处理信息的最小单元，它的结构如下图：
Figure 1. 神经元结构
这个图抽象一下，由三部分组成：细胞体（Cell Body）、树突（Dendrite）、轴突（Axon）。名字都很形象，树突像一棵树那样伸展开来，轴突长而细，我隐约记得某篇文章里好像曾说道轴突有2mm那么长，对于一个看不见的细胞体带着这样长的轴突，还是相对较长的。神经元之间就是通过这些树突和轴突连接进行信息交互。分工各不相同，树突的庞大组织作为神经元的输入，轴突则作为输出。一个神经元通过其庞大的树突结构从多个神经元处接受输入信号。同时它的轴突也会伸展向不同神经元输出信号。那神经元A的树突和另一个神经元B的轴突之间是如何实现信号传递的呢？这就引出下一个概念：突触（Synapse）。
Figure 2. 突触结构图
轴突/树突上的信号以电信号形式传输，突触在信号传递的过程中会把电信号转变成化学信号，然后通过突触间隙传递到下一个神经元的树突，再次转换成电信号，从而经历电信号-化学信号-电信号的转变过程。
介绍完输入输出，下面就是神经元的细胞体了。细胞体接收输入信号后，合成为一个输出，它的具体作用过程是我所不知的，但是后面在人工神经网络中可以看到用Sigmoid function来模拟它的处理过程。
这仅仅是一个信息处理单元，据估计大脑皮层拥有大约100亿神经细胞和60万亿的突触连接，这样的网络结构结果就是造就了大脑这样的高效组织。大脑的能效大约是
焦耳每操作每秒，而相比之下较好的计算机这一数据要指数级地增长。由此也可以看到“集群”的力量，就好像蚂蚁或者蜜蜂那样。
2. 人工神经网络（Artificial Neural Network）
2.1 神经元模型
现在用计算技术来模拟这样的网络，首先就是要实现一个神经元那样的处理单元。来看一下人造的神经元：
Figure 3.神经元模型
看过了前面的神经元，这个模型就不难理解是如何模拟的。同样，它也有多个（m）输入，突触以及树突上信号传递的过程被简化为加权
，这里下标的顺序是神经元k的第j个输入权重（synaptic weight）。在这里引入一个偏置项（bias）
，然后共同作为加法器（adder）的输入。到此为止，可以看到我们是对输入做了一个加权和计算，偏置项的引入实际上把加权和变成了对输入的Affine transform。而这些突触权重在神经网络的学习过程中承担着主体作用，因为神经网络通过学习或者训练获得的知识表达（knowledge representation）就是这些权重和偏置项（偏置项可以看做是一个输入为+1、权重为
的突触连接）的具体取值。
加法器的输出就是后面激活函数（Activation function）的输入范围，通过激活函数得到神经元的最终输出。激活函数有多种类型，最常见的就是Threshold函数和Sigmoid函数。
Figure 4. (a) Threshold function; (b) Sigmoid function
形式分别为：Threshold 
Sigmoid 
其中
激活函数的作用是把输出压扁（squash）到一定范围内。以Sigmoid函数为例，输入从负无穷到正无穷，经过sigmoid函数映射到（0,1）范围，与Threshold函数不同的是它的连续性使得它的输出可以看做是结果等于1的概率。当v>0时输出为1；v<0时输出为0。这对应的是神经网络中神经元的两种状态：激活状态和未激活状态。
最后总结起来，神经元模型是一个对输入做Affine变换后经过激活函数的数学模型。
2.2 网络模型
人工神经网络是以层（layer）形式组织起来，包含一个输入层、一个输出层和一个或多个隐含层。每一层（除去输入层）中包含多个神经元，或者叫计算单元。输入层只是接收输入信号，并没有做计算。层与层之间通过神经连接（synaptic link）连接起来，如果神经元与前一层的每一个神经元之间都有连接（下图所示），这样的网络叫做全连接网络（completely-linked network），否则叫做部分连接网络（partially-linked network）。
Figure 5. 神经网络模型
这样的网络包含一个4个神经元的隐含层，一个2个神经元的输出层，一个包含10个输入节点的输入层。输入节点因为没有计算因为用方块表示，神经元用深色圆形表示。
2.3 模拟的能力
首先考虑一个神经元里的输出y与x之间的关系。激活函数的曲线在上面图4b中已经画出来，当输入由x变为ax时，曲线的平滑度将会随之变化：a越大函数曲线越陡，当a趋于正无穷时sigmoid函数逼近到Threshold函数。而如果输入由x变为x+b时，对曲线做平移。因而单个神经元是对输入的非线性映射。如图5中的网络模型，如果只有一个输入x，这个只包含一个隐含层的网络结构可以逼近x任意的非线性函数（隐含层神经元数目未必为4）。因而一个大型的全连接网络的模拟能力是可以想见的。
2.4 计算的能力
利用网络模型计算时，由输入层开始，每一个节点接收来自前一层中节点的输出，然后将计算结果传递到后面一层直到最后的输出层，叫做前向传播过程。
2.5 训练---BP
网络的训练目的就是要找到网络中各个突触连接的权重和偏置项。作为有监督学习的一种，它的训练过程是通过不断反馈当前网络计算结果与训练数据的label之间的误差来修正网络权重。当满足某个条件时退出训练。
首先取一个训练样例，输入经过初始化后的网络得到输出，然后计算输出与样例的desired output的误差，然后计算该误差对输出层输入的导数，再根据对输入层导数计算误差函数对隐含层-输出层权重的导数，根据此导数修正隐含层-输出层权重。继续这样的过程，计算误差函数对输入层-隐含层权重的导数，并修正输入层-隐含层权重……直到满足退出条件（误差精度或无调整），训练过程结束。
3. OpenCV中的神经网络
OpenCV中封装了类CvANN_MLP，因而神经网络利用很方便。
首先构建一个网络模型：
CvANN_MLP ann;
Mat structure(1,3,CV_32SC1);
structure.at
structure.at
structure.at
ann.create(structure,CvANN_MLP::SIGMOID_SYM,1,1); // 很明显第二个参数选择的是激活函数的类型
然后需要对训练数据放在两个Mat结构中。第一个是存储训练数据的Mat train，第二个是存储类别的Mat label。其中，train的每一行代表一个训练样例，label的对应的一行是训练样例的类别。比如有25个属于7个类别的训练样例，每个样例为16维向量。则train结构为25*16，label结构为25*7。需要解释的是类别数据，label中一行表示样例所处类别，如果属于第一类则为（1,0,0,0,0,0,0）,第二类为（0,1,0,0,0,0,0）...
接下来需要给ann提供一个样例的权重向量Mat weight，它标记的是训练样例的权重，这里都初始化为1：
Mat weight;
weight.ones(1,25,CV_32FC1);
接下来可以做训练了：
ann.train(train,label,weight);
训练结束后用ann来做分类，输入为Mat testSample，testSample为1*16的向量，输出为Mat output，output为1*7向量：
ann.predict(testSample,output);
最后找到output中的较大值就知道所属类别maxPos了：
int maxPos;
double maxVal;
minMaxLoc(output,0,&maxVal,0,&maxPos);
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4351.html
摘要：对于图像整体比较暗的情况，直方图均衡能得到类似的效果。这些内容老猿在数字图像处理直方图均衡算法研究及模拟实现中进行介绍，本部分主要详细介绍提供的直方图均衡函数。更多图像直方图处理的内容请参考数字图像处理第三章学习总结感悟直方图处理的介绍。 ...
摘要：实现实时人脸识别本文记录了在学习深度学习过程中，使用，开发环境为，实现局域网连接手机摄像头，对目标人员进行实时人脸识别，效果并非特别好，会继续改进这里是项目地址项目中用到的大文件地址如果各位老爷看完觉得对你有帮助的话，请给个小星星，当前时间 opencv+mtcnn+facenet+python+tensorflow 实现实时人脸识别 Abstract:本文记录了在学习深度学习过程中，...
摘要：时间永远都过得那么快，一晃从年注册，到现在已经过去了年那些被我藏在收藏夹吃灰的文章，已经太多了，是时候把他们整理一下了。那是因为收藏夹太乱，橡皮擦给设置私密了，不收拾不好看呀。 ...
摘要：然而，自然场景文本检测是不同的而且更具挑战性。深度学习文本检测器外链图片转存失败源站可能有防盗链机制建议将图片保存下来直接上传随着和的发布，我们现在可以使用名为的基于深度学习的文本检测器，该检测器基于等人年的论文。 ...
摘要：在图像技术在直播中的应用上中，我们简述了美颜技术的原理与实践问题。二图像识别的一些具体实现以智能鉴黄为例当们我们具备了相关的深度学习技术后，就可以在服务端上构建应用了。 在《图像技术在直播中的应用（上）》中，我们简述了美颜技术1.0的原理与实践问题。在文章的最后，我们提到了美颜2.0最关键的技术——人脸识别。这是项复杂但又非常热门的技术，我们将在这篇文章中聊一聊图像识别,其原理与具体实...
阅读 2839·2021-11-24 10:24
阅读 2596·2021-11-11 16:54
阅读 1931·2021-10-11 10:58
阅读 2816·2021-09-22 15:55
阅读 1913·2019-08-30 15:44
阅读 1786·2019-08-29 18:41
阅读 2517·2019-08-29 13:43
阅读 2931·2019-08-29 12:51
