资讯专栏INFORMATION COLUMN

[python] 深度学习基础------人工神经网络实现鸢尾花分类(四)

不知名网友 / 1009人阅读

本文主要写神经网络Tensorflow的相关函数

目录

 Tensorflow的相关函数

强制tensor转换为该数据类型:tf.cast (张量名,dtype=数据类型)

计算张量维度上元素的最小值:tf.reduce_min (张量名)

计算张量维度上元素的最大值:tf.reduce_max (张量名)

axis

reduce_mean()

reduce_sum()

Variable()

TensorFlow中的数学运算

对应元素的四则运算:tf.add,tf.subtract,tf.multiply,tf.divide

举例:

平方、次方与开方: tf.square,tf.pow,tf.sqrt

data.Dataset.from_tensor_slices

GradientTape

enumerate

one_hot

nn.softmax

assign_sub

argmax

下篇文章会讲利用神经网络实现鸢尾花分类的具体代码


 Tensorflow的相关函数

强制tensor转换为该数据类型:tf.cast (张量名,dtype=数据类型)

计算张量维度上元素的最小值:tf.reduce_min (张量名)

计算张量维度上元素的最大值:tf.reduce_max (张量名)

举例:

x1 = tf.constant ([1., 2., 3.],  dtype=tf.float64)print(x1)x2 = tf.cast (x1, tf.int32)  print(x2)print (tf.reduce_min(x2),  tf.reduce_max(x2))运行结果:tf.Tensor([1. 2. 3.], shape=(3,), dtype=float64)tf.Tensor([1 2 3], shape=(3,), dtype=int32)  tf.Tensor(1, shape=(), dtype=int32)  tf.Tensor(3, shape=(), dtype=intt32)

tf. Cast  用于实现强制类型转换   把这个张量转换为指定类型

可以用reduce_min()找到这个张量中的最小值

可以用reduce_max()找到这个张量中的最大值

我们构造一个张量  他把转换为32位整型

他的最小值时1   最大值是3

axis

在一个二维张量或数组中,可以通过调整 axis 等于0或1 控制执行维度。

axis=0代表跨行(经度,down),而axis=1代表跨列(纬度,across)

如果不指定axis,则所有元素参与计算。

axis可以指定操作的方向

对于一个二维张量    

如果axis=0    表示对第一个维度进行操作  纵向操作  沿经度方向

如果axis=1    表示对第一个维度进行操作  横向操作  沿维度方向

如果axis不知道    表示对所有维度进行操作

reduce_mean()

计算张量沿着指定维度的平均值

tf.reduce_mean (张量名,axis=操作轴)

x=tf.constant([[1,2,3],[2,2,3]])print(x)print(tf.reduce_mean( x ))运行结果:  tf.Tensor([[1 2 3][2 2 3]], shape=(2, 3), dtype=int32)tf.Tensor(2, shape=(), dtype=int32)  

比如我们可以通过调整axis=0或者1来控制求平均值的方向

不指定  则对所有元素进行操作

两行三列种所有元素求均值   均值位2

reduce_sum()

计算张量沿着指定维度的和

tf.reduce_sum (张量名,axis=操作轴)

举例:

x=tf.constant([[1,2,3],[2,2,3]])print(x)print(tf.reduce_sum( x, axis=1 ))运行结果:  tf.Tensor([[1 2 3][2 2 3]], shape=(2, 3), dtype=int32)tf.Tensor([6 7], shape=(2,), dtype=int32)

横向求和  第一行和为6   第二行和为7

Variable()

tf.Variable () 将变量标记为“可训练”,被标记的变量会在反向传播  中记录梯度信息。神经网络训练中,常用该函数标记待训练参数。

tf.Variable(初始值)w = tf.Variable(tf.random.normal([2, 2], mean=0, stddev=1))

Variable函数可以将变量标记为“可训练”的

被它标记了的变量会在反向传播中记录自己的梯度信息

神经网络训练中常用这个函数标记待训练的参数

这个例子就是神经网络初始化参数w的代码

随机生成正态分布随机数

再给生成的随机数标记为可训练

这样在反向传播中就可以通过梯度下降更新参数w了

TensorFlow中的数学运算

对应元素的四则运算:tf.add,tf.subtract,tf.multiply,tf.divide

实现两个张量的对应元素相加tf.add (张量1,张量2)实现两个张量的对应元素相减tf.subtract (张量1,张量2)实现两个张量的对应元素相乘tf.multiply (张量1,张量2)实现两个张量的对应元素相除tf.divide (张量1,张量2)只有维度相同的张量才可以做四则运算

实现两个张量对应元素相加用tf. add (张量1,张量2)

实现两个张量对应元素相减用tf. subtract(张量1,张量2)

实现两个张量对应元素相乘用tf. multiply(张量1,张量2)

实现两个张量对应元素相除用t divide张量1.张量2)

只有维度相同的张量才可以做四则运算

举例:

a = tf.ones([1, 3])b = tf.fill([1, 3], 3.)print(a)print(b)print(tf.add(a,b))print(tf.subtract(a,b))print(tf.multiply(a,b))运行结果:tf.Tensor([[1. 1. 1.]], shape=(1, 3), dtype=float32)tf.Tensor([[3. 3. 3.]], shape=(1, 3), dtype=float32tf.Tensor([[4. 4. 4.]], shape=(1, 3), dtype=float32)tf.Tensor([[-2. -2. -2.]], shape=(1, 3), dtype=float32)tf.Tensor([[3. 3. 3.]], shape=(1, 3), dtype=float32)

举个例子看一下效果

先创建一个张量  一行三列  全为1

再创建一个张量  一行三列  全为3

进行四则运算    得到结果

平方、次方与开方: tf.square,tf.pow,tf.sqrt

计算某个张量的平方    tf.square (张量名)计算某个张量的n次方tf.pow (张量名,n次方数)计算某个张量的开方tf.sqrt (张量名)a = tf.fill([1, 2], 3.)print(a)print(tf.pow(a, 3))print(tf.square(a))print(tf.sqrt(a))运行结果:tf.Tensor([[3. 3.]], shape=(1, 2),  dtype=float32)tf.Tensor([[27. 27.]], shape=(1, 2),  dtype=float32)tf.Tensor([[9. 9.]], shape=(1, 2),  dtype=float32)tf.Tensor([[1.7320508 1.7320508]],shape=(1, 2), dtype=float32)

举个例子看一下效果

创建一个张量  一行两列  全为3

进行平方  开放  次方运算

data.Dataset.from_tensor_slices

切分传入张量的第一维度,生成输入特征/标签对,构建数据集

data = tf.data.Dataset.from_tensor_slices((输入特征, 标签))(Numpy和Tensor格式都可用该语句读入数据)

神经网络在训练时  是把输入特征和标签配对后喂入网络的

Tensorflow给出了把特征和标签配对的函数from_tensor_slices

这个函数对numpy格式和tensor格式都适用

举例:

features = tf.constant([12,23,10,17])  labels = tf.constant([0, 1, 1, 0])dataset = tf.data.Dataset.from_tensor_slices((features, labels))  print(dataset)for element in dataset:      print(element)运行结果: (特征,标签)配对(, )(, )(, )(, )

举个例子看一下:

收集特征是12 23 10 17每个特征对应的标签是0 1 1 0

用这个函数把特征和标签配上对

看程序运行结果:

特征12和标签0相对应

特征23和标签1相对应

特征10和标签1相对应

特征17和标签0相对应

GradientTape

with tf.GradientTape( ) as tape:若干个计算过程grad=tape.gradient(函数,对谁求导)

我们可以在with结构中使用Gradient Tape函数实现某个函数对指定参数的求导运算

配合前面讲过的  gradient函数可以实现损失函数loos对参数w的求导计算

with tf.GradientTape( ) as tape:    w = tf.Variable(tf.constant(3.0))      loss = tf.pow(w,2)grad = tape.gradient(loss,w)  print(grad)运行结果:tf.Tensor(6.0, shape=(), dtype=float32)

 

在这个例子中:

W初始值为3    损失函数是w的平方  损失函数对w求导数  是2w

把初始值w=3.0带入得到结果为6.0

计算机运行的结果也是6.0

enumerate

enumerate是python的内建函数,它可遍历每个元素(如列表、元组  或字符串)

组合为:索引 元素,常在for循环中使用。

enumerate(列表名)

enumerate是枚举的意思

它可以枚举出每一个元素    并在元素前配上对应的索引号    

组合为:索引元素   常在for循环中使用

seq = ["one", "two", "three"]for i, element in enumerate(seq):  print(i, element)运行结果:0    one1    two2    three

举例:

  i 接收 索引号   element接收 元素         运行结果如上

one_hot

独热编码(one-hot encoding):在分类问题中,常用独热码做标签,  标记类别:1表示是,0表示非。

在实现分类问题时  我们常用独热码表示标签

比如我们之前提到的鸢尾花分类  如果标签是1  表示分类结果是1杂色鸢尾

把他用独热码的型式表示:

标签:  1

独热码:   ( 0 . 1 . 0 .)

这样可以表示出每个分类的概率  也就是百分之0的可能是0狗尾草鸢尾

tf.one_hot()函数将待转换数据,转换为one-hot形式的数据输出。tf.one_hot (待转换数据, depth=几分类)

Tensorflow中提供了one_hot函数  可以将待转换数据,直接转换为独热码形式形式

两个参数:(带转换数据  几分类)

举例:

classes = 3labels = tf.constant([1,0,2]) # 输入的元素值最小为0,最大为2  output = tf.one_hot( labels, depth=classes )print(output)运行结果:[[0. 1. 0.][1. 0. 0.][0. 0. 1.]], shape=(3, 3), dtype=float32)

比如:

对于三分类  一组标签是1  0  2

转换为独热码型式 

把 标签1  标签0  标签2  转为为独热码  结果是  010 100 001

nn.softmax

0-1概率函数

对于分类问题  神经网络完成前向传播  计算出了每种类型的可能性大小1.01 2.01 -0.66

这些数字只有符合概率分布后    才可以与独热码的标签作比较

于是我们使用这个公式  使输出符合概率分布  结果是0.256   0. 695    0. 048和为1

0. 256表示0类鸢尾的概率是25. 6%

Tensorflow 中可以使用softmax函数  实现这个公式的计算

当n分类的n个输出 (y0 ,y1, …… yn-1)通过softmax( ) 函数,  便符合概率分布了。

 

 举例:

y = tf.constant ( [1.01, 2.01, -0.66] )  y_pro = tf.nn.softmax(y)print("After softmax, y_pro is:", y_pro)输出结果:After softmax, y_pro is: tf.Tensor([0.25598174	0.69583046  0.0481878], shape=(3,), dtype=float32)

举例:

创建如图张量:送入  softmax函数    输出就符合概率分布的值

assign_sub

赋值操作,更新参数的值并返回。

调用assign_sub前,先用 tf.Variable 定义变量 w 为可训练(可自更新)。

w.assign_sub (w要自减的内容)                w -= 1 即  w = w - 1

Assign_sub函数:常用于参数的自更新  等待自更新的参数w  要先被指定为可更新可训练

w = tf.Variable(4)  w.assign_sub(1)  print(w)运行结果:

比如:

这个例子里w要先被定义为variable类型  初始值是4 I

对w做自减操作,可以用W. assign_sub(1)函数  1表示自减1 

这个例子的运行结果:

W的初始值4做自减1操作  w被更新为3

argmax

返回张量沿指定维度最大值的索引

tf.argmax (张量名,axis=操作轴)

tf.argmax可以返回指定操作轴方向最大值的索引号

axis=0表示经度  axis=0表示纬度

import numpy as nptest = np.array([[1, 2, 3], [2, 3, 4], [5, 4, 3], [8, 7, 2]])print(test)print( tf.argmax (test, axis=0))  # 返回每一列(经度)最大值的索引print( tf.argmax (test, axis=1))  # 返回每一行(纬度)最大值的索引[[1 2 3] [2 3 4] [5 4 3] [8 7 2]]tf.Tensor([3 3 1], shape=(3,), dtype=int64)tf.Tensor([2 2 0 0], shape=(4,), dtype=int64)

比如

1 2 5 8  最大8  8索引号  3,2 3 4 7最大7  索引号 3,3 4 3 2最大4  索引号 1

1 2 3  最大3  3索引号  2,2 3 4 最大4  索引号 2,5 4 3最大5  索引号 0,8 7 2最大8  索引号 0

下篇文章会讲利用神经网络实现鸢尾花分类的具体代码

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/125265.html

相关文章

  • AI学习路线

    摘要:针对公司样本不足,采用小样本技术和深度学习技术结合,是项目落地的解决方案。深度学习作为当前机器学习领域最热门的技术之一,已经在图像处理领域获得了应用,并且展现出巨大的前景。旨在帮助同学们快速上手如何使用库来完整机器学习案例。 阶段一、人工智能基础 - 高等数学必知必会 本阶段主要从数据分析、概率论和线性代数及矩阵和凸优化这四大块讲解基础,旨在训练大家逻辑能力,分析能力。拥有良好的数学基...

    xuweijian 评论0 收藏0
  • 机器学习应用——导学part

    摘要:之机器学习第一弹。机器学习是发展中应用广泛的一个领域。库集成了一些常用的机器学习方法在进行机器学习任务时并不需要实现算法只需要简单的调用库中提供的模块就能完成大多数的机器学习任务。 ...

    edgardeng 评论0 收藏0
  • Python数据挖掘与机器学习技术入门实战

    摘要:在本次课程中,着重讲解的是传统的机器学习技术及各种算法。回归对连续型数据进行预测趋势预测等除了分类之外,数据挖掘技术和机器学习技术还有一个非常经典的场景回归。 摘要: 什么是数据挖掘?什么是机器学习?又如何进行Python数据预处理?本文将带领大家一同了解数据挖掘和机器学习技术,通过淘宝商品案例进行数据预处理实战,通过鸢尾花案例介绍各种分类算法。 课程主讲简介:韦玮,企业家,资深IT领...

    ephererid 评论0 收藏0
  • Python数据挖掘与机器学习技术入门实战

    摘要:在本次课程中,着重讲解的是传统的机器学习技术及各种算法。回归对连续型数据进行预测趋势预测等除了分类之外,数据挖掘技术和机器学习技术还有一个非常经典的场景回归。 摘要: 什么是数据挖掘?什么是机器学习?又如何进行Python数据预处理?本文将带领大家一同了解数据挖掘和机器学习技术,通过淘宝商品案例进行数据预处理实战,通过鸢尾花案例介绍各种分类算法。 课程主讲简介:韦玮,企业家,资深IT领...

    LdhAndroid 评论0 收藏0
  • Python数据挖掘与机器学习技术入门实战

    摘要:在本次课程中,着重讲解的是传统的机器学习技术及各种算法。回归对连续型数据进行预测趋势预测等除了分类之外,数据挖掘技术和机器学习技术还有一个非常经典的场景回归。 摘要: 什么是数据挖掘?什么是机器学习?又如何进行Python数据预处理?本文将带领大家一同了解数据挖掘和机器学习技术,通过淘宝商品案例进行数据预处理实战,通过鸢尾花案例介绍各种分类算法。 课程主讲简介:韦玮,企业家,资深IT领...

    孙吉亮 评论0 收藏0

发表评论

0条评论

不知名网友

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<