摘要：，和相互独立的随机变量。，离散变量上的概率分布。，具有分布的随机变量。，随机变量的香浓熵。表示逐元素将应用于数组。，对于所有合法的和，。或，监督学习中与关联的目标。参考资料深度学习欢迎推荐上海机器学习工作机会，我的微信
数学符号。
数和数组。?，标量(整数或实数)。?，向量。?，矩阵。?，张量。??，?行?列单位矩阵。?，维度蕴含上下文单位矩阵。?⁽ⁿ⁾，标准基向量[0,…,0,10,…,0]，其中索引n处值为1。diag(?)，对象方阵，其中对象元素由?给定。a，标量随机变量。?，向量随机变量。?，矩阵随机变量。
集合和图。?，集合。ℝ，实数集。{0,1}，包含0和1集合。{0,1,…,?}，包含0和?之间所有整数的集合。[?,?]，包含?和?的实数区间。(?,?]，不包含?但包含?的实数区间。??，差集，即其元素包含于?但不包含于?。?，图。???(??)，图?中??的父节点。
索引。??，向量?的第?个元素，其中索引从1开始。?₋?，除了第?个元素，?的所有元素。??,?，矩阵?的?,?元素。??,:，矩阵?的第?行。?:,?，矩阵?的第?列。??,?,k，3维张量?的(?,?,?)元素。?:,:,?，3维张量?的2维切片。a?，随机向量?的第?个元素。
线性代数操作。?⫟，矩阵?的转置。?⁺，?的Moore-Penrose伪造。?⨀?，?和?的逐元素乘积(Hadamard乘积)。???(?)，?的行列式。
微积分。??/??，y关于x的导数。∂?/∂?，y关于x的偏导。∇??，y关于x的梯度。∇??，y关于?的矩阵导数。∇??，y关于?求导后的张量。∂?/∂?，?:ℝⁿ->ℝⁿⁿ的Jacobian矩阵?∈ℝ⁽m*n⁾。∇⁽?⁾₍x₎?(x)or?(?)(x)，?在点?处的Hessian矩阵。∫?(?)??，?整个域上的定积分。∫??(?)??，集合?上关于?定积分。
概率和信息论。a⊥b，a和b相互独立的随机变量。a⊥b|c，给定c后条件独立。P(a)，离散变量上的概率分布。p(a)，连续变量(或变量类型未指定时)上的概率分布。a~P，具有分布P的随机变量a。Ex~p[?(?)]or??(?)，?(?)关于P(?)的期望。Var(?(?))，?(?)在分布P(?)下的方差。Cov(?(?),?(?))，?(?)和?(?)在分布P(?)下的协方差。?(?)，随机变量?的香浓熵。???(?||?)，?和?的??散度。?(?;?,∑)，均值为?，协方差为∑，?上的高斯分布。?:?->?，定义域为?值域为?的函数?。?∘?，?和?的组合。?(?:θ)，由θ参数化，关于?的函数(有时为简化表示，忽略θ，记为?(?))。log?，?的自然对数。σ(?)，Logistic sigmoid，1/(1+exp(-?))。?(?)，Softplus,log(1+exp(?))。||?||p，?的L⁽p⁾范数。||?||，?的L⁽2⁾范数。?⁺，?的正数部分，max(0,?)。1condition，如果条件为真则为1，否则为0。用函数?，参数是一个标量，应用到一个向量、矩阵或张量:?(?)、?(?)或?(?)。表示逐元素将?应用于数组。?=σ(?)，对于所有合法的i、j和k，?i,j,k=σ(?i,j,k)。
数据集和分布。?data，数据生成分布。?train，由训练集定义的经验分布。?，训练样本的集合。?⁽?⁾，数据集的第?个样本(输入)。?⁽?⁾或?⁽?⁾，监督学习中与?⁽?⁾关联的目标。?，? x ?的矩阵，行??,:为输入样本?⁽?⁾。
古希腊时期，神话人物皮格马利翁(Pygmalion)、代达罗斯(Daedalus)和赫淮斯托斯(Hephaestus)传说发明家。加拉蒂亚(Galatea)、塔洛斯(Talos)和潘多拉(Pandora)人生生命(Ovid and Martin,2004;Sparkes,1996;Tandy,1997)。
人类第一次构思可编程计算机，思考变智能(离造出第一计算机一百年)(Lovelace,1842)。人工智能(artificial intelligence,AI)众多实际应用、活跃研究课题领域，蓬勃发展。智能软件自动处理常规劳动、理解语音图像、帮助医学论断、支持基础科学研究。
早期，计算机相对简单问题迅速解决，形式化数学规则描述问题。挑战，很难形式化描述任务，如人说话、图中脸。解决方案，计算机从经验学习，根据层次化概念体系理解世界。概念通过相对简单概念关系定义。计算从经验获取知识，避免人类给计算机形式化指定知识。层次化概念让计算机构建简单概念学习复杂概念。概念建立在彼此之上的图，一张深(多层次)图。AI深度学习(deep learning)。
参考资料：
《深度学习》
欢迎推荐上海机器学习工作机会，我的微信：qingxingfengzi
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/18310.html
摘要：，和相互独立的随机变量。，离散变量上的概率分布。，具有分布的随机变量。，随机变量的香浓熵。表示逐元素将应用于数组。，对于所有合法的和，。或，监督学习中与关联的目标。参考资料深度学习欢迎推荐上海机器学习工作机会，我的微信 数学符号。 数和数组。?，标量(整数或实数)。?，向量。?，矩阵。?，张量。??，?行?列单位矩阵。?，维度蕴含上下文单位矩阵。?⁽ⁿ⁾，标准基向量[0,…,0,10,...
摘要：，和相互独立的随机变量。，离散变量上的概率分布。，具有分布的随机变量。，随机变量的香浓熵。表示逐元素将应用于数组。，对于所有合法的和，。或，监督学习中与关联的目标。参考资料深度学习欢迎推荐上海机器学习工作机会，我的微信 数学符号。 数和数组。?，标量(整数或实数)。?，向量。?，矩阵。?，张量。??，?行?列单位矩阵。?，维度蕴含上下文单位矩阵。?⁽ⁿ⁾，标准基向量[0,…,0,10,...
摘要：深度学习课程笔记梯度下降与向量化操作从属于笔者的课程笔记系列文章，本文主要记述了笔者学习系列课程的笔记与代码实现。我们首先来讨论下何谓向量化操作。 Andrew NG 深度学习课程笔记：梯度下降与向量化操作从属于笔者的Deep Learning Specialization 课程笔记系列文章，本文主要记述了笔者学习 Andrew NG Deep Learning Specializat...
摘要：深度学习课程笔记梯度下降与向量化操作从属于笔者的课程笔记系列文章，本文主要记述了笔者学习系列课程的笔记与代码实现。我们首先来讨论下何谓向量化操作。 Andrew NG 深度学习课程笔记：梯度下降与向量化操作从属于笔者的Deep Learning Specialization 课程笔记系列文章，本文主要记述了笔者学习 Andrew NG Deep Learning Specializat...
摘要：深度学习课程笔记梯度下降与向量化操作从属于笔者的课程笔记系列文章，本文主要记述了笔者学习系列课程的笔记与代码实现。我们首先来讨论下何谓向量化操作。 Andrew NG 深度学习课程笔记：梯度下降与向量化操作从属于笔者的Deep Learning Specialization 课程笔记系列文章，本文主要记述了笔者学习 Andrew NG Deep Learning Specializat...
阅读 2930·2021-02-22 17:12
阅读 509·2019-08-30 15:55
阅读 2785·2019-08-30 15:54
阅读 1258·2019-08-29 16:56
阅读 1747·2019-08-29 15:13
阅读 1561·2019-08-29 13:19
阅读 2166·2019-08-27 11:07
阅读 474·2019-08-26 13:40
