凸优化

whataa 发布于2019-06-26 15:27 / 1318人阅读

摘要：凸优化凸优化的基本概念仿射集定义通过集合中任意两个不同点的直线仍然在集合内，则称集合为仿射集。没看懂凸集集合内的任意两点之间的线段均在集合内，则城集合为凸集。而凸集是线段必须在的空间范围。投射变换结合了透视变换和仿射变换

凸优化 凸优化的基本概念 仿射集

定义:通过集合C中任意两个不同点的直线仍然在集合C内，则称集合C为仿射集。
$$forall heta in R , forall x_1,x_2 in C, $ 则$ x = heta x_1 + (1 - heta)x_2$$
Alt text

仿射包

包含集合C的最小仿射集。
$$aff C = {sum 	heta_ix_i|x_i in C , sum 	heta_i =1 }$$

内点和相对内点。

没看懂

凸集

集合C内的任意两点之间的线段均在集合C内，则城集合C 为凸集。
$forall x_1,x_2 in C, 	heta in [0,1]  $，则$	heta x_1 + (1- 	heta )x_2 in C$
对比仿射集
$$forall x_1,...,x_k in C , 	heta in [0,1], and sum_{i=1}^k 	heta_i = 1,$$
 则$sum_{i=1}^k	heta_ix_i in C $
两者的关系可以解释为仿射集是线，面等。而凸集是线段必须在的空间范围。显然仿射集包括凸集。

凸包

没看懂

凸锥

如果对于任意x∈C和θ≥0都有θx∈C,我们称集合C是锥.
如果集合C是锥,并且是凸的,则称C是凸锥,即对于任意$x_1,x_2 in C$ 和 $ heta_1, heta_2 geq 0 $ 都有
$$ heta_1x_1 + heta_2x_2 in C $$
Alt text

锥包
集合C内殿的所有锥组合。
$${sum_{i=1}^k heta_i x_i | x_i in C , heta_i geq 0}$$

多面体

$$ P ={x|a^T_jx leq b_j,c^T_ix = d_i } $$

保突运算

集合交运算
仿射变换

线性函数 + 向量(旋转 平移 缩放)

这篇文章讲了下为什么引入齐次坐标。总结下就是用矩阵相乘的形式表达了线性变换(原先缩放、旋转(是相乘)，平移是相加)

仿射变换概念

透视变换

透视函数对向量进行伸缩(规范化)，使得最后一维的分量为1并舍弃。
$$P::R^{n+1}  
ightarrow R^n, P(z,t) = z /t $$

投射变换

结合了透视变换和仿射变换

专线服务 idc机房托管阿里云服务器共享型和凸发型网站优化搜索引擎优化 Web优化躬行记（5）——网站优化大陆优化

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/18083.html

深度学习的难点

摘要：深度学习的核心问题就是一个非常难的优化问题。所以在神经网络引入后的几十年间，深度神经网络的优化问题的困难性是阻碍它们成为主流的一个重要因素。因此我们对机器学习研究人员尝试找到可证明地解决深度神经网络优化问题的算法不抱有太大的希望。深度学习的核心问题就是一个非常难的优化问题。所以在神经网络引入后的几十年间，深度神经网络的优化问题的困难性是阻碍它们成为主流的一个重要因素。并导致了它们在20世纪...

liangdas 2019-04-25 18:08 评论0 收藏0
贪心学院-图神经网络高级训练营

摘要：百度网盘提取码最近一直关注贪心学院的机器学习训练营，发现这门课讲的很有深度，不仅适合职场也适合科研人员，加入行业拿到高薪仅仅是职业生涯的开始。百度网盘提取码：u6C4最近一直关注贪心学院的机器学习训练营，发现这门课讲的很有深度，不仅适合职场也适合科研人员，加入AI行业拿到高薪仅仅是职业生涯的开始。现阶段AI人才结...

番茄西红柿 2021-11-25 09:43 评论0 收藏2637
机器学习：梯度下降

摘要：学习速率的取值问题当取值较大时，即梯度下降迭代的步长较大，梯度下降迭代过程较快。在处的次梯度集称为微分集并表示为。在随机梯度下降中，我们不要求更新方向完全基于梯度。相反，我们允许方向为随机向量，并要求其期望值为当前向量处函数的次梯度。 1，概述 1.1，梯度下降法假定给定函数：，求解...

LittleLiByte 2021-11-16 11:45 评论0 收藏0
支持向量机 Support Vector Macchines

摘要：支持向量机是一种二分分类模型。线性可分支持向量机利用间隔最大化求最优分离超平面，这时，解是唯一的。支持向量是使约束条件式等号成立的点。支持向量一般很少，所以支持向量机由很少的重要的的训练样本确定。支持向量机（support vector machines, SVM）是一种二分分类模型。他的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别与别的感知机；支持向量机还包括...

objc94 2019-06-26 15:39 评论0 收藏0
GAN和蒙日-安培方程理论

摘要：最近老顾收到很多读者来信，绝大多数询问对抗生成网络的最优传输解释，以及和蒙日安培方程的关系。蒙日安培方程的几何解法硬件友好，可以用目前的并行实现。蒙日安培方程的正则性理论更加复杂，但是对于模式塌缩的理解非常关键。最近老顾收到很多读者来信，绝大多数询问对抗生成网络的最优传输解释，以及和蒙日-安培方程的关系。很多问题涉及到经典蒙日-安培方程理论，这里我们从偏微分方程和几何角度介绍一下蒙日-安培...

maybe_009 2019-04-25 18:31 评论0 收藏0