本文主要是介绍AI理论随笔-最优化（1），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
线性规则（优化）是一类最优化问题。其中，目标函数是未知数的线性函数。约束条件是线性等式和线性不等式构成。
标准形式为：
m i n ( m a x ) c T x s . t . A x = b x ≥ 0 min(max) c^{T}x\\ s.t.Ax=b\\ x\geq0 min(max)cTxs.t.Ax=bx≥0
其中 x x x为n维列向量， c T c^{T} cT为n维行向量，A为 m × n m\times n m×n阶矩阵， b b b为n维列向量。 x ≥ 0 x\geq 0 x≥0表示 x x x的每一分量非负。
将线性不等式转为等式：
m i n c T x s . t . a 11 x 1 + a 12 x 2 + . . . + a 1 n x n ≤ b 1 . . . x ≥ 0 min c^{T}x\\ s.t. a_{11}x_{1}+a_{12}x_{2}+...+a_{1n}x_{n}\leq b_{1}\\ .\\ .\\ .\\ x\geq0 mincTxs.t.a11x1+a12x2+...+a1nxn≤b1...x≥0
加上松驰变量 y 1 、 y 2 、 . . . 、 y m y_{1}、y_{2}、...、y_{m} y1、y2、...、ym
m i n c T x s . t . a 11 x 1 + a 12 x 2 + . . . + a 1 n x n + y 1 = b 1 . . . x ≥ 0 min c^{T}x\\ s.t. a_{11}x_{1}+a_{12}x_{2}+...+a_{1n}x_{n} +y_{1}= b_{1}\\ .\\ .\\ .\\ x\geq0 mincTxs.t.a11x1+a12x2+...+a1nxn+y1=b1...x≥0
m i n c T x s . t . a 11 x 1 + a 12 x 2 + . . . + a 1 n x n ≥ b 1 . . . x ≥ 0 min c^{T}x\\ s.t. a_{11}x_{1}+a_{12}x_{2}+...+a_{1n}x_{n}\geq b_{1}\\ .\\ .\\ .\\ x\geq0 mincTxs.t.a11x1+a12x2+...+a1nxn≥b1...x≥0
也可减上剩余变量 y 1 、 y 2 、 . . . 、 y m y_{1}、y_{2}、...、y_{m} y1、y2、...、ym
m i n c T x s . t . a 11 x 1 + a 12 x 2 + . . . + a 1 n x n − y 1 = b 1 . . . x ≥ 0 min c^{T}x\\ s.t. a_{11}x_{1}+a_{12}x_{2}+...+a_{1n}x_{n} -y_{1}= b_{1}\\ .\\ .\\ .\\ x\geq0 mincTxs.t.a11x1+a12x2+...+a1nxn−y1=b1...x≥0
如果有变量满足非负性，则称为自由变量
假设 x 1 x_{1} x1为自由变量，则可设
x 1 = u 1 − v 1 u 1 ≥ 0 v 1 ≥ 0 x_{1}=u_{1}-v_{1}\\ u_{1} \geq 0\\ v_{1} \geq 0 x1=u1−v1u1≥0v1≥0
也可通过用约束等式消掉 x 1 x_{1} x1
m i n x 1 + 2 x 2 + 8 x 3 s . t . x 1 + 12 x 2 + x 3 = 10 x 1 + x 2 + x 3 = 8 min\ x_{1}+2x_{2}+8x_{3}\\ s.t. \ x_{1}+12x_{2}+x_{3}=10\\ x_{1}+x_{2}+x_{3}=8\\ min x1+2x2+8x3s.t. x1+12x2+x3=10x1+x2+x3=8
将 x 1 x_{1} x1消去
x 1 = 10 − 12 x 2 + x 3 x_{1}=10-12x_{2}+x_{3} x1=10−12x2+x3
自由变量没有了，成为标准线性优化问题
m i n x 1 + 2 x 2 + 8 x 3 s . t . 10 − 12 x 2 + x 3 + 12 x 2 + x 3 = 10 10 − 12 x 2 + x 3 + x 2 + x 3 = 8 min\ x_{1}+2x_{2}+8x_{3}\\ s.t. \ 10-12x_{2}+x_{3}+12x_{2}+x_{3}=10\\ 10-12x_{2}+x_{3}+x_{2}+x_{3}=8\\ min x1+2x2+8x3s.t. 10−12x2+x3+12x2+x3=1010−12x2+x3+x2+x3=8
这篇关于AI理论随笔-最优化（1）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
