知识库 · 文字讲解,AI 整理
拉格朗日乘子
约束曲面上的切向与法向
对等式约束 $c(x)=0$，在正则点 $\nabla c(x)\ne0$，所有可行的切向微小位移 $h$ 满足
LaTeX
$$\nabla c(x)^\mathsf T h=0.$$
因此梯度 $\nabla c$ 是约束曲面的法向量。若 $f$ 在约束曲面上取局部极值，沿切向的方向导数必须为 $0$：
LaTeX
$$\nabla f(x)^\mathsf T h=0 \quad\text{对所有可行切向 }h.$$
于是 $\nabla f$ 也垂直于切空间；当只有一个独立等式约束时，
LaTeX
$$\nabla f(x)=\lambda\nabla c(x)$$
（乘子正负号取决于 Lagrangian 的定义）。这就是拉格朗日乘子法的几何推导。
例:圆周上最小化线性函数
考虑
LaTeX
$$\min_{x,y}(x+y),\qquad x^2+y^2=1.$$
取
LaTeX
$$\mathcal L(x,y,\lambda)=x+y+\lambda(x^2+y^2-1).$$
驻值方程：
LaTeX
$$1+2\lambda x=0,\qquad
1+2\lambda y=0,\qquad
x^2+y^2=1.$$
前两式得 $x=y$；代回约束得到 $x=y=\pm1/\sqrt2$。比较目标值：
LaTeX
$$f(1/\sqrt2,1/\sqrt2)=\sqrt2,\qquad
f(-1/\sqrt2,-1/\sqrt2)=-\sqrt2.$$
故最小点和最小值分别为
LaTeX
$$\boxed{(x^*,y^*)=(-1/\sqrt2,-1/\sqrt2),\quad f_{\min}=-\sqrt2.}$$
可以直接由 Cauchy–Schwarz 不等式 $x+y\ge-\sqrt{2(x^2+y^2)}=-\sqrt2$ 验证最优性。
和变分法的联系
普通拉格朗日乘子将有限维梯度的线性相关性变成驻值条件；变分法则把有限维梯度替换为函数空间上的一阶变分。两者都通过“允许的变化方向的导数为零”推导约束方程。见 Euler–Lagrange 方程。
用到它的地方
- 讲义 几何投影、拉格朗日乘子与 KKT 约束优化
- 知识库 KKT 条件
- 知识库 偏导数、梯度与全微分
核对
这一条是文字讲解,由 AI 整理,没有可以数值核对的步骤;作者读过后才公开。