菲兹克斯喵

外观

Lesson 48 隐函数定理的应用

约 2627 字大约 9 分钟

2025-4-23

隐函数定理的应用

可以确定几何物体的切空间.

/Theorem/ (切空间)

设：

M={(x1,⋯ ,xn)∈Rn∣g1(x1,⋯ ,xn)=0⋯gk(x1,⋯ ,xn)=0}M=\left\{(x_1,\cdots,x_n)\in\R^n\left|\begin{array}{} g_1(x_1,\cdots,x_n)=0\\ \cdots\\ g_k(x_1,\cdots,x_n)=0 \end{array}\right.\right\}

(是 kk 个方程的公共零点集)，其中 k≤nk\leq n.

设 a⃗∈M\vec{a}\in M，且 a⃗\vec{a} 是 MM 的光滑点 (即 [∂jFi(a⃗)]1≤i≤k,1≤j≤n[\partial_jF_i(\vec{a})]_{1\leq i\leq k,1\leq j\leq n} 满秩 ⟺\Longleftrightarrow rk=krk=k ⟺\Longleftrightarrow ∃k×k\exist k\times k 子阵可逆)

则 MM 在 a⃗\vec{a} 处的切空间 (tangent space) 为：

Ta⃗M=(span{∇F1(a⃗),⋯ ,∇Fk(a⃗)})⊥\text{T}_{\vec{a}}M=\left(\text{span}\{\nabla F_1(\vec{a}),\cdots,\nabla F_k(\vec{a})\}\right)^\perp

且满秩要求 kk 个行向量线性无关，因此上述 span{∇F1(a⃗),⋯ ,∇Fk(a⃗)}\text{span}\{\nabla F_1(\vec{a}),\cdots,\nabla F_k(\vec{a})\} 的维数是 kk，所以切空间维数为 dim⁡Ta⃗M=n−k\dim\text{T}_{\vec{a}}M=n-k.

/Definition/ (曲面的切平面)

M⊆R3M\subseteq\R^3 是曲面，对于 a⃗∈M\vec{a}\in M，称 a⃗\vec{a} 处的 Ta⃗M\text{T}_{\vec{a}}M 为 MM 在 a⃗\vec{a} 处的切平面.

/Remark/

一般而言我们画切空间的时候会把这个切空间的几个基矢量画在原点处，但是画切平面的时候一般直接画在 a⃗\vec{a} 点处. 这并没有实质的差别，只是相差一个平移而已.

由上述定理，我们知道切平面 Ta⃗M=(span{∇F(a⃗)})⊥\text{T}_{\vec{a}}M=(\text{span}\{\nabla F(\vec{a})\})^\perp.

切平面方程：(if a⃗=(a1,a2,a3)\vec{a}=(a_1,a_2,a_3))

(x,y,z)∈M(x,y,z)\in M 在 a⃗\vec{a} 处的切平面 ⟺\Longleftrightarrow (x,y,z)∈a⃗+Ta⃗M(x,y,z)\in\vec{a}+\text{T}_{\vec{a}}M

⟺\Longleftrightarrow (x,y,z)−(a1,a2,a3)∈Ta⃗M=(span{∇F(a⃗)})⊥(x,y,z)-(a_1,a_2,a_3)\in\text{T}_{\vec{a}}M=(\text{span}\{\nabla F(\vec{a})\})^\perp

⟺\Longleftrightarrow ((x,y,z)−(a1,a2,a3))⋅∇F(a⃗)=0((x,y,z)-(a_1,a_2,a_3))\cdot\nabla F(\vec{a})=0 为切平面方程. 也可以写成偏导数形式：

∑k=13∂F∂xk(xk−ak)=0\sum_{k=1}^3\frac{\partial F}{\partial x_k}(x_k-a_k)=0

/Remark/

前述的切空间，在证明 Lagrange 乘子法的时候是一种重要的几何看法.

隐函数的求导

隐函数最难的部分不是进行计算，而是证明隐函数的存在性和光滑性 (因为和反函数存在性和光滑性相关). 但是若已经建立了隐函数的存在性和光滑性，那么计算求导就是容易的 ⟹\Longrightarrow 恒等式求导.

/Example/

{F(x,y,z)=0G(x,y,z)=0\left\{\begin{array}{lr} F(x,y,z)=0\\\\ G(x,y,z)=0 \end{array}\right.

已知 (x0,y0,z0)(x_0,y_0,z_0) 是公共解.

我们希望能够在 (x0,y0,z0)(x_0,y_0,z_0) 附近，利用上面两个方程将一些变元表示为隐函数.

由隐函数定理，若：

det⁡(Fx(x0,y0,z0)Fz(x0,y0,z0)Gx(x0,y0,z0)Gz(x0,y0,z0))≠0\det\begin{pmatrix} F_x(x_0,y_0,z_0)&F_z(x_0,y_0,z_0)\\ G_x(x_0,y_0,z_0)&G_z(x_0,y_0,z_0) \end{pmatrix}\neq0

则在 (x0,y0,z0)(x_0,y_0,z_0) 附近，可将 x,zx,z 表示为 yy 的隐函数 x=x(y)x=x(y)，z=z(y)z=z(y). 求：

x′(y)=dxdy ,z′(y)=dzdyx'(y)=\frac{\text{d}x}{\text{d}y}\,,\quad z'(y)=\frac{\text{d}z}{\text{d}y}

我们知道恒等式：

{F(x(y),y,z(y))=0G(x(y),y,z(y))=0\left\{\begin{array}{lr} F(x(y),y,z(y))=0\\\\ G(x(y),y,z(y))=0 \end{array}\right.

在 ∀y∈y0\forall y\in y_0 的某个邻域中. 对 yy 进行恒等式求导，得到

{0=Fx⋅x′(y)+Fy⋅1+Fz⋅z′(y)0=Gx⋅x′(y)+Gy⋅1+Gz⋅z′(y)⟹(FxFzGxGz)(x′(y)z′(y))=(−Fy−Gy)\begin{aligned} \left\{\begin{array}{lr} 0=F_x\cdot x'(y)+F_y\cdot1+F_z\cdot z'(y)\\\\ 0=G_x\cdot x'(y)+G_y\cdot1+G_z\cdot z'(y) \end{array}\right.\\\\ \Longrightarrow\begin{pmatrix} F_x&F_z\\G_x&G_z \end{pmatrix}\begin{pmatrix} x'(y)\\z'(y) \end{pmatrix}=\begin{pmatrix} -F_y\\-G_y \end{pmatrix} \end{aligned}

这个方程只需要求矩阵的逆即可得到结果：

(x′(y)z′(y))=1det⁡A(Gz−Fz−GxFx)(−Fy−Gy)\begin{pmatrix} x'(y)\\z'(y) \end{pmatrix}=\frac{1}{\det A}\begin{pmatrix} G_z&-F_z\\-G_x&F_x \end{pmatrix}\begin{pmatrix} -F_y\\-G_y \end{pmatrix}

其中 det⁡A\det A 是方程系数矩阵的行列式，也就是 FxGz−FzGxF_xG_z-F_zG_x.

多元微分学的应用：最值问题

求解最值问题有两个部分：

  1. 最值的存在性：用最值定理；
  2. 用变分法去确定最值点.

联系一元微分学中的最值问题，我们学过 Fermat 定理：若 x0x_0 是可导函数 ff 的极值点，则 f′(x0)=0f'(x_0)=0.

/Definition/ (极值点)

“极值点 ⟷\longleftrightarrow 局部最值点”

设 f:D→Rf:D\to\R，D⊆RnD\subseteq\R^n. 称 x0x_0 是 ff 的极小值点，如果 ∃x0\exist x_0 的 (开球) 邻域 UU (U⊆DU\subseteq D) 使得 ∀x∈U\forall x\in U 有 f(x)≥f(x0)f(x)\geq f(x_0) (即 x0x_0 是 ff 在 UU 中的最小值点).

/Definition/ (临界点)

称 x0x_0 是 ff 的临界点 (critical point)，如果：

∂f∂x1(x⃗0)=⋯=∂f∂xn(x⃗0)=0\frac{\partial f}{\partial x_1}(\vec{x}_0)=\cdots=\frac{\partial f}{\partial x_n}(\vec{x}_0)=0

/Theorem/ (Fermat 定理)

设 ff 在 x0x_0 处有方向导数 / 偏导数，若 x0x_0 是 ff 的极值点，则 x0x_0 是 ff 的 critical point.

/Proof/

/Method/ (1) (仿照一元情况)

∂f∂v⃗(x⃗0)=lim⁡t→0f(x⃗0+v⃗t)−f(x⃗0)t\begin{aligned} \frac{\partial f}{\partial\vec{v}}(\vec{x}_0)&=\lim_{t\to0}\frac{f(\vec{x}_0+\vec{v}t)-f(\vec{x}_0)}{t} \end{aligned}

如果这个极限存在，则上下极限均存在，因此考虑 t→0+t\to0+，这时 tt 足够小，x⃗0+v⃗t∈U\vec{x}_0+\vec{v}t\in U，有 f(x⃗0+v⃗t)≥f(x⃗0)f(\vec{x}_0+\vec{v}t)\geq f(\vec{x}_0)，得到导数 ≥0\geq0.

同理，对于下极限，得到导数 ≤0\leq0. 故导数 =0=0.

取 v⃗=e^k\vec{v}=\hat{e}_k，得到任意方向的偏导数都是 00.

/Method/ (2)

将 ff 限制在 path 上：令 g(t)=f(x⃗0+v⃗t)=f∘p(t)g(t)=f(\vec{x}_0+\vec{v}t)=f\circ p(t)，其中 p(t):(−ε,ε)→Dp(t):(-\varepsilon,\varepsilon)\to D (path)，p(t)=x⃗0+v⃗tp(t)=\vec{x}_0+\vec{v}t.

令 V=p−1[U]V=p^{-1}[U]，则 VV 是 00 在 R\R 中的开邻域. 由条件知，00 是 gg 在 VV 中的最小值点 ⟹\Longrightarrow 00 是 gg 的极小值点 ⟹\Longrightarrow (一元 Fermat 定理) 得到

0=ddt∣t=0g(t)=ddt∣t=0f(x⃗0+v⃗t)=∂f∂v⃗(x⃗0)0=\left.\frac{\text{d}}{\text{d}t}\right|_{t=0}g(t)=\left.\frac{\text{d}}{\text{d}t}\right|_{t=0}f(\vec{x}_0+\vec{v}t)=\frac{\partial f}{\partial\vec{v}}(\vec{x}_0)

证毕.

下面来看几个多元函数最值的例子.

/Example/

证明：ΔABC\Delta ABC 中，sin⁡Asin⁡Bsin⁡C≤(sin⁡π3)3\sin A\sin B\sin C\leq\left(\sin\frac{\pi}{3}\right)^3.

/Method/ (1) (用凸性 & Jensen 不等式)

先取一个 ln⁡\ln 化为加法，然后要证明的等价形式：

ln⁡sin⁡A+ln⁡sin⁡B+ln⁡sin⁡C3≤ln⁡sin⁡A+B+C3\frac{\ln\sin A+\ln\sin B+\ln\sin C}{3}\leq\ln\sin\frac{A+B+C}{3}

令 f(x)=ln⁡sin⁡xf(x)=\ln\sin x (0<x<π0<x<\pi).

而 ff 在 (0,π)(0,\pi) 上是上凸的 (⟺\Longleftrightarrow f′′(x)≤0f''(x)\leq0，∀x∈(0,π)\forall x\in(0,\pi)). 这样可以用 Jenson 不等式，得到：

f(A)+f(B)+f(C)3≤f(A+B+C3)\frac{f(A)+f(B)+f(C)}{3}\leq f\left(\frac{A+B+C}{3}\right)

证毕. 这个方法是我们上学期就会使用的.

/Method/ (2)

C=π−A−BC=\pi-A-B，来证明：

sin⁡Asin⁡Bsin⁡(π−A−B)≤(32)3\sin A\sin B\sin(\pi-A-B)\leq\left(\frac{\sqrt3}{2}\right)^3

∀A,B≥0\forall A,B\geq0，A+B≤πA+B\leq\pi (不等式条件保证了 DD 为闭集).

为此，令 D={(x,y)∣x,y≥0,x+y≤π}D=\{(x,y)|x,y\geq0,x+y\leq\pi\}，显然 DD 是 R2\R^2 的有界闭集，f(x,y)=sin⁡xsin⁡ysin⁡(x+y)f(x,y)=\sin x\sin y\sin(x+y).

⟹\Longrightarrow (最值定理) ff 在 DD 上有最大值点 (x0,y0)(x_0,y_0). 我们现在来看 (x0,y0)(x_0,y_0) 的候选点：

  1. 若 (x0,y0)∈∂D(x_0,y_0)\in\partial D (DD 的边界). 考虑这种情况是为了在 DD 的内部应用 Fermat 定理，须排除在边界上的可能性.

    补充定义：

    /Definition/ (内部 & 边界)

    内部：

    D∘={a⃗∣∃Br(a⃗)⊆D}\overset{\circ}{D}=\{\vec{a}|\exist B_r(\vec{a})\subseteq D\}

    (也就是 DD 内点的集合)

    边界：∂D=D−D∘\partial D=D-\overset{\circ}{D}.

    这时 x0=0x_0=0 or y0=0y_0=0 or x0+y0=πx_0+y_0=\pi，这些值都不是最大的.

  2. 若 (x0,y0)∈D∘(x_0,y_0)\in\overset{\circ}{D}.

    由 Fermat 定理，得到 (x0,y0)(x_0,y_0) 应该是 critical point，所以有方程：

    0=∂f∂x=sin⁡ysin⁡(2x+y)0=∂f∂y=sin⁡xsin⁡(x+2y)\begin{aligned} 0&=\frac{\partial f}{\partial x}=\sin y\sin(2x+y)\\ 0&=\frac{\partial f}{\partial y}=\sin x\sin(x+2y) \end{aligned}

    而 x0,y0≠0x_0,y_0\neq0，所以 sin⁡(2x0+y0)=sin⁡(x0+2y0)=0\sin(2x_0+y_0)=\sin(x_0+2y_0)=0. 而：

    0<2x0+y0,x0+2y0<2(x0+y0)≤2π0<2x_0+y_0,x_0+2y_0<2(x_0+y_0)\leq2\pi

    于是只能有 x0=y0=π/3x_0=y_0=\pi/3，找到了最大值点.

这一种证明方法更为朴素和冗长，但是好处是更加容易思考.

/Example/ (Gauss 的最小二乘法)

设 x,yx,y 两个变量，理论上我们已经知道 yy 对 xx 有依赖关系 y=f(x;α1,⋯ ,αm)y=f(x;\alpha_1,\cdots,\alpha_m) (α1\alpha_1 等是参数).

现在有实验数据：(x1,y1),⋯ ,(xn,yn)(x_1,y_1),\cdots,(x_n,y_n) (当 x=xix=x_i 时测量 y=yiy=y_i). 不妨假设 x1∼xnx_1\sim x_n 互异 (因为可以在同一个 xix_i 处测量几个不同的 yy，然后取平均).

问：如何从数据中最佳拟合出 α1∼αm\alpha_1\sim\alpha_m？

提示

当年，意大利的天文学家观测到了一颗小行星，测量了大量的数据. 过了一段时间，小行星离开了视场，法兰西科学院设立了一个大奖赛，悬赏预测小行星再次出现的位置和时间. Gauss 凭借自己发明的最小二乘法得到了冠军.

这颗星体就是著名的谷神星.

最佳拟合 ⟷\longleftrightarrow 理论公式与实际结果误差最小. 误差可以表示为：

E(α1,⋯ ,αm)=∑i=1n(f(xi;α1,⋯ ,αm)−yi)2E(\alpha_1,\cdots,\alpha_m)=\sum_{i=1}^n(f(x_i;\alpha_1,\cdots,\alpha_m)-y_i)^2

(不用绝对值的原因是绝对值函数的光滑性不好). 因此，整个问题转化为一个最值问题，也就是要求 min⁡E\min E 的条件.

因为对于一般的 ff，计算量将非常庞大，因此我们在课堂上只了解“线性最小二乘法”，即 y=f(x;α,β)=αx+βy=f(x;\alpha,\beta)=\alpha x+\beta. 这时，error 变为：

E(α,β)=∑i=1n(αxi+β−yi)2E(\alpha,\beta)=\sum_{i=1}^n(\alpha x_i+\beta-y_i)^2

  1. 第一步就比想象中复杂，因为 α,β\alpha,\beta 是完全自由的，而 R2\R^2 并非紧致，所以我们无法直接应用最值定理.

    (1) 我们之前用过这个方法，可以证明 lim⁡α2+β2→+∞E(α,β)=+∞\underset{\alpha^2+\beta^2\to+\infty}{\lim}E(\alpha,\beta)=+\infty，以此来剥夺最远处的点竞争最小值点的权利.

    留作练习.

    (2) 先求出极值点 ⊆FermatCritE\underset{\text{Fermat}}{\subseteq}\text{Crit}E (EE 的临界点集). 临界点方程是：

    {0=∂E∂α=∑i=1n2(αxi+β−yi)xi0=∂E∂β=∑i=1n2(αxi+β−yi)\left\{\begin{aligned} 0&=\frac{\partial E}{\partial\alpha}=\sum_{i=1}^n2(\alpha x_i+\beta-y_i)x_i\\ 0&=\frac{\partial E}{\partial\beta}=\sum_{i=1}^n2(\alpha x_i+\beta-y_i) \end{aligned}\right.

    也就是：

    (∑xi2∑xi∑xin)(αβ)=(∑xiyi∑yi)\begin{pmatrix} \sum x_i^2&\sum x_i\\\sum x_i&n \end{pmatrix}\begin{pmatrix} \alpha\\\beta \end{pmatrix}=\begin{pmatrix} \sum x_iy_i\\\sum y_i \end{pmatrix}

    系数矩阵的行列式：

    det⁡=n∑xi2−(∑xi)2≥0\det=n\sum x_i^2-\left(\sum x_i\right)^2\geq0

    (Cauchy - Schwartz 不等式，仅在 (x1,⋯ ,xn)∥(1,⋯ ,1)(x_1,\cdots,x_n)\parallel(1,\cdots,1) 时取等). 已经设 {xi}\{x_i\} 互异，所以不会取等，于是系数矩阵可逆，EE 有唯一的 critical point.

  2. 直接证明 E(α,β)≥E(α0,β0)E(\alpha,\beta)\geq E(\alpha_0,\beta_0) (因为我们已经知道它是 critical point，再证明极值点存在并不简单，还不如从定义出发)

    Taylor 展开：

    E(α,β)=E(α0,β0)+0+12(α−α0β−β0)HE(α−α0β−β0)=E(α0,β0)+12(α−α0β−β0)(2∑xi22∑xi2∑xi2n)(α−α0β−β0)≥E(α0,β0)\begin{aligned} &E(\alpha,\beta)\\ &=E(\alpha_0,\beta_0)+0+\frac{1}{2}\begin{pmatrix} \alpha-\alpha_0&\beta-\beta_0 \end{pmatrix}H_E\begin{pmatrix} \alpha-\alpha_0\\\beta-\beta_0 \end{pmatrix}\\\\ &=E(\alpha_0,\beta_0)+\frac{1}{2}\begin{pmatrix} \alpha-\alpha_0&\beta-\beta_0 \end{pmatrix}\begin{pmatrix} 2\sum x_i^2&2\sum x_i\\ 2\sum x_i&2n \end{pmatrix}\begin{pmatrix} \alpha-\alpha_0\\\beta-\beta_0 \end{pmatrix}\\\\ &\geq E(\alpha_0,\beta_0) \end{aligned}

    (一次项为零，二次项可以用 Hessian 矩阵写成二次型，Hessian 矩阵是正定矩阵)

证毕.

版权归属：physnya

许可证：署名-非商业性-相同方式共享 4.0 国际 (CC-BY-NC-SA-4.0)