微积分笔记（38）——多变量函数的微分学（1）

微积分笔记（38）——多变量函数的微分学（1）

多变量函数的微分学

多元函数的方向导数与偏导数

方向导数（函数沿某方向的普遍化率）

设 $f : D \to \mathbb{R}, a \in D^\circ$：

1. 对于单位向量 $\mathbf{u} \in \mathbb{R}^n(\| \mathbf{u} \| = 1)$ 定义：
   $$\frac{\partial f}{\partial \mathbf{u}} (\mathbf{a}) := \lim_{t \to 0} \frac{f(\mathbf{a} + t \mathbf{u}) – f(\mathbf{a})}{t}$$
   若极限存在，称为 $f$ 在 $\mathbf{a}$ 点沿方向 $\mathbf{u}$ 的导数。

2. 对于非零向量 $\mathbf{u} \in \mathbb{R}^n(\| \mathbf{u} \| \not = 0)$ 定义：
   

   $$\frac{\partial f}{\partial \mathbf{u}} (\mathbf{a}) := \frac{\partial f}{\partial \widetilde{\mathbf{u}}} (\mathbf{a}), \widetilde{\mathbf{u}} = \frac{\mathbf{u}}{\| \mathbf{u} \|}$$
   即单位化向量。

注：记 $\varphi(t) = f(\mathbf{a} + t \widetilde{\mathbf{u}})$，则显然 $\varphi^\prime(0) = \frac{\partial f}{\partial \mathbf{u}} (\mathbf{a})$。

偏导数（多元函数关于单个变元的变化率）

设 $f : D \to \mathbb{R}, a \in D^\circ$，考虑单位向量 $\mathbf{u}_i = (0, \cdots, 1, \cdots, 0) \in \mathbb{R}^n$（第 $i$ 个位置是 $1$）：

$$\frac{\partial f}{\partial x_i} (\mathbf{a}) := \frac{\partial f}{\partial \mathbf{u}_i} (\mathbf{a})$$
也记作：
$$D_if(\mathbf{a}) = \frac{\partial f}{\partial x_i} (\mathbf{a})$$
称为 $f$ 在 $\mathbf{a}$ 点第 $i$ 个偏导数，$i = 1, 2, \cdots, n$

注：
1. 根据上面定义，第 $i$ 个偏导数即沿第 $i$ 个坐标轴正向的方向导数。
2. 第 $i$ 个偏导数计算方法：将 $n$ 元函数看作一元函数求导（仅依赖第 $i$ 个变元）。

多元函数的微分

空间曲面的切平面

已知空间曲面 $S$ 的函数表示：$z = f(x, y)$。

给定 $S$ 上一点 $P = (x_0, y_0, z_0)$，考察曲面该点的切平面方程：

1. 过 $P$ 点的平面方程：$z = z_0 + a(x – x_0) + b(y – y_0)$。
2. 作为曲面 $S$ 上 $P$ 点切平面应该有 $z_0 = f(x_0, y_0)$。

$$f(x, y) – z_0 – a(x – x_0) – b(y – y_0) = o \left (\sqrt{(x – x_0)^2 + (y – y_0)^2} \right )$$

注：上式也可看作 $2$ 元函数在一点附近的线性近似。

函数的线性近似

已知函数：$u = f(x, y, z)$。

给定一点 $P_0 = (x_0, y_0, z_0)$，考察函数在该点附近的线性近似：

1. 线性函数 $u = u_0 + a(x – x_0) + b(y – y_0) + c(z – z_0)$。
2. 作为已知函数在该点附近的近似：$u_0 = f(x_0, y_0, z_0)$。

$$f(x, y, z) – u_0 – a(x – x_0) – b(y – y_0) – c(z – z_0) = o \left [\sqrt{(x – x_0)^2 + (y – y_0)^2 + (z – z_0)^2} \right ]$$

函数的微分

设 $f : D \to \mathbb{R}, D \subseteq \mathbb{R}^m, \mathbf{a} \in D^\circ$。

称 $f$ 在 $\mathbf{a}$ 点可微，如果存在 $n$ 维向量 $\mathbf{A} = (\lambda_1, \cdots, \lambda_n)$：

$$f(\mathbf{a} + \Delta \mathbf{x}) – f(\mathbf{a}) = \left < \mathbf{A}, \Delta \mathbf{x} \right > + o(\| \Delta \mathbf{x} \|)$$
也即：
$$\lim_{\| \Delta \mathbf{x} \| \to 0} \frac{| f(\mathbf{a} + \Delta \mathbf{x}) – f(\mathbf{a}) – \left < \mathbf{A}, \Delta \mathbf{x} \right > |}{\| \Delta \mathbf{x} \|} = 0$$
这时记 $\mathrm{d} f(\mathrm{a}) := \left <\mathbf{A}, \Delta \mathbf{x} \right >$——$f$ 在 $\mathbf{a}$ 点附近增量的线性近似。

称为 $f$ 在 $\mathbf{a}$ 点的微分，$\mathbf{A}$ 称为微分系数（向量）。

微分系数的计算

设 $f$ 在 $\mathbf{a}$ 点可微，$\mathrm{d} f(\mathbf{a}) = \left <\mathbf{A}, \Delta \mathbf{x} \right >, \mathbf{A} = (\lambda_1, \cdots, \lambda_n)$，因而有：

$$\lim_{\| \Delta \mathbf{x} \| \to 0} \frac{| f(\mathbf{a} + \Delta \mathbf{x}) – f(\mathbf{a}) – \left < \mathbf{A}, \Delta \mathbf{x} \right > |}{\| \Delta \mathbf{x} \|} = 0$$
回忆 $\mathbf{u}_i = (0, \cdots, 1, \cdots, 0) \in \mathbb{R}^n$（第 $i$ 个位置是 $1$）。

为确定微分系数，取 $\Delta \mathbf{x} = t \mathbf{u}_i, \| \mathbf{x} \| = |t|, \left <\mathbf{A}, \Delta \mathbf{x} \right > = \left <\mathbf{A}, t \mathbf{u}_i \right > = t \lambda_i$。

代入极限：

$$\lim_{t \to 0} \left| \frac{f(\mathbf{a} + t \mathbf{u}_i) – f(\mathbf{a})}{t} – \lambda_i \right| = 0$$
可见：
$$\lambda_i = \lim_{t \to 0} \frac{f(\mathbf{a} + t \mathbf{u}_i) – f(\mathbf{a})}{t} = \frac{\partial f}{\partial x_i} (\mathbf{a}) = D_i f(\mathbf{a}), i = 1, 2, \cdots, n$$

推论：
1. 设 $f : D \to \mathbb{R}, \mathbf{a} \in D^\circ$，如果 $f$ 在 $\mathbf{a}$ 点可微，则在 $\mathbf{a}$ 点的偏导数存在，且：

$$\mathrm{d} f(\mathbf{a}) = D_1 f(\mathbf{a}) \Delta x_1 + \cdots + D_n f(\mathbf{a}) \Delta x_n$$
2. 设 $f : D \to \mathbb{R}, a \in D^\circ$，如果 $f$ 在 $\mathbf{a}$ 点可微，则在 $\mathbf{a}$ 点连续：
$$f(\mathbf{a} + \Delta \mathbf{x}) – f(\mathbf{a}) = \left < \mathbf{A}, \Delta \mathbf{x} \right > + o(\| \Delta \mathbf{x} \|) \le \| \mathbf{A} \| \cdot \| \Delta \mathbf{x} \| + |o(\| \Delta \mathbf{x} \|)| \to 0$$

梯度向量

$f : D \to \mathbb{R}, \mathbf{a} \in a^\circ$，令 $f$ 在 $\mathbf{a}$ 点可微，引入梯度向量记号：

$$\mathrm{grad} \, f(\mathbf{a}) := (D_1 f(\mathbf{a}), \cdots, D_n f(\mathbf{a}))$$
则 $f(\mathbf{a} + \Delta \mathbf{x}) – f(\mathbf{a}) = \left < \mathrm{grad} \, f(\mathbf{a}) , \Delta \mathbf{x} \right > + o(\| \Delta \mathbf{x} \|)$。

为考虑方向导数，取 $\Delta \mathbf{x} = t \mathbf{u}, \mathbf{u} \in \mathbb{R}^n, \| \mathbf{u} \| = 1$：

$$\frac{f(\mathbf{a} + t \mathbf{u}) – f(\mathbf{a})}{t} = \left < \mathrm{grad} \, f(\mathbf{a}), \mathbf{u} \right > + \frac{o(t)}{t} \to \left < \mathrm{grad} \, f(\mathbf{a}), \mathbf{u} \right >$$
由此导出：

如果 $f$ 在 $\mathbf{a}$ 点可微，则对于任意方向 $\mathbf{u} \in \mathbb{R}^n, \| \mathbf{u} \| = 1$：

$$D_\mathbf{u} f(\mathbf{a}) = \frac{\partial f}{\partial \mathbf{u}} (\mathbf{a}) = \mathrm{grad} \, f(\mathbf{a}) \mathbf{u}$$
可用于计算方向导数。

推论（梯度向量的几何意义）：
1. 对于任意方向 $\mathbf{u}$，$|D_\mathbf{u} f(\mathbf{a})| \le \| \mathrm{grad} \, f(\mathbf{a}) \|$。
2. 若 $\mathrm{grad} f(\mathbf{a}) \not = 0, \mathbf{u} = \dfrac{\mathrm{grad} f(\mathbf{a})}{\| \mathrm{grad} f(\mathbf{a}) \|}$，则 $D_\mathbf{u} f(\mathbf{a}) = \| \mathrm{grad} f(\mathbf{a}) \|$。

注：上述结论说明，关于 $f$ 在 $\mathbf{a}$ 点的梯度向量。

梯度向量的方向是 $f$ 值增加最快的方向（反向是下降最快的方向）。

其大小是 $f$ 该点所有方向导数的最大值。

函数可微的条件

必要条件：令 $f$ 在 $\mathbf{a}$ 点可微，则存在：

$$\mathrm{grad} \, f(\mathbf{a}) = (D_1 f(\mathbf{a}), \cdots, D_n f(\mathbf{a}))$$
从而在该点的所有方向导数存在。

注：在一点即便所有方向导数都存在，函数也可能不可微。

充分条件：设 $f$ 的每个偏导数 $D_i f(\mathbf{x}), i = 1, 2, \cdots, n$。

在 $\mathbf{x} = \mathbf{a}$ 点都存在且连续，则 $f$ 在 $\mathbf{a}$ 点可微。

证明：以 $n = 2$ 为例，在 $P = (a, b)$ 点附近考虑函数 $f(x, y)$：

$$f(a + \Delta x, b + \Delta y) – f(a, b) = f(a + \Delta x, b + \Delta y) – f(a + \Delta x, y) + f(a + \Delta x, y) – f(a, b)$$
应用一元函数中值定理 $\exists \eta, \theta \in (0, 1)$：
$$f(a + \Delta x, b + \Delta y) – f(a + \Delta x, y) = D_y f(a + \Delta x, b + \eta \Delta y) \Delta y \\ f(a + \Delta x, y) – f(a, b) = D_x f(a + \theta \Delta x, b) \Delta x$$
进一步将上式右端记为：
$$D_y f(a + \Delta x, b + \eta \Delta y) \Delta y = D_y f(a, b) \Delta y + [\beta] \Delta y \\ D_x f(a + \theta \Delta x, b) \Delta x = D_x f(a, b) \Delta x + [\alpha] \Delta x$$
综上：
$$f(a + \Delta x, b + \Delta y) – f(a, b) = D_x f(a, b) \Delta x + [\alpha] \Delta x + D_y f(a, b) \Delta y + [\beta] \Delta y$$
其中：
$$[\alpha] = [D_x f(a + \theta \Delta x, b) – D_x f(a, b)] \\ [\beta] = [D_y f(a + \Delta x, b + \eta \Delta y) – D_y f(a, b)]$$
已知 $D_x f(x, y), D_y f(x, y)$ 在 $P = (a, b)$ 点连续，则：
$$| [\alpha] \Delta x + [\beta] \Delta y | \Big / \sqrt{\Delta x^2 + \Delta y^2} \le |[\alpha] + [\beta]| \to 0$$
所以：
$$f(a + \Delta x, b + \Delta y) – f(a, b) = D_x f(a, b) \Delta x + D_y f(a, b) \Delta y + o \left [ \sqrt{\Delta x^2 + \Delta y^2} \right ] \ \ \square$$

函数连续-可导-可微之间的关系

偏导数在 $\mathbf{a}$ 点都连续 $\Rightarrow$ 可微 $\Rightarrow$ 则连续且所有方向导数都存在。

向量值函数的微分

函数的微分（向量值函数）

设 $\pmb{f} : D \to \mathbb{R}^m, D \subseteq \mathbb{R}^n, \mathbf{a} \in D^\circ$，称 $f$ 在 $\mathbf{a}$ 点可微：如果存在 $m \times n$ 矩阵 $A$ 满足：

$$\pmb{f}(\mathbf{a} + \Delta \mathbf{x}) – \pmb{f}(\mathbf{a}) = A \Delta \mathbf{x} + o(\| \pmb{h} \|)$$
也即：
$$\lim_{\| \Delta \mathbf{x} \| \to 0} \frac{\pmb{f}(\mathbf{a} + \Delta \mathbf{x}) – \pmb{f}(\mathbf{a})}{\| \Delta \mathbf{x} \|} = 0$$
这时 $f$ 在 $\mathbf{a}$ 点的微分记为 $\mathrm{d} \pmb{f}(\mathbf{a}) := A \Delta \mathbf{x}$。

注：为表述方便，上面采用了矩阵记号和运算规定，$\pmb{f}(x)$ 为列向量见前，$\Delta \mathbf{x}$ 同理。
可以发现 $\pmb{f}$ 在 $\mathbf{a}$ 点可微等价于 $\pmb{f}$ 的所有分量函数在 $\mathbf{a}$ 点可微。

Jacobian 雅克比矩阵

若 $\pmb{f}$ 在 $\mathbf{a}$ 点可微，则定义 $\pmb{f}$ 在 $\mathbf{a}$ 点的雅克比矩阵为：

$$J\pmb{f}(\mathbf{a}) := \begin{pmatrix} D_1 f_1(\mathbf{a}) & \cdots & D_n f_1(\mathbf{a}) \\ \vdots & \ddots & \vdots \\ D_1 f_m(\mathbf{a}) & \cdots & D_n f_m(\mathbf{a}) \end{pmatrix}$$

推论：设 $\pmb{f} : D \to \mathbb{R}^m, D \subseteq \mathbb{R}^n, \mathbf{a} \in D^\circ$。
1. 若 $\pmb{f}$ 在 $\mathbf{a}$ 点可微，则在 $\mathbf{a}$ 点雅克比矩阵存在，并有：

$$\mathrm{d} \pmb{f}(\mathbf{a}) = J \pmb{f}(\mathbf{a}) \Delta \mathbf{x}$$
2. 若 $\pmb{f}$ 的雅克比矩阵在 $\mathbf{a}$ 点存在且连续，则 $\pmb{f}$ 在 $\mathbf{a}$ 点可微。
3. 若 $m = 1$，则 $J(\mathbf{a}) = \mathrm{grad} f(\mathbf{a})$。

 微积分 笔记