wiisメモ（1変数関数の積分～微分積分の応用例）
前回の続き
mathjax
- コピペ用ゼロ幅空白「」
1変数関数の積分
リーマン積分
- 関数を分割（partition）し、分割から代表点（representative point）を取り出し、関数との積を取ると符号付き面積（signed area）になり、これの総和をリーマン和（Riemann sum）といい、以下のように書く
$$\displaylines{
\begin{align}
S(f,P,P^{*}) &= \sum_{k=1}^{n} [|J_{k}| \cdot f(x^{*}_{k})] \\
&= \sum_{k=1}^{n} [(x_{k} - x_{k - 1}) \cdot f(x_{k})]
\end{align}
}$$
- 代表点の取り方によって左側リーマン和（left Riemann sum）、右側リーマン和（right Riemann sum）、中点リーマン和（midpoint Riemann sum）などの種類が存在する
- この分割を無限に増やしていって総和が有限な実数になる場合、リーマン積分可能（Riemann integrable）といい、
$$ \lim_{|P| \to 0} S(f,P,P^{*}) = L $$
- この極限を定積分（definite integral）という
$$ \int_{a}^{b} f(x)dx=L $$
- ↑の $f(x)$ を被積分関数（integrand）という
- 実際に定積分を確定するには、まずは1つ特定の定積分の候補を探し、それを定義に当てはめて任意の取り方で成り立つことを示すことが多い
- 区間の和の取り方上限と下限は以下のようになるので
$$\displaylines{
|J_{k}| \cdot \sup f(J_{k}) = (x_{k} - x_{k - 1}) \cdot \sup f(J_{k}) \\
|J_{k}| \cdot \inf f(J_{k}) = (x_{k} - x_{k - 1}) \cdot \inf f(J_{k})
}$$
- 上リーマン和（upper Riemann sum）と下リーマン和（lower Riemann sum）は以下の通り
$$\displaylines{
U(f,P) = \sum_{k=1}^{n} [|J_{k}| \cdot \sup(J_{k})] \\
L(f,P) = \sum_{k=1}^{n} [|J_{k}| \cdot \inf(J_{k})]
}$$
- 分割を増やせば増やすほど下リーマン和は増加し、上リーマン和は減少する、つまり2つの分割 $P \subset Q$ があれば、
$$\displaylines{
L(f, P) \leq L(f, Q) \\
U(f, P) \geq U(f, Q)
}$$
- ↑を踏まえてもなお、どんな2種類の分割を使ったとしても、上リーマン和のほうが大きいか同じ、つまり包含関係があるとは限らない2つの分割 $P,Q$ を使って以下のように書ける
$$ L(f,P) \leq U(f,Q) $$
- 上リーマン和の下限を上リーマン積分（upper Riemann integral）といい、下リーマン和の上限を下リーマン積分（lower Riemann integral）といい、それぞれ以下のように書く
$$\displaylines{
\overline{\int_{a}}^{b}f(x)dx = \inf\{U(f,P) \in \mathbb{R} \ | \ P \text{ is partition of } [a,b]\} \\
\underline{\int^{b}}_{a}f(x)dx = \sup\{L(f,P) \in \mathbb{R} \ | \ P \text{ is partition of } [a,b]\}
}$$
- 分割Pの大きさを限りなく0に近づけたときに上リーマン和がある実数Lに限りなく近づくとき、つまり $$ \forall \varepsilon > 0, \exists \delta > 0, \forall P: (|P| < \delta \Rightarrow |U(f,P) - L| < \varepsilon) $$ のとき、上リーマン積分可能（upper Riemann integrable）といい、以下のように書く
$$ \lim_{|P| \to 0} U(f,P)=L $$
$$ \lim_{|P| \to 0} U(f,P)= \overline{\int_{a}}^{b}f(x)dx $$
- 上積分と下積分が一致することはリーマン積分可能であることと必要十分で、なおかつ定積分と一致する
積分可能性に関するコーシーの判定条件（Cauchy criterion for integrability）: 分割を適当に変更することで上リーマン和と下リーマン和の差をいくらでも小さくできるなら、つまり $$ \forall \varepsilon > 0, \exists P: U(f,P) - L(f,P) < \varepsilon $$ が成り立つことと積分可能であることは必要十分である
関数の振幅（oscillation）として $\text{osc} f(I) = \sup f(I) - \inf f(I)$ と定義すると、↑のコーシーの判定条件は以下と必要十分になる
$$ \forall \varepsilon > 0, \exists P: \sum_{k=1}^{n} (x_{k} - x_{k - 1}) \cdot \text{osc} f(x_{k} - x_{k - 1}) < \varepsilon $$
また、↑を使うとすでに積分可能であることが分かっている関数を使って別の関数の積分可能性の判定も可能になる。具体的には、$c \geq 0$で関数gが積分可能なとき、 $\text{osc} f(I) \leq c \cdot \text{osc} g(I)$ が成り立てば関数fもまた積分可能
- 端点だけでなくても、不連続な点の個数が有限であればやはり積分可能
- 定積分は分割して足しても結果は変わらない、つまり
$$ \int_{a}^{b}f(x)dx = \int_{a}^{c}f(x)dx + \int_{c}^{b}f(x)dx $$
- ↑でcはaとbの間にある必要はなく、なんなら $a,b,c$ は任意の実数で式が成り立つ
- 分割も、有限個である限り任意の回数行ってよい
- 関数の和については、上積分と下積分は、以下の通り「過剰和」「不足和」との別名がある通りの結果になる（例：ディリクレの関数）
$$\displaylines{
\overline{\int_{a}}^{b}(f+g)(x)dx \leq \overline{\int_{a}}^{b}f(x)dx + \overline{\int_{a}}^{b}g(x)dx \\
\underline{\int^{b}}_{a}(f+g)(x)dx \geq \underline{\int^{b}}_{a}f(x)dx + \underline{\int^{b}}_{a}g(x)dx
}$$
- ただ、定積分についてはイコールで結べる
$$ \int_{a}^{b}(f+g)(x)dx = \int_{a}^{b}f(x)dx + \int_{a}^{b}g(x)dx $$
- （定数倍・和・差はそのまま分割できるが、積・商はの具体的な算出は単純にはいかず、別途考える必要がある）
- 定積分の単調性（monotonicity）:
$$ \forall x \in [a,b]: f(x)\geq g(x) \implies \int_{a}^{b}f(x)dx \geq \int_{a}^{b}g(x)dx $$
- 定積分の値の範囲は以下のように絞ることができる $$ \int_{a}^{b} \inf f([a,b])dx \leq \int_{a}^{b}f(x)dx \leq \int_{a}^{b} \sup f([a,b])dx $$ ただし、$\inf f([a,b]), \sup f([a,b])$はそれぞれ定数になるので、より簡略化できて
$$ (b-a) \inf f([a,b]) \leq \int_{a}^{b}f(x)dx \leq (b-a) \sup f([a,b]) $$
- 関数fの[a,b]上の平均値は、積分を使って以下のように書ける
$$ \frac{1}{b-a} \int_{a}^{b} f(x)dx $$
- 定積分に関する平均値の定理（mean value theorem for integrals）: ↑と一致する瞬間が必ずある
- 微分積分学の第2基本定理（second fundamental theorem of calculus） or 求積分定理（evaluatioin theorem）: ある関数がリーマン積分可能で、連続で微分可能な場合、 $$ \forall x \in (a,b): F'(x) = f(x) $$ を満たす $f$ の原始関数（primitive function）$F$ を用いて、以下のように求めることができる
$$ \int_{a}^{b} f(x)dx = F(b) - F(a) $$
$$ f(b)-f(a) = \int_{a}^{b} \frac{df(x)}{dx}dx $$
微分積分学の第1基本定理（first fundamental theorem of calculus）: 関数 $f:[a,b]$ に対して新たに $$ F(x) = \int_{a}^{x} f(t)dt $$ を定義すると、$F$ は連続になる。さらに、元の $f$ が連続ならば、 $F$ は微分可能になり、 $F'(x)=f(x)$ となる
↑の意味するところは、連続な関数には必ず原始関数が存在することを保証していることと、微分と積分が対称的な存在であることを言っている
- 原始関数は一意に定まるとは限らず、任意の定数 $C$ が存在してもそれらの導関数は一致する
- 不定積分（indefinite integral）:
$$ F(x) = \int_{a}^{x} f(t)dt+C $$
- 不定積分は存在するとは限らないが、存在すればそれは連続関数
- 連続であるという条件の下で、関数の不定積分は原始関数の1つでもあり、原始関数は不定積分でもあることから、連続関数に対する不定積分と原始関数は一致する
積分の和・差・定数倍はそのまま分割できる
逆関数を求めるには、y=与式を用意してxについて解き、xとyを反転させる
置換積分は、原始関数が直接求めにくい場合に別の関数の逆関数を使って間接的に求める手法。元の関数fとは別の関数gを任意に選び、 $$ H = (f \circ g^{-1}) \cdot \frac{dg^{-1}}{du} $$ を使って、原始関数を求める場合は $$ (H \circ g)(x) + C = H(g(x))+C $$ 不定積分の場合は $$ \int f(x)dx = H \circ g + C $$ 定積分の場合は $$ \int_{a}^{b} f(x)dx = \int_{g(a)}^{g(b)} (f \circ g^{-1}) \cdot \frac{dg^{-1}}{du}du $$ となる。具体的には $$ f(x)=(2x+1)^{2} $$ の場合、例えば $$ u=g(x)=2x+1 $$ を用意して、その逆関数は $$ x = g^{-1}(u) = \frac{u-1}{2} $$ となる。ここから単に原始関数を求めたい場合、 $$\displaylines{ \begin{align} f(g^{-1}(u)) \cdot \frac{dg^{-1}(u)}{du} &= u^{2} \cdot \frac{1}{2} \\
&= \frac{u^{2}}{2} \end{align} }$$ なのでその原始関数は $$ \frac{1}{6}u^{3}+C $$ となり、これを戻すと $$ \frac{1}{6} (2x+1)^{3}+C $$ になり、これが求めたい原始関数になる。不定積分をしたい場合は、 $$\displaylines{ \begin{align} \int f(g^{-1}(u)) \frac{dg^{-1}(u)}{du}du &= \int \left( u^{2} \cdot \frac{1}{2} \right) du \\
&= \int \left( \frac{1}{2} u^{2} \right) du \\
&= \frac{1}{6}u^{3}+C \end{align} }$$ なので、これを戻すと $$ \int f(x)dx = \frac{1}{6} (2x+1)^{3}+C $$ となる定積分をしたい場合は、積分範囲が変わることに注意して、例えば $[-2,2]$ で積分したい場合、 $$ [-2,2] \to [g(-2),g(2)] \to [-3,5] $$ なので、 $$\displaylines{ \begin{align} \int_{-2}^{2} f(x)dx &= \int_{-2}^{2} (2x+1)^{2} dx \\
&= \int_{-3}^{5} f(g^{-1}(u) \cdot \frac{dg^{-1}(u)}{du} du \\
&= \int_{-3}^{5} \left( u^{2} \cdot \frac{1}{2} \right) du \\
&= \int_{-3}^{5} \left( \frac{1}{2}u^{2} \right) du \\
&= \left[ \frac{1}{6}u^{3} \right]_{-3}^{5} \\
&= \frac{1}{6} (5)^{3} - \frac{1}{6} (-3)^{3} \\
&= \frac{76}{3} \end{align} }$$
となる
- 手順を整理すると、不定積分でも定積分でも、必要なのは
- まず適当な$g(x) (=u)$ を作り、
- $g^{-1}$ を作り、
- 係数 $f(g^{-1}(u) \cdot \frac{dg^{-1}(u)}{du})$ を作って、
- 積分に投入する
- 不定積分の場合は、↑で$u$が残るので、$u=g(x)$ を代入して整理する。Cを忘れずに
- 定積分の場合は、uを使った式に変換した時点ですでに積分範囲の変換まで終わっているので $F(b)-F(a)$ の計算に入ってよい
以上の方法は逆置換（inverse substitution）という
一方、直接置換（direct substitution）は、何らかの関数が $$ f(g(x)) \cdot \frac{dg(x)}{dx} $$ の形をしていた場合は、この中のfの原始関数Fを求め、 $F(g(x))+C$ を作ると、これは元の $f(g(x)) \cdot \frac{dg(x)}{dx}$ の原始関数になっている
たとえば、$h(x)=x^{2}e^{x^{3}}$ があるとすると、 $$\displaylines{ \begin{align} x^{2}e^{x^{3}} &= \left. e^{u} \right|_{u=x^{3}} \cdot \frac{1}{3} \frac{d}{dx}x^{3} \\
&= \frac{1}{3} \left. e^{u} \right|_{u=x^{3}} \cdot \frac{d}{dx}x^{3} \end{align} }$$ で、 $f(x)=\frac{1}{3} e^{x}, g(x)=x^{3}, \frac{dg(x)}{dx}=\frac{dg(x)}{dx}x^{3}$ となり、この $f$ に相当する部分の原始関数を求めると $$ \frac{1}{3} e^{u}+C $$ なので、 $$ F(g(x))+C = \frac{1}{3} e^{x^{3}}+C $$ となり、これが元の関数 $h(x)=x^{2}e^{x^{3}}$ の原始関数になっている部分積分（integration by parts）は、fg'の積分はfg-f'gの積分になる、つまり $$ \int(f \cdot g')(x)dx = (f \cdot g)(x) - \int (f' \cdot g)(x)dx $$ 別の書き方をすると $$ \int f(x) \cdot g'(x)dx = f(x) \cdot g(x) - \int f'(x) \cdot g(x)dx $$
定積分の場合は $$ \int_{a}^{b} (f \cdot g')(x)dx = [(f \cdot g)]_{a}^{b} - \int_{a}^{b} (f' \cdot g)(x)dx $$
自然数ベキ関数 $x^{n}$ の原始関数は $$ \frac{1}{n}x^{n+1}+C $$
$n=0$ なら定数関数、 $n=-1$ のときは $\ln(|x|)+C$ 、$n \leq -2$ のときは $$ \frac{x^{-n+1}}{-n+1}+C $$
無理関数は $$ \int x^{\frac{1}{n}}dx=\frac{n}{1+n} \cdot x^{\frac{1+n}{n}}dx $$
自然対数関数はそのまんま $$ \int e^{x} dx = e^{x}+C $$
一般の指数関数の場合は $a > 0 \land a \neq 1$ のとき $$ \int a^{x} dx = \frac{a^{x}}{\ln(a)}+C $$
自然対数の場合は $$ \int \ln(x) dx = x \ln(x) - x + C $$
sinは-cos、cosはsin
- 広義積分（improper integral）: たとえば $$ f(x)=x^{-\frac{1}{2}} $$ は、 $x=0$ に近づくと無限大に発散するので、 $(0,1)$ など0に限りなく近い点を含む区間では積分可能性を検討できない。そこで、積分の定義を拡大して、 $a < c < b$ となる変数 $c$ を用意して、右側から $a$ に近づける、つまり $$ \int_{a}^{b}f(x)dx= \lim_{c \to a+} \int_{c}^{b}f(x)dx $$
と定義する
↑のような、区間の端点が有界でない場合の広義積分を第2種の広義積分（improper integral of type 2）といい、無限大に向かって伸ばしていく積分を第1種の広義積分（improper integral of type 1）という $$ \int \frac{1}{x^{2}}dx $$
2つの関数に囲まれた部分の面積は上-下だが、クロスしてる場合はその点で分割して同じことをすればよい
- ベクトル値関数の積分も基本的に1変数関数の積分と同じように考えてよい
- 積分を3次元以上で考えるとn重積分可能（n-dimensional integrable）の概念を導ける
直方体 $R$ 上の上リーマン積分 $$ \overline{\int} \dots \overline{\int}_{R} f(x_{1}, \dots, x_{n})dx_{1} \dots dx_{n} $$ 下リーマン積分 $$ \underline{\int} \dots \underline{\int}_{R} f(x_{1}, \dots, x_{n})dx_{1} \dots dx_{n} $$
直方体が連続なら多重積分可能
関数の最適化
- 大域的最大点（global maximum point）or 絶対的最大点（absolute maximum point）:
$$ \max_{x\in X}f(x)= \exists a \in X, \forall x \in X: f(a) \geq f(x) $$
- 最大値は存在するとは限らないが、存在すれば一意。ただ、最大点は一意ではない
- 有界な閉区間にある連続関数であれば存在が保証されるが、それ以外の場合に確定する手段が欲しい
- 極大点（maximal point）or 局所的最大点（local maximum point）or 相対的最大点（relative maximum point）:
$$ \exists \varepsilon > 0, \forall x \in N_{\varepsilon}(a) X: f(a) \geq f(x) $$
- 最大化問題（maximization problem）:
$$\displaylines{
\begin{align}
\max &\quad f(x) \\
\text{s.t.} &\quad x \in X
\end{align}
}$$
- 定義域内のすべての極大点を洗い出し、その中で最大のものを選ぶ
- 局所最大化のための1階の必要条件（first order necessary condition for local maximizer）: $f'(a)=0$ であること
- ただ、微分係数が0だからと言って極大点とは限らない
- 局所最大化のための2階の必要条件（second order necessary condition for local maximizer）$f''(a) \leq 0$ であること
- これでもまだ、極大点であることは確定しない
- 局所最大化のための2階の十分条件（second order sufficient condition for local maximizer）: $f'(a)=0 \land f''(a)<0$ であること
- ↑で初めて、極大点であることが確定する
- 尖ったグラフなど、微分可能でない点と、境界点も候補に入れる必要があるが、任意の点で微分可能な場合は省略してよい
- 偏微分可能な多変数関数の場合は、1階条件が $\nabla f(a)=0$
- 2階条件は、ヘッセ行列が半負定値（※）、つまり $\forall h \in \mathbb{R} \setminus \{0\}: h^{t}H_{f}(a)h \leq 0$
- $C^{2}$ 級関数のヘッセ行列は対称行列なので、反負定値であることは第k次首座小行列（※）の行列式と $(-1)^{k}$ の積が非負であることと言い換えられる、つまり
$$ \forall k \in \{1, \dots, n\}: (-1)^{k} \det (A_{k}(a)) \geq 0 $$
- 2階の十分条件は、↑の $\geq$ を $>$ に置き換えたもの
線型不等式制約のもとでの多変数関数の最小化問題
- 制約集合（constraint set）:
$$\displaylines{
\begin{align}
G&=\{x \in \mathbb{R}^{n} \ | \ a \cdot x \leq c\} \\
&= \{(x_{1}, \dots, x_{n}) \in \mathbb{R}^{n} \ | \ a_{1}x_{1}+ \dots+ a_{n}x_{n} \leq c\}
\end{align}
}$$
- ここで $x \in \mathbb{R}^{n}$ を $x \in X$ に制限したうえで（しなくてもよいが）、その関数の最小値を求める問題を線型不等式制約付き最小化問題（minimization problem with one linear inequality constraint）という
$$\displaylines{
\begin{align}
\min_{x \in X} &\quad f(x) \\
\text{s.t.} &\quad a \cdot x \leq c
\end{align}
}$$
- ↑の条件文は1次元なら $ax \leq c$ 、2次元なら $a_{1}x_{1} + a_{2}x_{2} \leq c$
- $a \cdot x \leq c$ が成り立つとき実行可能（feasible）といい、$a \cdot x < c$ が成り立つとき（$G$の内点であるとき）バインドしない（not binded）、$a \cdot x = c$ が成り立つとき（$G$の境界点であるとき）バインドする（binded）という
- このとき、別の関数 $g(x)=a\cdot x - c$ を導入すると、さっきの制約集合は $G=\{x \in \mathbb{R}^{x} \ | \ g(x) \leq 0 \}$ と書けるので、以下のようにも表現可能
$$\displaylines{
\begin{align}
\min_{x \in X} &\quad f(x) \\
\text{s.t.} &\quad g(x) \leq 0
\end{align}
}$$
- クーン・タッカー条件（Kuhn-Turcker condition）: 最小値問題の解が満たすべき4つの必要条件
- 最小点が内点で、全微分可能とすると、制約条件がバインドしない場合は、最小点であれば勾配ベクトルがゼロ、つまり $\nabla (x)=(0)$ が
- 制約条件がバインドする場合、 $a_{1}x_{1}^{*}+a_{2}x_{2}^{*}=c$ のとき、その点は制約集合の境界点で、法線ベクトルは $(a_{1},a_{2})$ となり、勾配ベクトルはその正反対になる、つまり $\exists \lambda \geq 0: \nabla(x_{1}^{*},x_{2}^{*}) = -\lambda (a_{1},a_{2})$
- ところで、$\lambda = 0$ のとき上記2つの条件は一致するので、2つ目だけあればよい
- ここまでの議論から導けることとしては、以下の4つの式がある
$$\displaylines{
\begin{align}
&(a) \quad \nabla f(x_{1}^{*},x_{2}^{*}) + \lambda (a_{1},a_{2}) = 0 \\
&(b) \quad \lambda \geq 0 \\
&(c) \quad \lambda (a_{1}x_{1}^{*}+a_{2}x_{2}^{*}-c) = 0 \\
&(d) \quad a_{1}x_{1}^{*}+a_{2}x_{2}^{*} \leq c
\end{align}
}$$
- $(a)$ は条件式の $\lambda$ を含む項を移項したもの、 $(b)$ は $\lambda$ の条件の抜き出し、 $(c)$ は制約条件がバインドしない場合は $(a)$ から $\lambda$ が0になり、バインドする場合は $(a_{1}x_{1}^{*}+a_{2}x_{2}^{*}-c)$ がゼロになるので、この2つのどちらかは0になることを示した式で、 $(d)$ はバインドする場合としない場合を組み合わせた仮定の再掲
- このとき、aを1階の条件（first order condition）、b,c,dを相補スラック条件（complementary slackness condition）、a-dをまとめてクーン・タッカー条件（Kuhn-Turcker condition）という
- ただし、これはあくまで必要条件なので、解とは限らないことに注意
ラグランジュの未定乗数法（method of Lagrange multipler）: クーンタッカー条件を使いやすくしたもの $$\displaylines{ \begin{align} \min_{x \in X} &\quad f(x) \\
\text{s.t.} &\quad a \cdot x \leq c \end{align} }$$ のとき、ラグランジュ関数（Lagrangian）を $$ L(x,\lambda)=f(x)+\lambda(a \cdot x - c) $$ と定義する。そうすると、xの要素やλで偏微分することで $$\displaylines{ \forall i \in \{1,\dots,n\}:\frac{\partial L(x,\lambda)}{\partial x_{i}} = 0 \Leftrightarrow \forall i:\frac{\partial f(x)}{\partial x_{i}} +\lambda a_{i}= 0 \Leftrightarrow \nabla f(x)+\lambda a=0 \\
\lambda \frac{\partial L(x,\lambda)}{\partial \lambda} = 0 \Leftrightarrow \lambda (a \cdot x - c) = 0 \\
\frac{\partial L(x,\lambda)}{\partial \lambda} \leq 0 \Leftrightarrow a \cdot x - c \leq 0 \Leftrightarrow a \cdot x \leq c }$$ がそれぞれ成り立つので、クーンタッカー条件は以下と必要十分 $$\displaylines{ \begin{align} &(a) \quad \forall i \in \{1,\dots,n\}:\frac{\partial L(x^{*},\lambda)}{\partial x_{i}} = 0 \\
&(b) \quad \lambda \frac{\partial L(x^{*},\lambda)}{\partial \lambda} = 0 \\
&(c) \quad \frac{\partial L(x^{*},\lambda)}{\partial \lambda} \leq 0 \\ &(d) \quad \lambda \geq 0 \end{align} }$$具体的な解決手順としては、まず最小点の存在自体を確認してから、クーンタッカー条件を満たす点を列挙する、これと内点で全微分可能でない点と境界点も列挙しきったら、その中で最小のものが答えになる
最大化問題は、目的関数の符号を反転させた最小値問題と読み替えることができるので、クーンタッカー条件の(a)を $$ \nabla f(x) - \lambda a = 0 $$ とし、ラグランジュ関数はa・xとcの符号を判定させて $$ L(x,\lambda)=f(x)+\lambda(c-a \cdot x) $$ と定義することで最小値問題のクーンタッカー条件と必要十分になる
制約条件が複数になった場合はそれぞれの集合を $G_{i}$ と定義し、 $G = \bigcap_{i=1}^{m}G_{i}$ を制約集合として扱う
- 問題の表記としては以下
$$\displaylines{
\begin{align}
\min_{x \in X} \quad& f(x) \\
\text{s.t.} \quad& a_{1} \cdot x \leq c_{1} \\
&\vdots \\
& a_{m} \cdot x \leq c_{m}
\end{align}
}$$
- 複数の制約条件がバインドする・しないによって場合分けが必要かにみえるが、実際にはそれぞれ $\lambda=0$ を代入することで大は小を兼ねる定義ができるので、例えば制約条件が2つの場合は1階の条件は以下のように書ける
$$ \nabla f(x_{1}^{*},x_{2}^{*})+\lambda_{1}(a_{11},a_{12})+\lambda_{2}(a_{21},a_{22})=0 $$
- つまり、一般化すると
$$ \nabla f(x^{*})+\sum_{i=1}^{m} \lambda_{i}a_{i}=0 $$
- 相補スラック条件は既存のものを流用でき、それぞれ制約条件の数だけ導ける
- ラグランジュ関数は、複数の制約条件の下では以下のように書く
$$ L(x, \lambda_{1}, \dots, \lambda_{m})=f(x)+\sum_{i=1}^{m} \lambda_{i}(a_{i} \cdot x - c_{i}) $$
- ↑を踏まえ、複数の制約条件でのラグランジュの未定乗数法は以下のように書く
$$\displaylines{
\begin{align}
&(a) \quad \forall j \in \{1,\dots,n\}:\frac{\partial L(x^{*},\lambda_{1},\dots,\lambda_{m})}{\partial x_{j}} = 0 \\
&(b) \quad \forall i \in \{1,\dots,m\}:\lambda_{i} \frac{\partial L(x^{*},\lambda_{1},\dots,\lambda_{m})}{\partial \lambda_{i}} = 0 \\
&(c) \quad \forall i \in \{1,\dots,m\}:\frac{\partial L(x^{*},\lambda_{1},\dots,\lambda_{m})}{\partial \lambda_{i}} \leq 0 \\
&(d) \quad \forall i \in \{1,\dots,m\}:\lambda_{i} \geq 0
\end{align}
}$$
- 最大化問題の場合はそれぞれ、クーンタッカー条件の1階の条件は
$$ \nabla f(x^{*})-\sum_{i=1}^{m} \lambda_{i}a_{i}=0 $$
- ラグランジュ関数は
$$ L(x, \lambda_{1}, \dots, \lambda_{m})=f(x)+\sum_{i=1}^{m} \lambda_{i}(c_{i} - a_{i} \cdot x) $$
- 等式制約条件の場合は、$ax=c$ を $ax \leq c \land ax \geq c$ と読み替えることで不等式制約条件に置き換えてここまでの議論が活用できる
微分積分の応用例
- 自然対数は積分で定義できる
$$ \ln(x) = \int_{1}^{x} \frac{1}{t}dt $$
$$ \frac{d^{2} f(t) }{dt^{2}} = \frac{d}{dt} \left( \frac{df(t)}{dt} \right) = \lim_{h \to 0} \frac{ \frac{ df(t+h) }{ dt }-\frac{ df(t) }{ dt }}{ h } $$
