逆さの三角と、丸い d
電磁気学のマクスウェル方程式の 1 本目は と書かれる。量子力学のシュレーディンガー方程式は である。機械学習の教科書には、重みを直す式 が出てくる。
逆さにした三角 ∇ と、丸まった d の ∂。1 変数の微分を学んだあと、物理でも情報でも、少し先へ進むと必ず出会う 2 つの記号である。ふつうの d とどこが違うのか。三角は何を計算しているのか。読み方を知らなければ、式を声に出して読むことも、分からない所を人に尋ねることもできない。
この記事は、2 つの記号の読み方と式の中での働きを、地形の上の坂として確かめる。記号がいつ、誰の手で生まれたかも、原典でたどる。
∂ の読み方
∂ は日本では「ラウンド」「ラウンドディー」「デル」「パーシャル」などと読まれる。決まった読み方は無く、分野や教員によって違う。英語では "partial" と読むことが多く、"del" や "curly d" とも呼ばれる。
は「ラウンド f ラウンド x」と読み、関数 の による偏微分という。英語では "the partial derivative of f with respect to x" である。 のように変数が 2 つ以上あるとき、ほかの変数 を定数として止め、 だけを少し動かしたときの の変化の割合を表す。
例として を考える。 を定数とみて で微分すると 、 を定数とみて で微分すると である。点 では 、 になる。数で確かめると、 のまま を 1 から 1.01 に動かすと は 7 から 7.0801 に増え、増え分を 0.01 で割ると 8.01 で、ほぼ 8 である。
日常の例えを 1 つだけ使う。山の斜面に立ったとき、真東へ 1 歩進んだときの上り下りと、真北へ 1 歩進んだときの上り下りは違う。東を 、北を 、高さを とすると、東へ進む坂の傾きが 、北へ進む坂の傾きが である。
読み間違えやすい所がいくつかある。
d と ∂ の違い。 変数が 1 つの関数の微分は と書く。変数が 2 つ以上あり、ほかを止めて 1 つだけ動かすときに ∂ を使う。何も止めず、 と がどちらも時間 とともに動くときの変化は、偏微分を組み合わせて と求める(連鎖律)。
分数のように約分しない。 は全体で 1 つの記号である。∂ を消して にすることはできない。
何を止めているかを確かめる。 偏微分の値は、ほかにどの変数を止めるかで変わる。熱力学では、止める変数を右下に添えて (体積 を一定にしたときの、温度による内部エネルギーの変化)のように書く。
短い書き方もある。 や と書くこともある。2 回の偏微分は 、 と で 1 回ずつなら と書く。
∂f/∂x の各部分
∇ の読み方
∇ は「ナブラ」と読む。英語では "nabla" のほか、"del" とも読む。∇ は偏微分を並べた記号で、3 次元なら次の形をしている。
∇ だけでは値を持たず、右に置いた関数に働いて初めて値になる。このような記号を演算子という。組み合わせ方で、4 つの使い方がある(下の図)。
勾配 (ナブラ f、grad f)。 数の値をとる関数 に働き、偏微分を並べたベクトルを作る。2 変数なら である。向きは がいちばん急に増える向き、長さはその向きの傾きで、等高線と直角に交わる。上の例の では、点 で 、長さは である。
発散 (ナブラ・ドット F、div F)。 矢印が並んだ場(ベクトル場) に内積の形で働き、 という数を作る。その点から矢印が湧き出していれば正、吸い込まれていれば負である。平面の なら で、どこでも湧き出している。
回転 (ナブラ・クロス F、rot F・curl F)。 外積の形で働き、その点のまわりで矢印が渦を巻く強さと、渦の軸の向きを表す。 では となり、 軸のまわりを左回りに回る渦を示す。
ラプラシアン (ナブラ 2 乗 f)。 勾配の発散 で、 と書く本も多い。その点の値がまわりの平均より低いと正、高いと負になる。 なら である。
結果の種類も確かめておく。 はベクトル、 は数、 はベクトル、 は数である。また と は別物で、後者は演算子のまま残る。ナビエ・ストークス方程式の は、この演算子を速度 に働かせた形である。英語の del は ∂ にも ∇ にも使われるので、口で言うときは「パーシャル」と「ナブラ」で言い分けると混ざらない。
∇ の 4 つの使い方
勾配がいちばん急な向きを指す理由
点 から、長さ 1 の向き へ、小さな距離 だけ進む。
-
方向に 、 方向に 動くので、 の変化は偏微分を使って
-
右辺は勾配と の内積である。
-
と のなす角を とすると、 なので
-
が最大になるのは のときで、 の向きに進むと が最も速く増える。その傾きは
-
の向きでは が変わらない。この向きは等高線に沿う向きなので、 は等高線と直角に交わる。
-
の向きでは が最も速く減る。勾配降下法は、この向きに少しずつ進む。 を学習率として
-
数で確かめる。 の点 から、 の向きに 進むと、行き先は で、 の増え分は手順 4 の見積もり とほぼ一致する。
シミュレーション
地図は関数 の地形で、網点の詰まった所ほど高く、細い線は等高線である。点をドラッグすると、横の破線( を止める)と縦の破線( を止める)に沿った切り口が右(スマホでは下)に描かれ、接線の傾きが と の値を示す。地図の太い矢印が で、2 本の破線の矢印(2 つの偏微分)を合わせた向きを指し、等高線と直角に交わる。「坂を下る」を押すと ずつ進み、「お椀」では谷底へジグザグに進む様子が、「鞍」の中心では なのに頂上でも谷底でもない点があることが分かる。
式の形から読む
ラプラシアンは、まわりとの差である。 格子の間隔を として近似すると、次の式になる。
右辺は「上下左右 4 点の平均から真ん中の値を引いたもの」の 倍である。熱の広がりを表す熱方程式 は、「まわりより冷たい所は温まり、まわりより熱い所は冷める」と読める。チューリング・パターンの拡散の項、ナビエ・ストークス方程式の粘性の項 (まわりより速い流れを遅くし、遅い流れを速くする)、シュレーディンガー方程式の運動エネルギーの項 も、同じ形をしている。
発散と回転は、マクスウェル方程式の言葉である。 は「電場の線は電荷から湧き出す」、 は「磁場の線には湧き出し口が無い」、 は「磁場が時間とともに変わると、そのまわりに電場の渦ができる」と読める。ナビエ・ストークス方程式の は、圧力の勾配の逆向き、つまり圧力の高い所から低い所へ流体を押す力である。
∂ はなぜ要ったのか。 ここは、確かめたことと推測を分ける。ヤコビは 1841 年、偏微分を括弧で囲む書き方は「括弧が重なって、読むにも書くにも煩わしい」ので、ふつうの微分を d、偏微分を ∂ で表すと書いた(確かめた)。同じ論文で彼は、どの変数を止めて微分したのかまで記号で示さなければあいまいさが残る、とも述べている。熱力学の は、その問題がいまも残っていることを示す。一方、19 世紀の終わりまで多くの本は偏微分も d で書き、文脈で区別していた。∂ が広まったのは、電磁気学や流体力学のように変数の多い式を扱う人が増えたためだと考えたくなるが、それを示す資料は確かめていない。推測である。
∇ は四元数から生まれた。 ハミルトンの四元数では、 をベクトルに働かせると、発散に負の符号を付けた数と、回転のベクトルが、1 つの四元数としてまとめて出てくる。2 回働かせると、ラプラシアンに負の符号を付けたものになる。いま別々の記号 と で書く 2 つの量は、もとは 1 回の計算の 2 つの部分だった。内積と外積に分けて書く形は、ギブズのものである。
記号の歴史
偏微分の考えはニュートンやライプニッツ、ベルヌーイ家の時代から使われていたが、ふつうは特別な記号を付けずに書かれていた。オイラーは 1755 年の『微分計算教程』で、 だけを変数とみて微分したものを、括弧で囲んで と書いた。
丸い d を偏微分の区別に使った早い例は、コンドルセの 1770 年の論文(1773 年刊)である。1786 年、ルジャンドルは変分法の論文で、いまと同じ の形を導入した。「あいまいさを避けるため、 で の差の中の の係数を、 で の差全体を で割ったものを表す」。しかしルジャンドル自身が、翌年にはこの書き方をやめてしまった。
広めたのはヤコビである。1841 年の論文「関数行列式について」で、上に書いた理由から d と ∂ を分けた。カジョリによれば、それでもこの記号が広く認められるまでに半世紀かかり、1895 年にアメリカで出た微積分の教科書の序文は、これを「最近になって広く使われるようになった」記号と呼んでいる。
∇ の始まりは、アイルランドのハミルトンの四元数である。1847 年、彼は『フィロソフィカル・マガジン』に連載した論文「四元数について」に という演算子を載せた。記号は三角を横に倒した ◁ で、脚注には「前年の英国学術協会のための原稿では ∇ と書いたが、この記号はほかの意味で使われすぎているので、新しい意味に当てるのは控える」とある。偏微分は、まだふつうの d で書かれていた。1853 年の『四元数講義』の 610 ページにも、この演算子が出てくる。
いまの向きの ∇ を定着させたのは、エディンバラ大学のテイトである。1867 年の『四元数初歩』で ∇ を使い、のちの版で理論を大きく展開した。1911 年に出たテイトの伝記によれば、「ナブラ」という名は、セム語の研究者ウィリアム・ロバートソン・スミスが、この逆さの三角がアッシリアの竪琴に似ていることから付けた。
マクスウェルとテイトは、手紙のやりとりでこの名前を冗談まじりに使った。1870 年 11 月 7 日のテイトへの手紙は、∇ を書いて「これを何と呼ぶ? アトレッド?」と始まる。アトレッド(atled)は delta を逆から綴った言葉である。同じ手紙で彼は、∇ をスカラーに働かせた結果を slope(傾き)、ベクトルに働かせた結果のスカラーの部分を convergence(収束)と呼ぶ案を出し、ベクトルの部分には twist・twirl・curl などの候補を並べた。1873 年の『電気磁気論』では、そのベクトルの部分を「おおいにためらいながら」curl と呼ぶことにした。いまの発散 divergence は、この convergence の符号を逆にした量である。
英語の del という読み方は、ギブズの講義をもとにウィルソンがまとめた 1901 年の『ベクトル解析』にある。「この記号には広く認められた名前が無いが、何か名前が要る。経験上、del という 1 音節は短く発音しやすく、式に何度出てきても、話し手も聞き手も困らない」。同じ本は ∇V を、V が最も速く増える割合を大きさと向きで表すベクトルと説明し、gradient や slope とも呼ばれると書いている。
使いどころと次に読むもの
機械学習の勾配降下。 ニューラルネットワークの学習は、誤差 を重み で偏微分した をすべての重みについて求め、 と少しずつ動かす。重みが何億個あっても偏微分をまとめて求める方法が、誤差逆伝播法である。PyTorch では、誤差に対して backward を呼ぶと各パラメーターの grad に偏微分の値が入り、最適化の step がそれを使って勾配降下を行う。シミュレーションの「お椀」で見たように、細長い谷では勾配が谷底を向かないので、学習率 が大きいと谷の両側を行き来しながら進む。画像を作る拡散モデルも、確率密度の対数の勾配 を学習して使う。
画像の輪郭。 画像の明るさを とみると、輪郭は明るさが急に変わる所、つまり が大きい所である。ソーベル・フィルターは、画素の明るさの差を横の向きと縦の向きにとって、 と を近似する。Python の画像処理ライブラリ scikit-image には、横と縦の差を別々にとる関数と、2 つから輪郭の強さを出す関数がある。
物理の方程式。 天気予報の計算の土台になるナビエ・ストークス方程式、電波や光を表すマクスウェル方程式、原子の中の電子を表すシュレーディンガー方程式、オプションの価格を決めるブラック・ショールズ方程式は、どれも ∂ や ∇ を使って書かれている。上の「式の形から読む」の読み方で、各項が何をしているかを言葉にできる。
読んだあとは、次の順に進むとよい。
- の と を手で求める(答えは と )。点 で を 0.01 だけ動かし、 の増え分を 0.01 で割ると 4.02 になり、 に近いことを確かめる。
- シミュレーションの「鞍」で点を中心に置き、 でも最小ではないことを確かめる。「坂を下る」を押すと、中心から少しずれた所から始めたときだけ動き出す。
- 誤差逆伝播法で、偏微分を逆向きにたどる計算を読む。
- マクスウェル方程式の 4 本を、発散と回転の言葉で読み直す。
- 積分の記号と組み合わせた式に進む前に、Σ と ∫ の読み方を確かめる。
- 偏微分で書いた保存則が道路の上で何をするかは、事故も工事もないのに、渋滞はなぜ起きるのかで読む。
参考文献
- Florian Cajori, A History of Mathematical Notations, Vol. II (Open Court, 1929), 507, 593-611 節.
- A.-M. Legendre, "Mémoire sur la manière de distinguer les maxima des minima dans le calcul des variations", Histoire de l'Académie royale des sciences, année 1786 (Paris, 1788), 7-37.
- C. G. J. Jacobi, "De determinantibus functionalibus", Journal für die reine und angewandte Mathematik 22 (1841), 319-359.
- W. R. Hamilton, "On Quaternions; or on a New System of Imaginaries in Algebra", Philosophical Magazine (3rd series) 31 (1847 年 10 月), 278-283, 49 節(D. R. Wilkins 編の翻刻, トリニティ・カレッジ・ダブリン)
- C. G. Knott, Life and Scientific Work of Peter Guthrie Tait (Cambridge University Press, 1911), pp. 143-145.
- J. C. Maxwell, A Treatise on Electricity and Magnetism, Vol. 1 (Oxford, 1873), 25 節.
- E. B. Wilson, Vector Analysis: A Text-book for the Use of Students of Mathematics and Physics, Founded upon the Lectures of J. Willard Gibbs (Scribner, 1901), 63 節.
- Jeff Miller, "Earliest Uses of Symbols of Calculus", "Earliest Known Uses of Some of the Words of Mathematics"(MacTutor History of Mathematics, セント・アンドルーズ大学)
- PyTorch Tutorials, "A Gentle Introduction to torch.autograd"; scikit-image API reference, skimage.filters.