ベイズの定理

Bayes' theorem

牧師の死後、遺稿の中から友人がこの論文を見つけた。

結果から原因の確からしさを逆にたどる式。新しい手がかりを得るたびに、確率を書き換えていく考え方の土台。

年代
1763年
人物
トマス・ベイズ、リチャード・プライス、ピエール=シモン・ラプラス、アラン・チューリング
逸話

遺稿の中の論文

トマス・ベイズは、ロンドンの南東の保養地タンブリッジ・ウェルズで、長老派の牧師を務めた人である。生きているうちに自分の名前で出した数学の仕事は無い。1736 年に、ニュートンの微積分をバークリー主教の批判から守る小冊子を、名前を伏せて出しただけである。それでも 1742 年には、王立協会の会員に選ばれている。

ベイズは 1761 年 4 月 7 日に亡くなった。遺言で遺産を分けられた友人の中に、同じく牧師で、数学と保険の計算に通じたリチャード・プライスがいた。

プライスは遺された書類の中から、確率についての論文を見つけた。手を入れ、序文と付録を付けて、王立協会の会員ジョン・カントンへの手紙の形で送った。論文は 1763 年 12 月 23 日に協会で読まれ、『フィロソフィカル・トランザクションズ』第 53 巻に「偶然の理論のある問題を解くための試論」として載った。付録はプライスが書いた。統計学の歴史家スティグラーによれば、プライスは見つけた原稿に 2 年近く手を入れ、書き足して仕上げた。

プライスは序文で、この問題は、世界に定まった法則があること、ひいては知性ある創り手がいることを確かめる議論に役立つと書いた。スティグラーは 2013 年、プライスが論文の抜き刷りに「帰納にもとづくあらゆる結論の正確な確率を計算する方法」という別の題を付けていたことを報告した。そして、この論文の狙いの 1 つは、奇跡の証言は信じるに足りないと論じた哲学者ヒュームへの反論だったと論じている。プライスは 1767 年の本で、はっきりとヒュームに反論した。

ベイズの名は、本人の死後 2 世紀たって、統計学の一大学派の名前になった。ただし、ベイズの肖像として広く出回っている絵は、本人のものかどうか確かめられていない。

起源

ベイズが解こうとしたのは、確率を「逆に」使う問題である。ふつうの確率の問題は、硬貨の表の出る確率が分かっているときに、10 回投げて表が 7 回出る確率を求める。ベイズの問題はその逆で、10 回投げて表が 7 回出たとき、表の出る確率がどのくらいかを問う。

論文でベイズは、平らな正方形の台(よくビリヤード台にたとえられる)を使った思考実験を考えた。台の上に玉を 1 つ転がし、どこに止まったかは見ない。次に別の玉を何回も転がし、最初の玉より右に止まったか左に止まったかだけを数える。その数から、最初の玉の位置を推し量る。最初の玉は台のどこにでも同じように止まりうるので、推し量る前の確からしさは一様になる。この設定のもとで、右と左の回数から位置の確率を正しく計算した。

フランスのラプラスは、ベイズの論文を知らずに、1774 年の論文で同じ考えにたどり着いた。結果から原因の確率を求める一般の形を示したのはラプラスで、1812 年の『確率の解析的理論』で体系にまとめた。1814 年の『確率の哲学的試論』では、例として、5000 年(1826213 日)のあいだ毎日太陽が昇ったことを知っている人にとって、明日も昇る確率は だと書いた。

20 世紀の前半、統計学の主流は、仮定する確率の主観を嫌い、ベイズの方法を退けた。一方で第 2 次世界大戦中、イギリスのブレッチリー・パークでは、チューリングがドイツの暗号エニグマを破る作業に、手がかりごとに確からしさを掛け合わせていくこの方法を使った。計算機が速くなった 1990 年代以降、複雑なモデルでもベイズの計算ができるようになり、広く使われている。

証明

を「原因」、 を「観測した結果」とする。 は「 が起きたと分かったときに、 である確率」(条件つき確率)を表す。

  1. 条件つき確率の定義から、 と がともに起きる確率を の確率で割る。

  2. 同じ定義を、 と を入れ替えて使う。

  3. 手順 2 の分母を払うと、ともに起きる確率は 2 通りに書ける。

  4. これを手順 1 に代入すると、ベイズの定理になる。

  5. 分母の は、 のときと でないとき()に分けて足す(全確率の公式)。

  6. についても同じ式を立てて比をとると、分母が消え、「事後のオッズ = 尤度比 × 事前のオッズ」の形になる。

を事前確率、 を事後確率と呼ぶ。手順 6 の形では、新しい手がかりは「尤度比を掛ける」という 1 回の掛け算になる。手がかりが次々に来れば、掛け算を続ければよい。チューリングは、この掛け算を対数にして足し算にし、手がかりの重みを「バン」という単位で数えた。

応用

陽性でも 6 分の 1。 ある病気にかかっている人が 1 % の集団で、検査をする。病気の人は 99 % が陽性になり、病気でない人も 5 % が陽性になってしまう。陽性と出た人が本当に病気である確率は、

である。1 万人で考えると分かりやすい。病気の 100 人のうち 99 人が陽性、病気でない 9900 人のうち 495 人が陽性で、陽性の 594 人のうち病気なのは 99 人である。もう 1 回、別の独立な検査でも陽性なら、事前のオッズ に尤度比 を掛けて 、確率にして約 80 % に上がる。

迷惑メールの振り分け。 2002 年、プログラマーのポール・グレアムは、メールに含まれる単語ごとに「迷惑メールに出やすいか」の確率をとり、ベイズの定理で組み合わせて判定する方法を発表した。いまの迷惑メールのフィルターの多くが、この考えを土台にしている。

海に沈んだものを探す。 1968 年 5 月、アメリカ海軍の原子力潜水艦スコーピオンが大西洋で消息を絶った。海軍の科学者ジョン・クレイヴンらが加わった捜索では、沈んだいきさつの筋書き 9 通りに確からしさの重みを付けて、海を格子に分けた確率の地図を作った。捜索の途中でも、探した結果を入れて地図を何度も計算し直した。残骸は、はじめの地図で確率がいちばん高かったマスから 260 ヤード(約 240 m)以内で見つかった。

2009 年に大西洋に墜落したエールフランス 447 便の機体は、2 年近く見つからなかった。2010 年 7 月、フランスの航空事故調査局(BEA)は、アメリカのメトロン社のストーンらに、残骸のありかの確率の地図を作るよう頼んだ。ストーンらは、それまでの捜索で「探したのに見つからなかった」ことも手がかりに入れて、海域ごとの確率をベイズの定理で計算し直した。その報告は 2011 年 1 月 20 日に BEA から公表された。2011 年の捜索は、地図で確率の高い中心から始まった。海底を探し始めて 1 週間ほどの 2011 年 4 月 3 日に、機体が見つかった。

1 マスが海の 1 区画で、網点の濃いマスほど、船がそこに沈んでいる確率 が高い。マスをたたいて探し、見つからなければ、そのマスの確率は に下がり、ほかのマスはどれも 倍になる( は、船がそのマスにあるときに探して見つける確率)。 を小さくすると、見つからなかったことが弱い手がかりになり、探したマスはなかなか薄くならない。447 便の機体は、2009 年に発信器の音を聞き取ろうと念入りに探した海域にあったが、発信器が 2 つとも働いていなかったとみられ、その捜索では見つけようがなかった。

図示

正方形を、原因 A の割合 P(A) で左右に分け、それぞれの列を結果 B の起こる割合で上下に分ける。斜線の部分が B の起きた場合で、そのうち A の列にある部分の割合が P(A|B) である。

全体の正方形の面積を とする。斜線の 2 つの長方形の面積は と で、和が になる。 が起きたと分かったら、斜線の部分だけが新しい「全体」になる。そのうち左の列の分け前が、事後確率である。

シミュレーション

点の 1 つ 1 つが 1 人で、1000 人いる。塗りつぶした点が病気の人、輪だけの点が病気でない人である。点が動いて、検査で陽性の人は左へ、陰性の人は右へ分かれる。つまみで病気の人の割合(有病率)を下げていくと、陽性の人の中の塗りつぶした点の割合が、検査の精度が同じでも急に減る。

広がる学問

  • 医学 検査の結果を受けて病気の確率を見積もるときの基本である。同じ検査でも、病気の人が少ない集団で使うと、陽性の人のうち本当に病気の人の割合(陽性的中率)は下がる。
  • 情報科学 迷惑メールの判定、文字や音声の認識、機械学習のモデルの学習に使われる。観測のたびに確率を更新する考えは、ロボットが自分の位置を推定する計算にも使われる。
  • 心理学 人は判断のとき、もとの割合(事前確率)を軽く見る傾向がある。カーネマンとトヴェルスキーはこれを「基準率の無視」と呼び、実験で示した。脳が感覚の手がかりを事前の知識と組み合わせて知覚を作る、という仮説もベイズの定理の形で書かれる。
  • 法学 「無実の人がこの証拠に偶然当てはまる確率」を「この人が無実である確率」と取り違える誤りを、検察官の誤謬という。イギリスのサリー・クラーク事件(1999 年に有罪)では、専門家が証言した「7300 万分の 1」という数が、無実である確率のように受け取られて広く報じられた。有罪は 2003 年に取り消され、控訴院は統計の証拠の示し方も誤っていたと述べた。
  • 哲学 経験からどこまで一般の法則を確かめられるか(帰納の問題)を、確率の更新として考える立場がある。証拠が仮説をどれだけ支持するかを、尤度比で測る。

参考文献

  1. Thomas Bayes, "An Essay towards Solving a Problem in the Doctrine of Chances", Philosophical Transactions of the Royal Society of London 53 (1763), 370-418.
  2. Stephen M. Stigler, "The True Title of Bayes's Essay", Statistical Science 28 (2013), 283-288.
  3. P.-S. Laplace, Essai philosophique sur les probabilités (Paris, 1814).
  4. Sharon Bertsch McGrayne, The Theory That Would Not Die (Yale University Press, 2011).
  5. Lawrence D. Stone et al., "Search for the Wreckage of Air France Flight AF 447", Statistical Science 29 (2014), 69-80.
  6. Paul Graham, "A Plan for Spam" (2002).
  7. Henry R. Richardson and Lawrence D. Stone, "Operations Analysis during the Underwater Search for Scorpion", Naval Research Logistics Quarterly 18 (1971), 141-157.

姉妹サイト

株式会社Game が運営するメディアです。