5.1 競馬と倍加率

第4章までは，記号の列をどれだけ短く書けるかを問うてきた．エントロピーはそこで平均符号長の下界として現れ（系 4.5.2），Shannon 符号の平均符号長がその下界から $1$ 文字ぶんの内に収まることも分かった（定理 4.4.4）．本章は問いを取り替える．次に何が出るかを当てて短く書くのではなく，次に何が出るかに賭ける．賭け手の資産がどれだけ速く増えるかを測ると，その最大値がふたたびエントロピーで書ける．符号長とは縁のなさそうな量が同じ $𝐻 (𝑋)$ で決まる，というのが本章の中身である．

場面は競馬にとる．有限アルファベット $X$ の各元が 1 頭の馬を表し，勝つ馬を $𝑋$ と書いて， $X$ 上の分布 $𝑝$ に従うとする．馬 $𝑥$ にはオッズ $𝑜 (𝑥) > 0$ がついていて， $𝑥$ に $1$ 単位賭けて $𝑥$ が勝ったとき手元に来るのは $𝑜 (𝑥)$ 単位がすべてであり，負ければ何も来ない．掛け金 $1$ 単位に対する純益で言えば $𝑜 (𝑥) - 1$ 単位である．

賭け手は手持ちの資産を余さず馬に配分する．資産のうち割合 $𝑏 (𝑥)$ を馬 $𝑥$ に賭けるとすると $\sum 𝑥 𝑏 (𝑥) = 1$ であり，勝ち馬が $𝑥$ なら戻ってくるのは $𝑥$ に賭けたぶんだけだから，資産は $𝑏 (𝑥) 𝑜 (𝑥)$ 倍になる．ここで勝ちうる馬に $𝑏 (𝑥) = 0$ としておくと，その馬が勝った瞬間に資産は $0$ になる．資産は毎回のレースで倍率を掛けて更新されるので，一度 $0$ になれば以後どう賭けても $0$ のままである．本章はこの破産を避けて，どの馬にも正の額を賭ける配分だけを扱う．勝つ確率が $0$ の馬は決して勝たないのだから，そこに $0$ を賭けても破産はしない．それでも全部の馬に正の額を課すのは，場合分けを増やさないための約束である．比例賭けを論じる主張では $𝑝$ をすべての点で正と仮定するので，そこではこの約束は何も制限していない．

余さず配分するという約束は，現金を手元に残す選択肢を取り上げているように見える．だが $\sum 𝑥 1 / 𝑜 (𝑥) = 1$ であるオッズのもとでは， $𝑏 (𝑥) = 1 / 𝑜 (𝑥)$ とおけば総和が $1$ の正の配分になり，どの馬が勝っても $𝑏 (𝑥) 𝑜 (𝑥) = 1$ で資産は動かない．現金を持つことがこの賭け方で再現できるので，このオッズのもとでは全額を賭けさせることは制限になっていない．一方，逆数の総和が $1$ でないオッズでは $𝑏 (𝑥) = 1 / 𝑜 (𝑥)$ の総和が $1$ にならず配分にならないから，この再現ができない．ただし，再現できないことと，そのせいで損をすることとは別である．逆数の総和 $𝐾$ が $1$ より小さいときは， $𝑏 (𝑥) = 1 / (𝐾 𝑜 (𝑥))$ とおけば総和が $1$ の正の配分になり，どの馬が勝っても資産が $1 / 𝐾$ 倍になる． $1 / 𝐾 > 1$ だから，現金を手元に残す賭け方があったとしても，その現金のぶんをこの配分に回せば，どの馬が勝ったときの資産も下がらない．全額を配分させることが制限になりうるのは，逆数の総和が $1$ より大きいオッズだけである．そのようなオッズは 5.3 節で扱い（例 5.3.7 では，どの配分で賭けるよりも賭けないほうが有利になる），逆数の総和が $1$ であるほうは定義 5.3.3 で公平なオッズと呼ぶ．

定義 5.1.1（オッズと賭け金の配分）. $X$ を有限アルファベットとする．関数 $𝑜 : X \to ℝ$ がすべての $𝑥 \in X$ で $𝑜 (𝑥) > 0$ を満たすとき， $𝑜$ を $X$ 上の オッズ と呼ぶ．関数 $𝑏 : X \to ℝ$ がすべての $𝑥 \in X$ で $𝑏 (𝑥) > 0$ を満たし，かつ $\sum 𝑥 \in X 𝑏 (𝑥) = 1$ であるとき， $𝑏$ を $X$ 上の 賭け金の配分，短く配分と呼ぶ．

配分は $X$ 上の分布そのものであって，正の値だけをとるものに限ったものである．同じレースを繰り返し行い，そのつど手元の資産を全額，同じ配分で賭け直すことにする．

定義 5.1.2（資産）. $X$ を有限アルファベット， $𝑜$ を $X$ 上のオッズ， $𝑏$ を $X$ 上の賭け金の配分（どちらも定義 5.1.1）とする． $X$ に値をとる勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ に対し，初期資産を $1$ として， $𝑛$ レース後の資産を

𝑆 𝑛 (𝑏) : = 𝑛 \prod 𝑖 = 1 𝑏 (𝑋 𝑖) 𝑜 (𝑋 𝑖)

で定める（ $𝑛 = 0$ のときは空の積で $𝑆 0 (𝑏) = 1$ である）．記号 $𝑆 𝑛 (𝑏)$ はオッズにも勝ち馬の列にも依るが，どちらも固定されているものとして書かない．

形式化上の注記. 形式化に資産そのものにあたる宣言はなく，あるのはその対数だけである．seqLogWealth (InformationTheory/Shannon/Gambling/OperationalSequences.lean) が定義 5.1.2 の $l o g 𝑆 𝑛 (𝑏)$ にあたり，積をとってから対数をとる本文とは違って， $1$ レースごとの倍率の対数の和として直に定めてある．どの因子も正だから両者は同じ量を指しているが，本章の主張のうち資産そのものについて述べた部分には，対応する宣言がない．

$𝑆 𝑛 (𝑏)$ は $1$ レースごとの倍率を $𝑛$ 個掛け合わせたものである．積のままでは大きさを比べにくいので，対数をとって $𝑛$ で割り， $1$ レースあたりの増え方に直す．定義 5.1.2 より

1 𝑛 l o g 𝑆 𝑛 (𝑏) = 1 𝑛 𝑛 \sum 𝑖 = 1 l o g (𝑏 (𝑋 𝑖) 𝑜 (𝑋 𝑖))

であり，右辺は $1$ レースごとの量 $l o g (𝑏 (𝑋 𝑖) 𝑜 (𝑋 𝑖))$ の相加平均である．勝ち馬が分布 $𝑝$ に従って独立に決まるなら，この相加平均は $1$ レースぶんの期待値に近づく．そのことは 5.5 節で確かめるが，先にその期待値のほうを賭け方の良さの尺度として名づけておく．

以下，本章では $l o g$ の底を $2$ にとる．次に定める量は，資産が $1$ レースあたり $2$ の何乗の速さで増えるかを測るもので（5.5 節），そこで指数の底と対数の底をそろえておく必要があるからである．

定義 5.1.3（倍加率）. $X$ を有限アルファベット， $𝑜$ を $X$ 上のオッズ， $𝑏$ を $X$ 上の賭け金の配分（どちらも定義 5.1.1）， $𝑝$ を $X$ 上の分布とする．配分 $𝑏$ の 倍加率 を

𝑊 (𝑏, 𝑜, 𝑝) : = \sum 𝑥 \in X 𝑝 (𝑥) l o g (𝑏 (𝑥) 𝑜 (𝑥))

で定める．とくに $𝑝$ がすべての $𝑥 \in X$ で正のときは， $𝑝$ 自身が総和 $1$ の正の関数だから定義 5.1.1 の賭け金の配分であり， $𝑏 = 𝑝$ ととった配分を 比例賭け と呼ぶ．

倍加率は $l o g (𝑏 (𝑋) 𝑜 (𝑋))$ の期待値である． $1$ レースで資産が $𝑏 (𝑋) 𝑜 (𝑋)$ 倍になり，その対数を分布 $𝑝$ で平均したものが $𝑊 (𝑏, 𝑜, 𝑝)$ なのだから，「 $1$ レースあたりに資産の対数がどれだけ増えるか」を測っている．対数をとる理由は資産が掛け算で動くことにあって，掛け算を足し算に直しておけば， $𝑛$ レースぶんの増え方は $1$ レースぶんの増え方の和になる．第1章 1.1 節で驚きの量に対数を選んだ理由（独立な試行で情報が足し算になること）と，同じところから来ている．

名前は資産が倍になる速さから来ている． $𝑊 (𝑏, 𝑜, 𝑝) = 1$ とは資産の対数が $1$ レースあたり平均して $1$ だけ増えるということで，底を $2$ にとったのだから，これは資産が $1$ レースにつき $2$ 倍の速さで増えることを意味する．

形式化: doublingRate (ソース)

形式化上の注記（本章共通）. 形式化は倍加率を自然対数で定めているので，そちらの値の単位はナットである．本章は底を $2$ にとっているから値は正の定数倍だけ違うが，以降の不等式・等号条件・等式はどれも両辺が同じ倍率で変わるので，底を取り替えてもそのままの形で対応する．また形式化は配分という概念を定義として立てず，正値性も総和が $1$ であることも，それが要る定理の仮定として置いている．

例 5.1.4（公平なオッズと比例賭け）. $X$ を有限アルファベット， $𝑝$ を $X$ 上のすべての $𝑥 \in X$ で正な分布とし，オッズを $𝑜 (𝑥) = 1 / 𝑝 (𝑥)$ ととる．勝ち馬 $𝑋 1$ が分布 $𝑝$ に従うとするとき，次の三つが成り立つ．

比例賭けの倍加率は $𝑊 (𝑝, 𝑜, 𝑝) = 0$ であり，勝ち馬の列がどうであっても，すべての $𝑛$ で $𝑆 𝑛 (𝑝) = 1$ である．
$X$ 上のどの賭け金の配分 $𝑏$ （定義 5.1.1）についても， $1$ レース後の資産の期待値は $𝔼 [𝑆 1 (𝑏)] = 1$ である．
勝ち馬の列がどうであってもすべての $𝑛$ で $𝑆 𝑛 (𝑏) = 1$ となる配分 $𝑏$ は，比例賭けだけである．

証明.

すべての $𝑥$ で $𝑝 (𝑥) 𝑜 (𝑥) = 𝑝 (𝑥) \cdot (1 / 𝑝 (𝑥)) = 1$ である．定義 5.1.3 の各項は $𝑝 (𝑥) l o g 1 = 0$ だから和も $0$ になる．定義 5.1.2 の積も，各因子が $1$ だから $𝑆 𝑛 (𝑝) = 1$ である．
定義 5.1.2 で $𝑛 = 1$ とすると $𝑆 1 (𝑏) = 𝑏 (𝑋 1) 𝑜 (𝑋 1)$ だから， $𝔼 [𝑆 1 (𝑏)] = \sum 𝑥 𝑝 (𝑥) 𝑏 (𝑥) 𝑜 (𝑥)$ である． $𝑝 (𝑥) 𝑜 (𝑥) = 1$ を入れると $\sum 𝑥 𝑏 (𝑥)$ になり，定義 5.1.1 よりこれは $1$ である．
すべての $𝑛$ で $𝑆 𝑛 (𝑏) = 1$ なら，とくに $𝑛 = 1$ ですべての $𝑥$ について $𝑏 (𝑥) 𝑜 (𝑥) = 1$ である．よって $𝑏 (𝑥) = 1 / 𝑜 (𝑥) = 𝑝 (𝑥)$ となり， $𝑏$ は比例賭けである．逆は 1 で見た．

$◼$

例 5.1.4 のオッズのもとでは，どの馬に賭けても掛け金と期待した戻りがちょうど釣り合っている． $𝑥$ に賭けた $1$ 単位は，確率 $𝑝 (𝑥)$ で $𝑜 (𝑥) = 1 / 𝑝 (𝑥)$ 単位になって戻ってくるからである．期待値という尺度で見れば，どの配分を選んでも損得がない．それでも資産そのものが毎回きっかり $1$ 倍になるのは比例賭けだけで，配分をずらせば倍率 $𝑏 (𝑥) 𝑜 (𝑥) = 𝑏 (𝑥) / 𝑝 (𝑥)$ は馬ごとに $1$ から離れる．期待値には出ない差がそこにあるということで，そのずれが倍加率にどう効くかを次節で見る．オッズが真の確率からずれれば話は変わる．

例 5.1.5（一様なオッズの二頭立て）. $X = {1, 2}$ ， $𝑝 (1) = 0.8$ ， $𝑝 (2) = 0.2$ ， $𝑜 (1) = 𝑜 (2) = 2$ とする．比例賭けの倍加率は $𝑊 (𝑝, 𝑜, 𝑝) = 0.2780 \dots$ であり，一様な配分 $𝑏 (1) = 𝑏 (2) = 1 / 2$ の倍加率は $0$ である．

証明. 定義 5.1.3 より $𝑊 (𝑝, 𝑜, 𝑝) = 0.8 l o g (0.8 \cdot 2) + 0.2 l o g (0.2 \cdot 2) = 0.8 l o g 1.6 + 0.2 l o g 0.4$ である． $l o g 1.6 = 0.6780 \dots$ ， $l o g 0.4 = - 1.3219 \dots$ だから，値は $0.5424 \dots - 0.2643 \dots = 0.2780 \dots$ になる．一様な配分では各 $𝑥$ で $𝑏 (𝑥) 𝑜 (𝑥) = (1 / 2) \cdot 2 = 1$ だから，定義 5.1.3 の各項が $0$ で和も $0$ である． $◼$

例 5.1.5 の二つの配分は，同じレースに同じオッズで賭けていながら倍加率が違う．一様な配分の倍加率は $0$ で，比例賭けのそれは正である．この差が実際の資産の増え方としてどう効くかは 5.5 節で見る．先に決めておきたいのは，例 5.1.5 の二つに限らずすべての配分を見渡したとき，倍加率を最大にするのはどれか，である．次節がそれに答える．

InformationTheory — 形式化検証つき情報理論教科書（レビュー版）．数式は MathJax + AMS Euler で事前レンダリング．