5.5 資産の長時間のふるまい

ここまでに扱った倍加率は，どれも $1$ レースあたりの期待値である．期待値が大きいことと，実際に手元の資産が増えることは別の話である． $1$ 回のレースだけを見れば倍加率の低い配分のほうが資産を増やすこともあり，そのことは例 5.5.5 で確かめる．本節はこの隔たりを埋める．レースが独立に同じ分布で繰り返されるなら，資産の増え方は確率 $1$ で倍加率そのものになり，倍加率が正なら資産は限りなく増え，負なら $0$ に吸い込まれる．倍加率がちょうど $0$ のときにどちらへ行くかは本節では決まらない．5.1 節で「賭け方の良さの尺度」として倍加率を選んだことが，ここで正当化される．

道具は第2章 2.1 節で借りた 大数の強法則 である．形は「i.i.d. で期待値をもつ確率変数列の相加平均は，期待値に 概収束 する」，すなわち確率 $1$ の事象の上で各点収束するというもので，当てる相手は有限アルファベット上の i.i.d. な列から作った有界な確率変数の相加平均である．第2章が宣言した当てる相手と同じ形をしている．主張の証明でこれを直接借りるのは定理 5.5.1 だけで，本節のほかの主張はすべて定理 5.5.1 を経由してのみこの道具に依存する．ほかに用いるのは，極限と対数についての微積分の初等規則と，有限個の確率 $1$ の事象の共通部分がまた確率 $1$ であることだけである．

増え方は倍加率になる

定理 5.5.1. $X$ を有限アルファベット， $𝑜$ を $X$ 上のオッズ， $𝑏$ を $X$ 上の賭け金の配分（どちらも定義 5.1.1）， $𝑝$ を $X$ 上の分布とする．勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ が i.i.d. で，各 $𝑋 𝑖$ が分布 $𝑝$ に従うとき，確率 $1$ で

l i m 𝑛 \to \infty 1 𝑛 l o g 𝑆 𝑛 (𝑏) = 𝑊 (𝑏, 𝑜, 𝑝)

が成り立つ（ $𝑆 𝑛 (𝑏)$ は定義 5.1.2 の資産， $𝑊$ は定義 5.1.3 の倍加率である）．

証明. 定義 5.1.2 の積は， $𝑏 (𝑥) > 0$ かつ $𝑜 (𝑥) > 0$ よりどの因子も正だから，対数をとって

l o g 𝑆 𝑛 (𝑏) = 𝑛 \sum 𝑖 = 1 l o g (𝑏 (𝑋 𝑖) 𝑜 (𝑋 𝑖))

と和に直せる．各項は $𝑋 𝑖$ だけの関数だから，この列は i.i.d. である．また値は有限個の数 $l o g (𝑏 (𝑥) 𝑜 (𝑥))$ （ $𝑥 \in X$ ）のどれかなので有界であり，期待値は $\sum 𝑥 𝑝 (𝑥) l o g (𝑏 (𝑥) 𝑜 (𝑥))$ ，すなわち定義 5.1.3 の $𝑊 (𝑏, 𝑜, 𝑝)$ である．

$1 𝑛 l o g 𝑆 𝑛 (𝑏)$ はこの列の相加平均だから，大数の強法則を当てると $𝑊 (𝑏, 𝑜, 𝑝)$ に概収束する．すなわち確率 $1$ の事象の上で主張の等式が成り立つ． $◼$

形式化: seqLogWealth_div_tendsto_doublingRate (ソース)

形式化上の注記. 形式化は定理 5.5.1 の主張を，資産そのものではなくその対数 seqLogWealth (InformationTheory/Shannon/Gambling/OperationalSequences.lean) について述べる．積を先に定義してから対数をとる本文と，和として定義する形式化とを橋渡ししているのは，定理 5.5.1 の証明の第 1 段である．また形式化は勝ち馬の列に，相互独立ではなく対ごとの独立と同分布性だけを求めている．結論の右辺に現れる分布は，勝ち馬の像測度から作った lawPmf (InformationTheory/Shannon/Gambling/OperationalSequences.lean) である．本章はここまで分布をアルファベット上の関数として扱い，第1章以来の像測度としての分布とは別のものだと繰り返し断ってきたが，その二つがここで噛み合っている．

定理 5.5.1 は第2章の漸近等分配性（定理 2.1.4）と同じ形をしている．あちらは経験エントロピー（定義 2.1.1）が $𝐻 (𝑋)$ に張り付くという主張で，こちらは $1 𝑛 l o g 𝑆 𝑛 (𝑏)$ が $𝑊 (𝑏, 𝑜, 𝑝)$ に張り付くという主張である．どちらも $1$ 文字ごと， $1$ レースごとの量の相加平均に大数の強法則を当てただけで，違うのは当てる相手が驚きの量か $1$ レースの倍率の対数か，という点だけである．なお定理 5.5.1 の証明が配分 $𝑏$ について使っているのは正値性だけで，総和が $1$ であることは効いていない．それでも仮定に配分をそのまま置いているのは，手持ちを余さず配ると決めた 5.1 節の設定の中で読むためである．

規模感. 定理 5.5.1 は $1 𝑛 l o g 𝑆 𝑛 (𝑏)$ が $𝑊 (𝑏, 𝑜, 𝑝)$ に近づくと言っているので， $𝑛$ の大きいところでは $l o g 𝑆 𝑛 (𝑏)$ はおよそ $𝑛 𝑊 (𝑏, 𝑜, 𝑝)$ である．例 5.1.5 の比例賭けなら $𝑊 (𝑝, 𝑜, 𝑝) = 0.2780 \dots$ だから，この速さがそのまま続くとすれば $100$ レースのあとの $l o g 𝑆 100 (𝑝)$ はおよそ $27.8$ ，すなわち資産はおよそ $2 27.8$ 倍で， $2$ 億倍を超える勘定になる． $1$ レースあたりでは $0.28$ という小さな値でも，掛け算で積み上がるとこの規模になる．ただし定理 5.5.1 が述べているのは極限だけで，有限の $𝑛$ でこの値からどれだけ散らばるかは本書では与えない．これは規模の見当であって， $100$ レース後の資産がこの値の近くにあるという主張ではない．

符号で決まる二つの行き先

系 5.5.2. $X$ を有限アルファベット， $𝑜$ を $X$ 上のオッズ， $𝑏$ を $X$ 上の賭け金の配分（どちらも定義 5.1.1）， $𝑝$ を $X$ 上の分布とする．勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ が i.i.d. で，各 $𝑋 𝑖$ が分布 $𝑝$ に従うとき， $𝑊 (𝑏, 𝑜, 𝑝) > 0$ ならば確率 $1$ で $l o g 𝑆 𝑛 (𝑏) \to + \infty$ ， $𝑊 (𝑏, 𝑜, 𝑝) < 0$ ならば確率 $1$ で $l o g 𝑆 𝑛 (𝑏) \to - \infty$ である（ $𝑆 𝑛 (𝑏)$ は定義 5.1.2 の資産である）．したがって，前者では確率 $1$ で資産 $𝑆 𝑛 (𝑏)$ は限りなく大きくなり，後者では確率 $1$ で $0$ に近づく．

証明. $𝑛 \geq 1$ について $l o g 𝑆 𝑛 (𝑏) = 𝑛 \cdot 1 𝑛 l o g 𝑆 𝑛 (𝑏)$ と書く．定理 5.5.1 より確率 $1$ の事象の上で $1 𝑛 l o g 𝑆 𝑛 (𝑏) \to 𝑊 (𝑏, 𝑜, 𝑝)$ だから，その事象の上では，正の実数に収束する数列に $𝑛$ を掛けたものが $+ \infty$ に発散し，極限が負の実数なら $- \infty$ に発散するという既知の規則により， $𝑊 (𝑏, 𝑜, 𝑝) > 0$ なら積は $+ \infty$ に， $𝑊 (𝑏, 𝑜, 𝑝) < 0$ なら $- \infty$ に発散する．

資産そのものに読み替える．定義 5.1.2 の各因子は正だから $𝑆 𝑛 (𝑏) > 0$ であり，正の数の列については，対数が $+ \infty$ に発散することと列そのものが限りなく大きくなることが同じ，対数が $- \infty$ に発散することと列そのものが $0$ に近づくことが同じである．これを上の二つの場合に当てれば後半を得る． $◼$

形式化: 正のとき seqLogWealth_tendsto_atTop_of_pos_doublingRate，負のとき seqLogWealth_tendsto_atBot_of_neg_doublingRate (ソース)

形式化上の注記. 機械検証されているのは資産の対数についての前半までで，資産そのものへの読み替えにあたる単独の宣言はない．

系 5.5.2 が言っているのは，倍加率の符号だけで，資産が限りなく増えるか $0$ に吸い込まれるかが決まるということである．例 5.2.3 の一様な配分は倍加率が $- 0.2725 \dots$ だったから，例 5.2.3 のオッズと分布のレースが i.i.d. に繰り返されるなら，そこで賭け続ける人の資産は確率 $1$ で $0$ に近づく．同じレースで比例賭けをする人の倍加率は $0.0054 \dots$ と正なので，資産は確率 $1$ で限りなく増える．賭ける相手も戻る倍率も同じなのに行き先が正反対になるのは，指数の速さで効く量の符号が違うからである．例 5.3.7 のオッズと分布のレースが i.i.d. に繰り返される場合はもっと厳しい．比例賭けの倍加率が $- 0.0438 \dots$ と負で，定理 5.2.1 よりどの配分の倍加率もそれ以下だから，どの配分で賭けても資産は確率 $1$ で $0$ に近づく．胴元の取り分が見積もり違いを上回るとは，そういうことである．

倍加率がちょうど $0$ のときに資産がどうなるかは，系 5.5.2 の外である．

例 5.5.3（倍加率が $0$ の二つの配分）. $X = {1, 2}$ ， $𝑝 (1) = 𝑝 (2) = 1 / 2$ ， $𝑜 (1) = 4$ ， $𝑜 (2) = 4 / 3$ とし，二つの配分 $𝑏 (1) = 3 / 4$ ， $𝑏 (2) = 1 / 4$ と $𝑏' (1) = 1 / 4$ ， $𝑏' (2) = 3 / 4$ をとる．このオッズは公平（定義 5.3.3）であり， $𝑊 (𝑏, 𝑜, 𝑝) = 𝑊 (𝑏', 𝑜, 𝑝) = 0$ である．一方，勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ の各項が分布 $𝑝$ に従うとき， $𝑏$ で賭けた資産（定義 5.1.2）は $1$ レースごとに $3$ 倍か $1 / 3$ 倍になり，そのどちらが起こるかは確率 $1 / 2$ ずつであるのに対し， $𝑏'$ で賭けた資産はすべての $𝑛$ で $𝑆 𝑛 (𝑏') = 1$ である．

証明. $1 / 4 + 3 / 4 = 1$ だからオッズは公平である． $𝑏$ の $1$ レースの倍率は $𝑏 (1) 𝑜 (1) = 34 \cdot 4 = 3$ と $𝑏 (2) 𝑜 (2) = 14 \cdot 43 = 13$ であり，定義 5.1.3 より $𝑊 (𝑏, 𝑜, 𝑝) = 12 l o g 3 + 12 l o g 13 = 0$ である． $𝑏'$ の倍率は $𝑏' (1) 𝑜 (1) = 14 \cdot 4 = 1$ と $𝑏' (2) 𝑜 (2) = 34 \cdot 43 = 1$ で，定義 5.1.3 の各項が $12 l o g 1 = 0$ だから $𝑊 (𝑏', 𝑜, 𝑝) = 0$ である．定義 5.1.2 の積について， $𝑏$ では各因子が $𝑋 𝑖 = 1$ なら $3$ ， $𝑋 𝑖 = 2$ なら $13$ であり， $𝑝 (1) = 𝑝 (2) = 1 / 2$ だからそのどちらもが確率 $1 / 2$ で起こる． $𝑏'$ では各因子が $1$ だから $𝑆 𝑛 (𝑏') = 1$ である． $◼$

倍加率が $0$ だというだけでは，資産のふるまいは決まらない．例 5.5.3 の二つの配分は，分布もオッズも同じで倍加率もどちらも $0$ なのに， $𝑏$ のほうは $1$ レースごとの倍率が $3$ か $1 / 3$ になって振れ続け， $𝑏'$ のほうは資産が $1$ に固定されて動かない．違うのは配分だけである．

倍加率と $1$ レースの期待値のどちらで配分を選ぶべきかも，ここで決着する．例 5.2.4 の三つめの配分は，比べた三つの中で $1$ レースの資産の期待値がいちばん大きいのに，倍加率は $- 0.3403 \dots$ と負である．例 5.1.5 のオッズと分布のレースが i.i.d. に繰り返されるなら，系 5.5.2 よりその資産は確率 $1$ で $0$ に近づく． $1$ レースの期待値の大きさは，長い目で見た資産のふるまいを支配しない．

比例賭けは長い目で見ても最適である

系 5.5.4. $X$ を有限アルファベット， $𝑜$ を $X$ 上のオッズ， $𝑏$ を $X$ 上の賭け金の配分（どちらも定義 5.1.1）， $𝑝$ を $X$ 上のすべての $𝑥 \in X$ で正な分布とする．勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ が i.i.d. で，各 $𝑋 𝑖$ が分布 $𝑝$ に従うとき，確率 $1$ で $1 𝑛 l o g 𝑆 𝑛 (𝑏)$ と $1 𝑛 l o g 𝑆 𝑛 (𝑝)$ はともに収束し，

l i m 𝑛 \to \infty 1 𝑛 l o g 𝑆 𝑛 (𝑏) \leq l i m 𝑛 \to \infty 1 𝑛 l o g 𝑆 𝑛 (𝑝)

が成り立つ（ $𝑆 𝑛 (𝑏)$ は定義 5.1.2 の資産である）．

証明. $𝑝$ はすべての $𝑥$ で正で総和が $1$ だから，定義 5.1.1 の賭け金の配分である．定理 5.5.1 を配分 $𝑏$ と配分 $𝑝$ にそれぞれ当てると，二つの確率 $1$ の事象が得られ，有限個の確率 $1$ の事象の共通部分は確率 $1$ だから，その共通部分の上では二つの極限が同時に存在して $𝑊 (𝑏, 𝑜, 𝑝)$ と $𝑊 (𝑝, 𝑜, 𝑝)$ に等しい．定理 5.2.1 より $𝑊 (𝑏, 𝑜, 𝑝) \leq 𝑊 (𝑝, 𝑜, 𝑝)$ だから，不等式が従う． $◼$

形式化: seqLogWealth_proportional_asymptotically_optimal (ソース)

系 5.5.4 は定理 5.2.1 を実際の資産の言葉に翻訳したものである．定理 5.2.1 は期待値どうしの比較だったので，「たまたま今回は他の配分が勝つ」ことを排除していなかった．系 5.5.4 は， $𝑛$ を大きくしたときの増え方については確率 $1$ でその追い越しが起きないと言っている．比べているのは，レースごとに同じ配分で賭け続ける賭け方どうしである．過去の勝ち負けを見てそのつど配分を変える賭け方は，毎回同じ配分で賭け直すと決めた 5.1 節の設定の外にあり，本書は扱わない．

ここで確率 $1$ の事象は配分 $𝑏$ ごとに定まる．系 5.5.4 が言うのは，配分を一つ決めるごとに，その配分について確率 $1$ で追い越しが起きないということであって，すべての配分について同時に成り立つ一つの事象があるとは言っていない．系 5.5.4 の証明が交わしているのは二つの事象だけなので，そこまでは言えていない，というだけのことである．すべての配分を同時に覆う版が要るなら，各文字の指示変数の相加平均，すなわち経験頻度に大数の強法則を当てて， $| X |$ 個の確率 $1$ の事象を交わせばよい．アルファベットは有限だから，これも有限個の共通部分で済む．本書はこの版を主張として立てない．

定理 5.2.1 の等号条件はここで配当を生む． $𝑏 \neq 𝑝$ なら $𝑊 (𝑏, 𝑜, 𝑝) < 𝑊 (𝑝, 𝑜, 𝑝)$ は真の不等式だから，系 5.5.4 の二つの極限のあいだにも真の差が残る．増え方そのものに差があるということは， $l o g 𝑆 𝑛 (𝑏)$ と $l o g 𝑆 𝑛 (𝑝)$ の開きが $𝑛$ に比例して広がるということで，よそ見をした賭け手は一度の幸運では埋められない差をつけられる．

比べているのは資産そのものではなく増え方であることに注意したい．資産そのものなら追い越しは起こりうる．

例 5.5.5（ $1$ レースなら倍加率の低い配分が勝つ）. 例 5.1.5 の設定，すなわち $X = {1, 2}$ ， $𝑝 (1) = 0.8$ ， $𝑝 (2) = 0.2$ ， $𝑜 (1) = 𝑜 (2) = 2$ で，例 5.2.2 の配分 $𝑏 (1) = 0.9$ ， $𝑏 (2) = 0.1$ をとる．この配分の倍加率は比例賭けのそれより小さいが，勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ の第 $1$ 項が $𝑋 1 = 1$ であれば，資産（定義 5.1.2）は $𝑆 1 (𝑏) = 1.8$ が $𝑆 1 (𝑝) = 1.6$ を上回る．

証明. 例 5.2.2 より $𝑊 (𝑏, 𝑜, 𝑝) = 0.2140 \dots$ であり，例 5.1.5 より $𝑊 (𝑝, 𝑜, 𝑝) = 0.2780 \dots$ だから，前半が成り立つ．定義 5.1.2 で $𝑛 = 1$ とすると $𝑆 1 (𝑏) = 𝑏 (𝑋 1) 𝑜 (𝑋 1)$ だから， $𝑋 1 = 1$ のとき $𝑆 1 (𝑏) = 0.9 \cdot 2 = 1.8$ ， $𝑆 1 (𝑝) = 0.8 \cdot 2 = 1.6$ である． $◼$

系 5.5.6. $X$ を有限アルファベット， $𝑝$ を $X$ 上のすべての $𝑥 \in X$ で正な分布で，かつ一様分布でないものとする．すべての $𝑥 \in X$ で $𝑜 (𝑥) = | X |$ であるオッズ（定義 5.1.1）のもとで，勝ち馬の列 $𝑋 1, 𝑋 2, \dots$ が i.i.d. で各 $𝑋 𝑖$ が分布 $𝑝$ に従うとき，確率 $1$ で $l o g 𝑆 𝑛 (𝑝) \to + \infty$ であり，したがって確率 $1$ で資産 $𝑆 𝑛 (𝑝)$ は限りなく大きくなる（ $𝑆 𝑛 (𝑝)$ は定義 5.1.2 の資産である）．

証明. 系 5.3.2 より $𝑊 (𝑝, 𝑜, 𝑝) \geq 0$ であって，等号は $𝑝$ が一様分布のとき，かつそのときに限る． $𝑝$ は一様分布ではないから $𝑊 (𝑝, 𝑜, 𝑝) > 0$ である． $𝑝$ 自身が定義 5.1.1 の賭け金の配分だから，系 5.5.2 を配分 $𝑝$ に当てればよい．資産についての後半も系 5.5.2 の後半から出る． $◼$

形式化上の注記. 系 5.5.6 に対応する単独の宣言はない．系 5.5.2 の紐付け先に，系 5.3.2 から出る $𝑊 (𝑝, 𝑜, 𝑝) > 0$ を渡した形で得られる（系 5.3.2 のほうにも単独の宣言はなく，同じく合成で得られる）．資産そのものについての後半に対応する宣言がないことも，系 5.5.2 と同じである．なお比例賭けの増え方そのものについては，一般のオッズのもとで極限を閉じた形で与える単独の宣言 seqLogWealth_proportional_div_tendsto (InformationTheory/Shannon/Gambling/OperationalSequences.lean) がある．

系 5.5.6 が本章の結論である．どの馬にも同じ倍率を返すという偏りのないオッズに，偏った情報源をぶつける．すると比例賭けの資産は確率 $1$ で限りなく増え，その増え方は定理 5.5.1 と系 5.3.2 より $1$ レースあたり $l o g | X | - 𝐻 (𝑋)$ である（ $𝑋$ は分布 $𝑝$ に従う勝ち馬である）．第1章 1.1 節ではこの差を「偏りのぶんだけ圧縮できる余地」と読んだ．同じ差が本章では資産の増える速さになっている．情報源の偏りは，短く書くのにも，賭けて増やすのにも，同じ量だけ使えるということである．

InformationTheory — 形式化検証つき情報理論教科書（レビュー版）．数式は MathJax + AMS Euler で事前レンダリング．