15.7 記憶が伸びる戦略と $𝑊 \infty$

例 15.6.4 の市場には記憶があった．直前が上向きなら次も確率 $9 / 10$ で上向きである．ところが系 15.6.2 の右辺には，その記憶がどこにも入ってこなかった．入ってくる余地がない．右辺は $𝑋 0$ の分布だけで書かれていて，そう書けるのは，定義 15.1.3 が毎期同じポートフォリオで配分し直すと約束しており，直前に何が出たかを見ないまま配分を決めるからである．本節はこの約束を外す．第 $𝑖$ 期のポートフォリオを，それまでに出た株価比に応じて選んでよいことにすると， $1$ 期あたりの対数収益，すなわち資産倍率（定義 15.1.2）の対数の期待値はどこまで上がるか，という問いを立てる．

列は定常だから，時刻 $𝑘$ で直前の $𝑘$ 期を見ることと，時刻 $0$ で負の時刻を見ることとは同じである．それでも両側の列にしておくのは，節の終わりで無限の過去を見る戦略を述べるためである．直前の $𝑘$ 期という言い方を時刻 $0$ でするには，負の時刻の株価比が要る．そこで第3章 3.5 節が借りた 定常列の両側への拡張 を借り直す．借りる形は，定常な列 $𝑋 0, 𝑋 1, 𝑋 2, \dots$ に対し，負の時刻まで延ばした列 $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ で，整数の $ℓ$ をどこにとっても $(𝑋 ℓ, \dots, 𝑋 ℓ + 𝑛 - 1)$ の同時分布が $ℓ$ に依らず，しかも非負の時刻の部分の同時分布が元の列と一致するものが存在する，というものである．元がエルゴード的なら，延ばした列もシフトについてエルゴード的である．当てる対象は，有限集合 $X$ ，すなわち本章の株価比の全体に値をとる定常列である．第3章の宣言は有限アルファベットに値をとる情報源について書かれており，本章の $X$ も空でない有限集合だから，射程は広がらない．依存範囲は三つで，定義 15.7.2 以降が両側の列を仮定に置くところ全体，例 15.7.7 が例 15.6.4 の列に拡張を当てるところ，そして節の終わりで借りる二つがエルゴード性を使うところである．ほかの主張はどれも，両側の列が与えられたところから先の議論である．本書はこの拡張を証明しない（証明しないことと形式化されていることの書き分けは，15.6 節と同じである）．

形式化: 両側への拡張 μZ，非負の時刻での一致 μZ_nat_proj_eq，シフトの測度保存性 measurePreserving_shiftZ，エルゴード性 ergodic_shiftZ (ソース)

以下， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ は $X$ に値をとる両側の列とする．時刻 $0$ から見た直前の $𝑘$ 期の株価比は $(𝑋 - 1, \dots, 𝑋 - 𝑘)$ である．深さ $𝑘$ の記憶を使うとは，この $𝑘$ 個の値を見てから第 $0$ 期のポートフォリオを決めることをいう．見た値ごとに一つのポートフォリオを選ぶのだから，選び方とは，正の確率で起こる $𝑘$ 個の並びのそれぞれにポートフォリオを一つ割り当てる規則のことである．見た値は以下 $ℎ$ と書く．第7章の微分エントロピー $ℎ (𝑋)$ とは別で，あちらはつねに確率変数を引数にとる．どう割り当てるのがいちばん良いかは，見た値ごとに別々に決まる．値を一つ固定してしまえば，残っているのは第 $0$ 期の株価比の条件付き分布についての 15.2 節の問いだからである．

命題 15.7.1. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $𝑘 \geq 0$ を整数とする． $𝑋 - 𝑘, \dots, 𝑋 - 1, 𝑋 0$ を $X$ に値をとる確率変数とし， $ℎ \in X 𝑘$ を $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] > 0$ を満たすものとする．このとき，ポートフォリオ（定義 15.1.2） $𝑏$ を動かして

𝔼 [l o g (𝑚 \sum 𝑗 = 1 𝑏 (𝑗) 𝑋 0 (𝑗)) ∣ (𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ]

を最大にするポートフォリオが存在する．

証明. $𝑥 \in X$ について $𝑝 ℎ (𝑥) : = P r [𝑋 0 = 𝑥 ∣ (𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ]$ とおく．条件付き確率だから $𝑝 ℎ (𝑥) \geq 0$ であり， $𝑋 0$ は $X$ の元しかとらないから $\sum 𝑥 \in X 𝑝 ℎ (𝑥) = 1$ である．すなわち $𝑝 ℎ$ は $X$ 上の分布である． $𝑋 0$ のとる値が有限個だから，主張の条件付き期待値は有限和

\sum 𝑥 \in X 𝑝 ℎ (𝑥) l o g (𝑚 \sum 𝑗 = 1 𝑏 (𝑗) 𝑥 (𝑗))

に等しく，これは定義 15.1.4 の $𝑊 (𝑏, 𝑝 ℎ)$ にほかならない．命題 15.2.2 を分布 $𝑝 ℎ$ に当てれば， $𝑊 (\cdot, 𝑝 ℎ)$ を最大にするポートフォリオが存在する． $◼$

形式化上の注記. 命題 15.7.1 に対応する単独の宣言はない．上の証明のとおりこれは命題 15.2.2 を条件付き分布に当てたものであり，命題 15.2.2 のほうにも単独の宣言がないからである．形式化は，これにあたるものを一般の測度空間の上で，過去で条件付けた対数収益の期待値を最大にするポートフォリオを標本点ごとに可測に選ぶ形で述べている（exists_condLogOptimalSeq (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean)）．本文は有限集合に値をとる列に限っているので，過去の実現が有限個しかなく，選び方の可測性は問題にならない．

これから書き下すのは，15.4 節の最適倍加率（定義 15.4.3）を，副情報として市場自身の直前 $𝑘$ 期の株価比をとった形で書いたものである．

定義 15.7.2（深さ $𝑘$ の条件付き対数最適ポートフォリオと $𝑊 𝑘$ ）. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を $X$ に値をとる両側の列， $𝑘 \geq 0$ を整数とする（ $𝑘 = 0$ のとき $X 0$ はただ一つの元，すなわち空の並びだけからなる集合とし，それによる条件付けは条件を付けないことと読む）． $ℎ \in X 𝑘$ が $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] > 0$ を満たすとき， $𝑥 \in X$ について $𝑝 ℎ (𝑥) : = P r [𝑋 0 = 𝑥 ∣ (𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ]$ とおき， $𝑊 (\cdot, 𝑝 ℎ)$ （定義 15.1.4）を最大にするポートフォリオ（定義 15.1.2）を一つ選んで $𝑏 * 𝑘 (ℎ)$ と書く（命題 15.7.1 よりそのようなものは存在する）．こうして定まる規則 $𝑏 * 𝑘$ を 深さ $𝑘$ の条件付き対数最適ポートフォリオ と呼び，

𝑊 𝑘 : = \sum ℎ P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] 𝑊 (𝑏 * 𝑘 (ℎ), 𝑝 ℎ)

と定める．和は $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] > 0$ を満たす $ℎ \in X 𝑘$ についてとる．記号 $𝑏 * 𝑘$ と $𝑊 𝑘$ は両側の列にも依るが，固定されているものとして書かない．

形式化: $𝑊 𝑘$ にあたる定義 condOptGrowth (ソース)

形式化上の注記（本節共通）. 形式化は $𝑊 𝑘$ も，このあとの定義 15.7.6 の $𝑊 \infty$ も，深さごとのポートフォリオの規則の族を引数にとる形で定める．その族が各段で最良のものになっていることは定義に含まれておらず，そのような族がとれることは別の宣言 exists_condLogOptimalSeq (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) が与える．宣言はまた，深さ $𝑘$ の過去ではなく一般の増えていく情報の族について述べていて，本文の $(𝑋 - 1, \dots, 𝑋 - 𝑘)$ はその特別な場合である．値の定め方も，本文の重みつき和ではなく，深さ $𝑘$ の規則を当てたときの $1$ 期の対数収益の期待値である． $X$ が有限で過去の実現が有限個だから値はどちらも同じだが，その一致を述べる宣言はない．

確率 $0$ でしか起こらない並びについては $𝑏 * 𝑘$ の値を決めていない． $𝑊 𝑘$ の和には現れず，このあと $𝑏 * 𝑘$ を当てる先も，確率 $1$ で正の確率をもつ並びだからである．

$𝑊 𝑘$ は，深さ $𝑘$ の記憶を使ってよいときの $1$ 期あたりの対数収益の期待値である．右辺は，見た値 $ℎ$ ごとにそのときの最良の倍加率を計算し， $ℎ$ の出方で平均した形，すなわち定義 15.4.3 の $𝑊 * (𝑋 ∣ 𝑌)$ の形をしている．違うのは，副情報が外から与えられるのではなく，市場自身の過去だというところだけである．

命題 15.7.3（固定したポートフォリオの最大倍加率としての $𝑊 0$ ）. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を $X$ に値をとる両側の列， $𝑝 0$ を $𝑋 0$ の分布とする．このとき，どのポートフォリオ（定義 15.1.2） $𝑏$ についても $𝑊 (𝑏, 𝑝 0) \leq 𝑊 0$ （定義 15.1.4，定義 15.7.2）であり，等号を与えるポートフォリオが存在する．

証明. $𝑘 = 0$ のとき $X 0$ はただ一つの元 $ℎ$ ，すなわち空の並びからなり，それが実現する確率は $1$ である．条件を付けないのだから $𝑝 ℎ$ は $𝑋 0$ の分布 $𝑝 0$ であり，定義 15.7.2 の和は $ℎ$ の項だけになって $𝑊 0 = 𝑊 (𝑏 * 0 (ℎ), 𝑝 0)$ となる．定義 15.7.2 より $𝑏 * 0 (ℎ)$ は $𝑊 (\cdot, 𝑝 0)$ を最大にするポートフォリオだから，どのポートフォリオ $𝑏$ についても $𝑊 (𝑏, 𝑝 0) \leq 𝑊 (𝑏 * 0 (ℎ), 𝑝 0) = 𝑊 0$ であり， $𝑏 : = 𝑏 * 0 (ℎ)$ が等号を与える． $◼$

形式化上の注記. 命題 15.7.3 に対応する単独の宣言はない．定義 15.7.2 の $𝑊 𝑘$ にあたる condOptGrowth (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) と定義 15.1.4 の倍加率にあたる growthRate (InformationTheory/Shannon/Portfolio/Basic.lean) の両方を結論に含む宣言を，結論の形で探して見つからなかった．そもそも形式化の $𝑘 = 0$ が本文の $𝑊 0$ にあたるとも限らない．あちらの $𝑘$ は一般の増えていく情報の族の段の番号で，第 $0$ 段が条件を付けないことを意味しないからである．

系 15.6.2 は，固定したポートフォリオ $𝑏$ で運用したときの時間平均が確率 $1$ で $𝑊 (𝑏, 𝑝 0)$ に行き着くと言っていた．命題 15.7.3 の $𝑊 0$ は，その行き先のうちいちばん大きいものである．記憶を使わない運用でできることは，ここで頭打ちになる．

深さを増やして損をすることはない．深さ $𝑘$ までしか見ない規則は，深さ $𝑘'$ まで見てよい場面でもそのまま使えるので，最良のものを選び直せば値は下がりようがない．

命題 15.7.4（深さについての単調性）. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を $X$ に値をとる両側の列とする． $𝑘$ ， $𝑘'$ を $0 \leq 𝑘 \leq 𝑘'$ を満たす整数とすると $𝑊 𝑘 \leq 𝑊 𝑘'$ （定義 15.7.2）である．

証明. $ℎ' \in X 𝑘'$ を $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘') = ℎ'] > 0$ を満たすものとし， $ℎ \in X 𝑘$ をその最初の $𝑘$ 成分，すなわち $(𝑋 - 1, \dots, 𝑋 - 𝑘)$ にあたる部分とする． $(𝑋 - 1, \dots, 𝑋 - 𝑘') = ℎ'$ ならば $(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ$ だから $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] > 0$ であり，定義 15.7.2 より $𝑏 * 𝑘 (ℎ)$ は $𝑊 (\cdot, 𝑝 ℎ)$ の最大化元， $𝑏 * 𝑘' (ℎ')$ は $𝑊 (\cdot, 𝑝 ℎ')$ の最大化元である．後者から

𝑊 (𝑏 * 𝑘 (ℎ), 𝑝 ℎ') \leq 𝑊 (𝑏 * 𝑘' (ℎ'), 𝑝 ℎ')

である．両辺に $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘') = ℎ'] \geq 0$ を掛け，正の確率をもつ $ℎ'$ について足すと，右辺の和は定義 15.7.2 より $𝑊 𝑘'$ だから

\sum ℎ' P r [(𝑋 - 1, \dots, 𝑋 - 𝑘') = ℎ'] 𝑊 (𝑏 * 𝑘 (ℎ), 𝑝 ℎ') \leq 𝑊 𝑘'

を得る．

左辺が $𝑊 𝑘$ に等しいことを見る． $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] > 0$ を満たす $ℎ$ を一つ固定し， $𝑏 : = 𝑏 * 𝑘 (ℎ)$ とおく．最初の $𝑘$ 成分が $ℎ$ であり正の確率をもつ $ℎ'$ について和をとると，どの $𝑥 \in X$ でも

\sum ℎ' P r [(𝑋 - 1, \dots, 𝑋 - 𝑘') = ℎ'] 𝑝 ℎ' (𝑥) = P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] 𝑝 ℎ (𝑥)

である．両辺とも $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ, 𝑋 0 = 𝑥]$ に等しいからである（左辺で落とした $ℎ'$ は確率 $0$ で，その項は $0$ である）．定義 15.1.4 より $𝑊 (𝑏, 𝑝 ℎ') = \sum 𝑥 𝑝 ℎ' (𝑥) l o g (\sum 𝑗 𝑏 (𝑗) 𝑥 (𝑗))$ だから， $𝑥$ についての和と $ℎ'$ についての和を入れ替えて，最初の $𝑘$ 成分が $ℎ$ である $ℎ'$ の寄与は $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ] 𝑊 (𝑏, 𝑝 ℎ)$ に等しい．正の確率をもつ $ℎ'$ はどれもその最初の $𝑘$ 成分が正の確率をもつので， $ℎ$ について足せば左辺は定義 15.7.2 の $𝑊 𝑘$ である． $◼$

形式化: condOptGrowth_monotone (ソース)

形式化上の注記. 宣言は，深さごとのポートフォリオの規則の族が条件付き支配の性質をもつこと，すなわち過去で決まるどの規則についても，過去を与えたときの対数収益の期待値が深さ $𝑘$ の規則のそれ以下であることを仮定に置く．本文の $X$ は有限で過去の実現も有限個だから，この仮定は定義 15.7.2 が実現ごとに課した最大性そのものである．

深さを増やして上がるとまでは，命題 15.7.4 は言っていない．実際に上がる市場があることは例 15.7.7 が見せる．次の証明では，単調非減少で上に有界な実数列がその上限に収束することを，学部の解析の事実として既知とする．

命題 15.7.5（ $𝑊 𝑘$ の有界性と上限への収束）. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を $X$ に値をとる両側の列とし， $𝑥 m a x : = m a x 𝑥 \in X m a x 1 \leq 𝑗 \leq 𝑚 𝑥 (𝑗)$ とおく（ $X$ は空でない有限集合だから，この最大値は定まる）．このとき次の二つが成り立つ（ $𝑊 𝑘$ は定義 15.7.2 のものである）．

どの整数 $𝑘 \geq 0$ についても $𝑊 𝑘 \leq l o g 𝑥 m a x$ である．
数列 $(𝑊 𝑘) 𝑘 \geq 0$ は $s u p 𝑘 \geq 0 𝑊 𝑘$ に収束する．

証明.

どのポートフォリオ $𝑏$ とどの $𝑥 \in X$ についても，定義 15.1.2 より $𝑏 (𝑗) \geq 0$ かつ $\sum 𝑗 𝑏 (𝑗) = 1$ であり， $𝑥 m a x$ のとり方より $𝑥 (𝑗) \leq 𝑥 m a x$ だから $\sum 𝑗 𝑏 (𝑗) 𝑥 (𝑗) \leq 𝑥 m a x$ である．いっぽう補題 15.1.5 よりこの和は正だから，対数の単調性（補題 8.2.5）より $l o g \sum 𝑗 𝑏 (𝑗) 𝑥 (𝑗) \leq l o g 𝑥 m a x$ である．したがって，非負で総和が $1$ の重み $𝑝 ℎ$ で平均した $𝑊 (𝑏, 𝑝 ℎ)$ も $l o g 𝑥 m a x$ 以下である．定義 15.7.2 の重み $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ]$ も非負で総和が $1$ だから， $𝑊 𝑘 \leq l o g 𝑥 m a x$ を得る．
命題 15.7.4 より $(𝑊 𝑘) 𝑘 \geq 0$ は非減少で，1. より上に有界だから，既知とした解析の事実によりその上限に収束する．

$◼$

形式化上の注記. 命題 15.7.5 に対応する単独の宣言はない．上に有界であることは condOptGrowth_bddAbove (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) が与えるが，こちらは一様な上界の存在を仮定にとる形で，本章の市場ではその仮定が定義 15.1.1 から 1. の議論のとおりに出る．収束のほうは，深さごとの規則の族の存在とあわせて exists_condOptGrowth_tendsto_condOptGrowthInfty (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) が述べているが，結論が存在の形をしていて本文の主張とは形が違う．

定義 15.7.6（ $𝑊 \infty$ ）. 命題 15.7.5 と同じ設定で

𝑊 \infty : = s u p 𝑘 \geq 0 𝑊 𝑘

と定める（ $𝑊 𝑘$ は定義 15.7.2 のもので，命題 15.7.5 よりこの上限は実数である）．

形式化: condOptGrowthInfty (ソース)

定義 15.7.2，命題 15.7.3，命題 15.7.4，定義 15.7.6 を並べると，どのポートフォリオ $𝑏$ についても

𝑊 (𝑏, 𝑝 0) \leq 𝑊 0 \leq 𝑊 1 \leq 𝑊 2 \leq \dots \leq 𝑊 \infty

という連鎖になる．いちばん左が記憶を使わない運用の値，いちばん右がいくらでも深い記憶を使ってよいときの値である．ここまでの主張は，列が定常であることもエルゴード的であることも使っていない．どれも時刻 $0$ の一期についての量だからである．定常性を使うのは例 15.7.7 の計算と，このあと時間平均が出てくるところで，エルゴード性を使うのは後者だけである．

例 15.7.7（記憶のあるマルコフ市場の $𝑊 \infty$ ）. $X = {𝑥 ↑, 𝑥 ↓}$ （例 15.1.6 の二つの株価比）とし，例 15.6.4 の列，すなわちどちらの状態からも確率 $9 / 10$ で同じ状態にとどまり確率 $1 / 10$ でもう一方に移るマルコフ情報源（定義 3.1.3）を定常分布から始めたものに，本節のはじめに借りた両側への拡張を当てて，両側の定常列 $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を得る．このとき

𝑊 0 = 12 l o g 98 = 0.0849 \dots, 𝑊 𝑘 = 25 (𝑘 \geq 1)

であり， $𝑊 \infty = 25$ である（ $𝑊 𝑘$ は定義 15.7.2， $𝑊 \infty$ は定義 15.7.6 のものである）．

証明. $𝑊 0$ から見る．両側への拡張の非負の時刻の部分は例 15.6.4 の列と一致するから，例 15.6.4 より $𝑋 0$ の分布 $𝑝 0$ は ${𝑥 ↑, 𝑥 ↓}$ 上の一様分布，すなわち例 15.1.6 の $𝑝$ であり， $𝑊 (\cdot, 𝑝 0)$ の最大値は $12 l o g 98$ である．命題 15.7.3 よりこれが $𝑊 0$ である．

条件付き分布を求める． $𝑘 \geq 1$ と，正の確率をもつ $ℎ = (ℎ 1, \dots, ℎ 𝑘) \in X 𝑘$ をとる．列は定常だから $(𝑋 - 𝑘, \dots, 𝑋 - 1, 𝑋 0)$ の同時分布は $(𝑋 0, \dots, 𝑋 𝑘)$ のそれに等しい．両側への拡張の非負の時刻の部分は例 15.6.4 の列と一致するから，後者は定義 3.1.3 より初期分布と遷移確率の積に分かれる．初期分布を $𝜇$ （例 15.6.4 の定常分布），遷移確率を $𝑃$ と書いて並びを対応させると

P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ, 𝑋 0 = 𝑥] = 𝜇 (ℎ 𝑘) 𝑃 (ℎ 𝑘, ℎ 𝑘 - 1) \dots 𝑃 (ℎ 2, ℎ 1) 𝑃 (ℎ 1, 𝑥)

であり， $𝑥$ について足したものが $P r [(𝑋 - 1, \dots, 𝑋 - 𝑘) = ℎ]$ だから， $𝑝 ℎ (𝑥) = 𝑃 (ℎ 1, 𝑥)$ である．すなわち $𝑝 ℎ$ は $ℎ$ の最初の成分だけで決まる．

$ℎ 1 = 𝑥 ↑$ の場合を計算する． $𝑝 ℎ (𝑥 ↑) = 9 / 10$ ， $𝑝 ℎ (𝑥 ↓) = 1 / 10$ である．これは例 15.2.9 の分布そのものだから，全額を銘柄 $2$ に寄せたポートフォリオ $𝑏$ が分布 $𝑝 ℎ$ についての対数最適ポートフォリオであり， $𝑊 (𝑏, 𝑝 ℎ) = 45$ である．

$ℎ 1 = 𝑥 ↓$ の場合は 15.2 節の Kuhn–Tucker 条件で確かめる． $𝑝 ℎ (𝑥 ↑) = 1 / 10$ ， $𝑝 ℎ (𝑥 ↓) = 9 / 10$ で，全額を銘柄 $1$ に寄せたポートフォリオ $𝑏'$ をとると資産倍率はどちらの株価比でも $1$ だから，定理 15.2.4 の左辺は $𝑗 = 1$ について $1$ ， $𝑗 = 2$ について $110 \cdot 2 + 910 \cdot 12 = 1320$ である．よって $𝑏'$ が分布 $𝑝 ℎ$ についての対数最適ポートフォリオであり，定義 15.1.4 より $𝑊 (𝑏', 𝑝 ℎ) = l o g 1 = 0$ である．

$𝑊 𝑘$ の値を出す．列は定常だから $𝑋 - 1$ の分布は $𝑋 0$ の分布 $𝑝 0$ ，すなわち一様分布であり， $P r [𝑋 - 1 = 𝑥 ↑] = P r [𝑋 - 1 = 𝑥 ↓] = 12$ である． $𝑘 \geq 1$ について，定義 15.7.2 の和のうち最初の成分が $𝑥 ↑$ である $ℎ$ の寄与は， $𝑊 (𝑏 * 𝑘 (ℎ), 𝑝 ℎ)$ の値がどれも $45$ で，重みの和が $P r [𝑋 - 1 = 𝑥 ↑] = 12$ だから $12 \cdot 45$ であり，最初の成分が $𝑥 ↓$ である $ℎ$ の寄与は同様に $12 \cdot 0$ である．よって $𝑊 𝑘 = 25$ である．定義 15.7.6 より $𝑊 \infty = s u p 𝑘 \geq 0 𝑊 𝑘$ で， $𝑊 0 = 0.0849 \dots < 25$ だから $𝑊 \infty = 25$ である． $◼$

例 15.7.7 の市場では，記憶を一期ぶん使えるようにしただけで $1$ 期あたりの対数収益の期待値が $0.0849 \dots$ から $25$ へ上がる．例 15.6.4 で見たとおり，この市場の $𝑋 0$ の分布は記憶のない例 15.1.6 の市場のそれと同じだから，固定したポートフォリオ $𝑏$ について系 15.6.2 の右辺 $𝑊 (𝑏, 𝑝 0)$ も二つの市場で同じ値である．同じ値になるのは市場のせいではなく，運用の仕方のせいだったということである．そして二期以上さかのぼっても値は変わらない．次に何が出るかについて，直前の一つが知っていること以上のことを，それより前の株価比は知らないからである（定義 3.1.3）．

下向きと分かっているときの最良の値が $0$ にとどまるのは，15.4 節で見たのと同じ事情による．下向きのときに資産を増やす銘柄がこの市場にはなく，できるのは減らないこと，すなわち全額を現金に寄せることまでだからである．

上がり幅そのものにも上限がある． $𝑊 𝑘$ が定義 15.4.3 の最適倍加率と同じ形であることは定義 15.7.2 のところで見たとおりで，副情報の値打ちを測った 15.4 節の評価がそこから効く．

系 15.7.8（記憶による増分の上界）. $𝑚 \geq 1$ とし， $X$ を株価比（定義 15.1.1）からなる空でない有限集合， $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ を $X$ に値をとる両側の列， $𝑘 \geq 0$ を整数とする．このとき

𝑊 𝑘 - 𝑊 0 \leq 𝐼 (𝑋 0; (𝑋 - 1, \dots, 𝑋 - 𝑘))

である（ $𝑊 𝑘$ は定義 15.7.2 のもの， $𝐼$ は定義 1.3.1 の相互情報量である）．

証明. $𝑌 : = (𝑋 - 1, \dots, 𝑋 - 𝑘)$ とおく． $𝑌$ は空でない有限集合 $X 𝑘$ に値をとる．これを定義 15.4.1 の $Y$ にとり， $𝑝 (ℎ) : = P r [𝑌 = ℎ]$ とおくと， $𝑝$ は $X 𝑘$ 上の分布である． $𝑝 (ℎ) > 0$ を満たす $ℎ$ については $𝑝 (\cdot ∣ ℎ)$ を定義 15.7.2 の $𝑝 ℎ$ とし， $𝑝 (ℎ) = 0$ を満たす $ℎ$ については $𝑝 (\cdot ∣ ℎ)$ を $X$ の元を一つ選んだ一点分布とすると，どれも $X$ 上の分布であり，どちらの場合も $𝑝 (ℎ) 𝑝 (𝑥 ∣ ℎ) = P r [𝑌 = ℎ, 𝑋 0 = 𝑥]$ だから，これが対 $(𝑋 0, 𝑌)$ の同時分布である．すなわち定義 15.4.1 と定義 15.4.3 の設定がそろう．

二つの最適倍加率（定義 15.4.3）を読み替える． $𝑊 * (𝑋 0 ∣ 𝑌)$ の和のうち $𝑝 (ℎ) = 0$ の項は $0$ で，残る項は $𝑝 (ℎ) m a x 𝑏 𝑊 (𝑏, 𝑝 ℎ)$ ，すなわち定義 15.7.2 の和の項そのものだから， $𝑊 * (𝑋 0 ∣ 𝑌) = 𝑊 𝑘$ である．いっぽう定義 15.4.3 の周辺分布は $\sum ℎ 𝑝 (ℎ) 𝑝 (𝑥 ∣ ℎ) = P r [𝑋 0 = 𝑥]$ ，すなわち $𝑋 0$ の分布 $𝑝 0$ だから，命題 15.7.3 より $𝑊 * (𝑋 0) = m a x 𝑏 𝑊 (𝑏, 𝑝 0) = 𝑊 0$ である．

そこで系 15.4.5 を対 $(𝑋 0, 𝑌)$ に当てれば主張を得る． $◼$

形式化上の注記. 系 15.7.8 に対応する単独の宣言はない．合成で得るには，定義 15.7.2 の $𝑊 𝑘$ にあたる condOptGrowth (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) と，定義 15.4.1 の条件付き倍加率にあたる condGrowthRate (InformationTheory/Shannon/Portfolio/SideInformation.lean) とを結ぶ段が要るが，両方を結論に含む宣言を結論の形で探して見つからなかった．系 15.4.5 の側に単独の宣言がないことは，そちらに書いたとおりである．

例 15.7.7 の市場で $𝑘 = 1$ ととって両辺を計算する．左辺の増分は $25 - 0.0849 \dots = 0.3150 \dots$ である．右辺に移ると， $𝑋 0$ は $2$ 点上の一様分布だから定理 1.1.5 の等号の場合にあたり $𝐻 (𝑋 0) = 1$ である． $𝑋 - 1$ を与えたときの $𝑋 0$ の分布は，例 15.7.7 の証明のとおり，どちらの条件のもとでも一方に $9 / 10$ ，他方に $1 / 10$ を与える．条件付きエントロピー（定義 1.2.2）は各条件のもとのエントロピーの平均だから $𝐻 (𝑋 0 ∣ 𝑋 - 1) = 𝐻 𝑏 (1 / 10) = 0.4689 \dots$ であり（ $𝐻 𝑏$ は例 1.1.2 の二値エントロピー関数である），定理 1.3.4 より $𝐼 (𝑋 0; 𝑋 - 1) = 1 - 𝐻 𝑏 (1 / 10) = 0.5310 \dots$ となる．たしかに増分のほうが小さい．例 15.4.8 が例 15.1.6 の市場に $9$ 割の予想を副情報として与えたときの増分と相互情報量も，この二つと同じ数である．副情報の値打ちを測った 15.4 節の評価は，副情報が外から来るのではなく市場自身の過去であるときにも，そのまま効いている．

$𝑊 𝑘$ を上から抑える式は，これで命題 15.7.5 の 1. と系 15.7.8 の二つになった．どちらが強いかは市場による．命題 15.7.5 の 1. を $𝑘 = 0$ に当てると $𝑊 0 \leq l o g 𝑥 m a x$ だから，系 15.7.8 のほうが強いのは相互情報量が $l o g 𝑥 m a x - 𝑊 0$ 以下のときで，それを超えると命題 15.7.5 の 1. のほうが強い．例 15.7.7 の市場で $𝑘 = 1$ ととると， $𝑥 m a x = 2$ だから前者が与えるのは $𝑊 1 \leq 1$ ，後者が与えるのは $𝑊 1 \leq 𝑊 0 + 𝐼 (𝑋 0; 𝑋 - 1) = 0.0849 \dots + 0.5310 \dots = 0.6159 \dots$ であり，相互情報量が $1 - 0.0849 \dots$ を下回っているぶん，後者のほうが強い．

記憶をいくらでも深くしたとき

$𝑊 \infty$ は定義のうえでは上限にすぎず，どれか一つの戦略が実際にその速さで資産を増やすとは，ここまでのどの主張も言っていない．言えることを二つ借りる．本節が列のエルゴード性を使うのは，この二つだけである．

一つめは 無限の過去を使う戦略の収束 である．借りる形は次のとおりである． $X$ を株価比（定義 15.1.1）からなる空でない有限集合とし， $X$ に値をとる両側の定常列 $\dots, 𝑋 - 1, 𝑋 0, 𝑋 1, \dots$ がエルゴード的であるとする．このとき，無限の過去 $(𝑋 - 1, 𝑋 - 2, \dots)$ の各実現に，その実現のもとでの $𝑋 0$ の条件付き分布についての対数最適ポートフォリオ（定義 15.2.3）を割り当てる規則 $𝑏 * \infty$ で，その $1$ 期あたりの対数収益の期待値 $𝔼 [l o g (\sum 𝑚 𝑗 = 1 𝑏 * \infty (𝑋 - 1, 𝑋 - 2, \dots) (𝑗) 𝑋 0 (𝑗))]$ が $𝑊 \infty$ （定義 15.7.6）に等しいものが存在する．この規則を第 $𝑖$ 期にそのときまでの過去に当てて $𝑏 * \infty (𝑋 𝑖 - 1, 𝑋 𝑖 - 2, \dots)$ を使い続けると，確率 $1$ で

1 𝑛 𝑛 - 1 \sum 𝑖 = 0 l o g (𝑚 \sum 𝑗 = 1 𝑏 * \infty (𝑋 𝑖 - 1, 𝑋 𝑖 - 2, \dots) (𝑗) 𝑋 𝑖 (𝑗)) ⟶ 𝑊 \infty

となる．当てる対象は定義 15.2.3 の対数最適ポートフォリオと定義 15.7.6 の $𝑊 \infty$ で，使うのはこのあとの筋書きの中だけだから，本書の主張がこれに依拠することはない．規則 $𝑏 * \infty$ を一つ決めてしまえば，時間平均がその期待値に収束すること自体は 15.6 節が借りた Birkhoff の個別エルゴード定理の当たる形になる（当てるのは，無限の過去と第 $0$ 期の株価比とで決まる資産倍率の対数である）．借用が言い足しているのは，無限の過去のもとで条件付き対数最適な規則がとれることと，その $1$ 期あたりの対数収益の期待値がちょうど $𝑊 \infty$ であることの二つで，時間平均の行き先はこの二つから出る．

形式化上の注記. この言明をそのまま述べる単独の宣言はない．存在と収束を一本にまとめた宣言 stationaryInfPast_logOptimal_growth_tendsto_condOptGrowthInfty (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) はあるが，その結論に置かれているのは，ポートフォリオの規則の族と一つの規則が存在して後者の時間平均が前者から作った値に収束する，という形であって，収束先が定義 15.7.6 の $𝑊 \infty$ であることも，規則が無限の過去のもとで条件付き対数最適であることも，結論に現れない．族のほうには結論のどこにも条件が付いていないので，定数のポートフォリオを並べた族をとれば収束先はその定数の倍加率になり，Birkhoff の個別エルゴード定理だけでこの形が満たされてしまう．上の言明にあたるものは四つを合わせて得られる．深さごとの規則の族の存在 exists_condLogOptimalSeq，無限の過去を与えたときの対数最適ポートフォリオを割り当てる規則の存在 exists_infPast_condLogOptimal，後者の $1$ 期あたりの対数収益の期待値が $𝑊 \infty$ に等しいこと condOptGrowthInfty_eq_integral_infPast（三つとも同じファイルにある），および 15.6 節が借りた Birkhoff の個別エルゴード定理 birkhoff_ergodic_ae (InformationTheory/Shannon/BirkhoffErgodic.lean) である．三つめは族の可測性・単体への帰属・条件付き支配を仮定として受け取るので，一つめがそれを供給する．

二つめは 記憶が伸びる戦略の収束 である．同じ設定で，第 $𝑖$ 期に深さ $𝑖$ の条件付き対数最適ポートフォリオ（定義 15.7.2）を，そのときまでに出た $𝑖$ 期ぶんの株価比に当てて使う戦略をとる．すなわち第 $0$ 期は $𝑏 * 0$ ，第 $1$ 期は $𝑏 * 1 (𝑋 0)$ ，第 $2$ 期は $𝑏 * 2 (𝑋 1, 𝑋 0)$ ，と深さを一つずつ伸ばしていく．この戦略についても，確率 $1$ で

1 𝑛 𝑛 - 1 \sum 𝑖 = 0 l o g (𝑚 \sum 𝑗 = 1 𝑏 * 𝑖 (𝑋 𝑖 - 1, \dots, 𝑋 0) (𝑗) 𝑋 𝑖 (𝑗)) ⟶ 𝑊 \infty

となる．当てる対象は定義 15.7.2 の $𝑏 * 𝑘$ と定義 15.7.6 の $𝑊 \infty$ だけで，本書のどの主張もこれを使わない．章の結論として述べるだけである．

本書はこの二つを証明しない．以下に書くのは二つめの筋書きであって，証明ではない．筋は上下からの挟み撃ちで，どちらの向きも $𝑛$ 期ぶんの資産の比を作り，補題 3.5.3（期待値が $1$ で抑えられた比は $1 𝑛 l o g$ の尺度では消える）を当てる．

上からは，記憶が伸びる戦略の資産を， $𝑏 * \infty$ を使い続けたときの資産で割る．第 $𝑖$ 期の分子が使う $𝑏 * 𝑖 (𝑋 𝑖 - 1, \dots, 𝑋 0)$ は分母が条件付けている無限の過去で決まるから，分母が無限の過去のもとで条件付き対数最適であることとあわせて，条件付けた形の定理 15.3.1 が当たり，各期の比の条件付き期待値は $1$ を超えない．これを $𝑛$ 期ぶんの積へ渡し，補題 3.5.3 と，いま借りた無限の過去を使う戦略の収束とを合わせると，上からの評価が $𝑊 \infty$ になる．

下からは，深さ $𝑘$ を固定した戦略の資産を，記憶が伸びる戦略の資産で割る．こちらは比の期待値が $1$ 以下だとは言えない．第 $𝑖$ 期に深さ $𝑘$ の戦略が見る $(𝑋 𝑖 - 1, \dots, 𝑋 𝑖 - 𝑘)$ は， $𝑖 < 𝑘$ のとき，記憶が伸びる戦略が見ている $(𝑋 𝑖 - 1, \dots, 𝑋 0)$ に入っていないからである．実際，例 15.7.7 の市場で $𝑘 \geq 1$ とし，第 $0$ 期だけをとってみる．定義 15.7.2 が一つ選ぶポートフォリオとして，分子の深さ $𝑘$ には例 15.7.7 の証明が挙げたもの，すなわち $𝑋 - 1$ が上向きなら全額を銘柄 $2$ に，下向きなら全額を銘柄 $1$ に寄せたものを，分母の深さ $0$ には例 15.2.6 の対数最適ポートフォリオをとる．資産倍率と比は， $𝑋 - 1$ と $𝑋 0$ の向きの組み合わせごとに次のようになる（分母の値は例 15.1.6 の計算による）．

$𝑋 - 1$ も $𝑋 0$ も上向き．分子 $2$ ，分母 $3 / 2$ ，比 $4 / 3$ ．
$𝑋 - 1$ が上向きで $𝑋 0$ が下向き．分子 $1 / 2$ ，分母 $3 / 4$ ，比 $2 / 3$ ．
$𝑋 - 1$ が下向きで $𝑋 0$ が上向き．分子 $1$ ，分母 $3 / 2$ ，比 $2 / 3$ ．
$𝑋 - 1$ も $𝑋 0$ も下向き．分子 $1$ ，分母 $3 / 4$ ，比 $4 / 3$ ．

二つの向きがそろう確率は $9 / 10$ だから，比の期待値は $910 \cdot 43 + 110 \cdot 23 = 1915$ で， $1$ を超える．

そこで第 $𝑖$ 期を $𝑖 \geq 𝑘$ のところだけ取り出す． $𝑖 \geq 𝑘$ なら深さ $𝑘$ の戦略が見る $𝑘$ 個は記憶が伸びる戦略の見る $𝑖$ 個に入る．そのときまでの過去の実現 $ℎ$ を一つ固定すると，分母のポートフォリオはその実現についての条件付き分布 $𝑝 ℎ$ の対数最適ポートフォリオ（定義 15.7.2）で，分子のポートフォリオも $ℎ$ で決まる一つのポートフォリオだから，分布を $𝑝 ℎ$ とする市場についての定理 15.3.1 がそのまま当たる．実現は有限個だから，あとは $ℎ$ の確率で重みをつけて足せばよく，各期の比の期待値は $1$ を超えない．同じ運びを最後の期から順に繰り返せば， $𝑛$ 期ぶんの積についても期待値は $1$ 以下になる．どの段も有限和の計算である．落とした最初の $𝑘$ 期ぶんの対数収益は， $X$ が有限で株価比がどれも正だから $𝑛$ に依らない量で抑えられ， $1 𝑛$ の尺度では消える．こうして下からの評価は深さ $𝑘$ の戦略の時間平均以上になり，その時間平均には 15.6 節が借りた Birkhoff の個別エルゴード定理が当たって $𝑊 𝑘$ に行き着く． $𝑘$ はいくらでも大きくとれるので，命題 15.7.5 と合わせて下からの評価も $𝑊 \infty$ になる．

足りないのは二つで，どちらも上からの評価の側にある．一つは，無限の過去で条件付けた形の定理 15.3.1 である．有限の深さで条件付けた形なら，いま見たとおり実現ごとに定理 15.3.1 をそのまま当てて重みをつけて足せばよく，本書に足りないものはない．無限の過去では，実現ごとに固定するこの手が使えない．もう一つは，各期の条件付き評価から $𝑛$ 期ぶんの積へ渡る段である．下からの評価では実現が有限個だから有限和の計算で済んだが，上からはそうはいかない．条件付ける先が期ごとに増えていくので，無限の過去で条件付けた期待値を入れ子にすることになり，本書が無限の過去について認めている二つの操作，すなわち第3章 3.5 節の条件付き確率のチェイン則と，実現ごとに固定してとる期待値との二段分けの外に出る．

形式化上の注記. 記憶が伸びる戦略の収束をそのまま述べる単独の宣言はない．これにあたる宣言 growingMemory_logWealth_tendsto_condOptGrowthInfty (InformationTheory/Shannon/Portfolio/StationaryWinftyAEP.lean) はあるが，深さごとの規則の族と，無限の過去を与えたときの対数最適ポートフォリオを割り当てる規則とを，仮定として受け取る形をしている．後者の存在は本書が借りたものであって本書が示したものではない．宣言はさらに，時計を進める写像と過去との噛み合いについての可測性を仮定に置く．いっぽう筋書きで足りないと言った，無限の過去で条件付けた形の定理 15.3.1 は，本書が述べていないだけで形式化はされている．公開された宣言 condKuhnTucker_infPast (InformationTheory/Shannon/Portfolio/StationaryWinfty.lean) がそれで，無限の過去についての条件付き対数最適ポートフォリオを分母にとると，過去で決まるどのポートフォリオの規則についても，資産倍率の比の条件付き期待値が $1$ 以下であることを述べる．筋書きが下からの評価で $𝑖 \geq 𝑘$ の期だけを取り出したところにあたるのは，深さを $𝐾 \leq 𝑖$ に制限した stagewise_condKuhnTucker (InformationTheory/Shannon/Portfolio/StationaryWinftyAEP.lean) だが，こちらは記憶が伸びる戦略の収束にあたる上の宣言の証明の中の足場で，公開された宣言にはなっていない．しかもその中身は，condKuhnTucker_infPast を，どの段でも同じ情報しか与えない族に当てたものである．有限の深さのほうを定理 15.3.1 から直に出す本文とは，向きが逆になっている．

$𝑊 \infty$ は，市場の記憶をどこまでも使ってよいときの $1$ 期あたりの増え方であり，記憶が伸びる戦略の収束によれば，過去を全部覚えなくても，覚える期数を一つずつ伸ばしていくだけでそこに届く．例 15.7.7 で見たとおり，同じ市場に同じ額を置いても行き先が変わるのは市場のせいではなく運用の仕方のせいだった．その運用の仕方でどこまで行けるかという問いに，借りた二つが $𝑊 \infty$ という答えを与えていることになる．ただしここまでの最良の戦略はどれも，分布を知っている者のものである． $𝑏 *$ を組むには $𝑝$ が， $𝑏 * 𝑘$ を組むには条件付き分布が要る．ここまでの本章は，市場に分布を置き，株価比を確率変数として扱ってきた．15.8 節はその枠組みを離れる．

InformationTheory — 形式化検証つき情報理論教科書（レビュー版）．数式は MathJax + AMS Euler で事前レンダリング．

15.7 記憶が伸びる戦略と𝑊∞

記憶をいくらでも深くしたとき

15.7 記憶が伸びる戦略と $𝑊 \infty$