8.6 並列ガウス通信路と注水

8.5 節の帯域制限ガウス通信路では，どの標本にも同じ分散 $𝑁 0 / 2$ の雑音が乗るとした．実際の経路はそうとはかぎらない．周波数の帯域を細かく切ると，雑音の強さは帯域ごとに違う．これは，8.5 節の帯域制限ガウス通信路から，どの標本にも同じ分散という仮定だけを外した場合にあたる．いくつもの経路を束ねて使うときも，経路ごとに雑音の強さが違う．そのとき，限られた総電力をどう配るのがよいか．これが本節の問いで，答えは注水と呼ばれる形をとる．

答えを先に言えば，雑音の弱い経路ほど多くの電力を配り，雑音が強すぎる経路には何も配らない，という配分が最適になる．どこで打ち切るかを決めるのが水位と呼ばれる一つの数で，配る電力はその水位と雑音の強さの差である．8.2 節の例 8.2.6 が「同じ電力を分けたほうが得」を示していたが，分ける相手の条件が違うときにどう分けるか，というのが本節の内容である．

本節の $𝑃 1, \dots, 𝑃 𝑛$ は各通信路に配る電力で，定義 8.3.1 の誤り確率 $𝑃 𝑒$ とは別のものである．添字が通信路の番号か文字 $𝑒$ かで見分ける．通信路の番号は本節に限り $1$ から $𝑛$ までとする．本節の $𝑛$ は並列に使う通信路の本数で，8.3 節・8.4 節がブロック長に使った $𝑛$ とは別である．

電力配分の問題

定義 8.6.1（並列ガウス通信路と電力配分）. $𝑛 \geq 1$ とし， $𝑁 1, \dots, 𝑁 𝑛$ を正の実数とする．雑音の分散がそれぞれ $𝑁 1, \dots, 𝑁 𝑛$ である $𝑛$ 本のガウス通信路（定義 8.1.1）を，たがいに独立に $1$ 回ずつ同時に使うものを 並列ガウス通信路 と呼ぶ．総電力 $𝑃 > 0$ の制約のもとでの 電力配分 とは， $𝑃 𝑖 \geq 0$ （ $1 \leq 𝑖 \leq 𝑛$ ）かつ $\sum 𝑛 𝑖 = 1 𝑃 𝑖 \leq 𝑃$ を満たす実数の組 $(𝑃 1, \dots, 𝑃 𝑛)$ のことをいう．その 合計容量 を

𝑛 \sum 𝑖 = 1 12 l o g (1 + 𝑃 𝑖 𝑁 𝑖)

で定める．

合計容量の各項は， $𝑃 𝑖 > 0$ であれば，定理 8.2.4 により第 $𝑖$ 通信路を電力 $𝑃 𝑖$ で使ったときの容量である． $𝑃 𝑖 = 0$ の本は定理 8.2.4 の対象から外れる．8.2 節で見たとおり，電力 $0$ の制約を満たす入力は密度をもたないので，そこでは容量が定まらないからである．ただし項の値そのものは $12 l o g 1 = 0$ で，電力を配らない本では何も運べない，という読みと食い違わない．運べる量について言えるのは， $1$ 本ずつの話までである． $𝑃 𝑖 > 0$ の各本については，系 8.4.2 により，その $1$ 本だけを使ったときの達成レートの上限が第 $𝑖$ 項 $12 l o g (1 + 𝑃 𝑖 / 𝑁 𝑖)$ に等しい． $𝑛$ 本を別々の符号で使ったときにレートの合計がそのまま達成できるか，また $𝑛$ 本をまとめて符号化すればそれを超えられるかは，どちらも本書では示さない．本節が解くのは合計容量という一つの式を電力配分について最大にする問題であって，それ以上でも以下でもない．

形式化上の注記. 並列ガウス通信路全体の容量，すなわち $𝑛$ 本の入力をまとめて一つの確率変数として選んでよいとしたときの相互情報量の上限が，定義 8.6.1 の合計容量の最大値に等しいことを，本書は示さない．形式化の側にも，そのままの形の単独の宣言はない．parallel_gaussian_capacity_formula_minimal (InformationTheory/Shannon/ParallelGaussian/PerCoordRegularity.lean) が与えるのは，測度論の言葉で定義した容量 parallelGaussianCapacity (InformationTheory/Shannon/ParallelGaussian/Basic.lean) が注水配分の合計容量に等しいところまでで，それが最大値でもあることは，定理 8.6.5 にあたる isWaterFillingOptimal_of_kkt (InformationTheory/Shannon/ParallelGaussian/KKT.lean) との合成で出る．仮定は，総電力が正であること，各雑音の分散が $0$ でないこと，二つの可測性（どちらも正則性の条件である），および水位が定理 8.6.3 の等式を満たすことである．

形式化: parallelGaussianChannel (ソース)

形式化上の注記. 形式化の parallelGaussianChannel は，入力の組 $𝑥$ に対して，成分ごとに平均 $𝑥 𝑖$ 分散 $𝑁 𝑖$ のガウス分布をとった積測度を返す核で，定義 8.6.1 の並列ガウス通信路にあたる．核が可測であるという正則性の前提が二つ付くが，これは通信路の形を決める条件ではない．定義 8.6.1 の電力配分と合計容量には，対応する単独の宣言がない．合計容量の式は，注水配分の最適性を述べる IsWaterFillingOptimal (InformationTheory/Shannon/ParallelGaussian/Basic.lean) の中に書き下されている．電力の側の制約も，実数の組ではなく入力の分布に対する条件 parallelGaussianPowerConstraintSet (InformationTheory/Shannon/ParallelGaussian/Basic.lean) として書かれていて，定義 8.6.1 とは対象が違う．

定義 8.6.2（注水配分）. $𝑛 \geq 1$ とし， $𝑁 1, \dots, 𝑁 𝑛$ を正の実数， $𝜈$ を実数とする．

𝑃 * 𝑖 (𝜈) : = m a x (0, 𝜈 - 𝑁 𝑖) (1 \leq 𝑖 \leq 𝑛)

で定まる組を，水位 $𝜈$ の 注水配分 と呼ぶ．

形式化: waterFillingPower (ソース)

名前の由来は絵にある．底が段になった一続きの容器を思い浮かべる．横幅を $𝑛$ 等分し，第 $𝑖$ の区画の底の高さを $𝑁 𝑖$ にとる．そこに水を注ぐと，区画のあいだで水は行き来できるので，水面はどの区画でも同じ高さ $𝜈$ でそろう．第 $𝑖$ の区画に入る水の深さは，底が水面より低ければ $𝜈 - 𝑁 𝑖$ ，底が水面より高ければ（ $𝑁 𝑖 \geq 𝜈$ ） $0$ である．どの区画も横幅が同じなので，入った水の量は深さに比例し，全体の量は $\sum 𝑖 m a x (0, 𝜈 - 𝑁 𝑖)$ に比例する．これが総電力 $𝑃$ に等しくなるように水位を決める，というのが以下の筋である．

水面がそろうところが最適なのはなぜか，を絵の言葉で言っておく．以下では，対数の導関数が $(l o g 𝑒) / 𝑡$ であることと合成関数の微分を，微積分の計算規則として既知とする．当てる相手は，この段落で $12 l o g (1 + 𝑃 𝑖 / 𝑁 𝑖)$ を $𝑃 𝑖$ で微分するところだけである．第 $𝑖$ 通信路に電力をほんの少し足したとき，合計容量の第 $𝑖$ 項 $12 l o g (1 + 𝑃 𝑖 / 𝑁 𝑖)$ が電力 $1$ 単位あたりどれだけ増えるかは， $𝑃 𝑖$ で微分して $l o g 𝑒 2 (𝑁 𝑖 + 𝑃 𝑖)$ である．分母の $𝑁 𝑖 + 𝑃 𝑖$ は，底の高さに水の深さを足したもの，すなわちその区画の水面の高さにほかならない．だから，水面の低い区画ほど電力 $1$ 単位あたりの増分が大きい．任意の配分は，区画のあいだに仕切りを立てて水面の高さをばらばらにした状態にあたり，仕切りを外すと水面がそろう，と見ればよい．水の入っている区画のうち水面がいちばん高いものから，水面がいちばん低い区画へ電力を少し移せば，減るぶんより増えるぶんが大きく，合計は増える．移して得をする組がなくなるのは，水の入っている区画の水面がすべてそろい，しかも水の入っていない区画の底がその水面以上にあるときで，これが注水配分の形にほかならない．そこでは水の入っているどの区画でも増分が同じ $l o g 𝑒 2 𝜈$ になる．この $l o g 𝑒 2 𝜈$ が，あとで補題 8.6.4 が上から抑えるのに使う接線の傾きである．

水位の存在と一意性

道具を一つ借りる．中間値の定理，すなわち「有界閉区間の上の実数値連続関数は，両端での値のあいだのどの値もとる」という微積分の定理である．当てる相手は，定理 8.6.3 の証明で置く $1$ 変数の実数値関数 $𝜙 (𝜈) = \sum 𝑛 𝑖 = 1 m a x (0, 𝜈 - 𝑁 𝑖)$ の，有界閉区間 $[0, 𝑁 1 + 𝑃]$ への制限だけであり，依存するのは定理 8.6.3 の証明と，同じ定理を 9.4 節で借り直している第9章定理 9.4.9 の証明である．また，連続関数の有限個の最大値と有限和がふたたび連続であることを，微積分の計算規則として既知とする．

定理 8.6.3（水位の存在と一意性）. $𝑛 \geq 1$ ， $𝑃 > 0$ とし， $𝑁 1, \dots, 𝑁 𝑛$ を正の実数とする．このとき

𝑛 \sum 𝑖 = 1 m a x (0, 𝜈 - 𝑁 𝑖) = 𝑃

を満たす実数 $𝜈$ がただ一つ存在する．

証明. $𝜙 (𝜈) : = \sum 𝑛 𝑖 = 1 m a x (0, 𝜈 - 𝑁 𝑖)$ とおく．各 $𝜈 \mapsto m a x (0, 𝜈 - 𝑁 𝑖)$ は連続関数の最大値だから連続であり，その有限和である $𝜙$ も連続である．

両端の値を見る． $𝑁 𝑖 > 0$ より $𝜙 (0) = \sum 𝑖 m a x (0, - 𝑁 𝑖) = 0$ である． $𝜈 1 : = 𝑁 1 + 𝑃$ とおくと，第 $1$ 項だけを残して $𝜙 (𝜈 1) \geq m a x (0, 𝜈 1 - 𝑁 1) = 𝑃$ である．

$𝜙$ は閉区間 $[0, 𝜈 1]$ の上で連続で， $𝜙 (0) = 0 \leq 𝑃 \leq 𝜙 (𝜈 1)$ だから，借りた中間値の定理より $𝜙 (𝜈) = 𝑃$ を満たす $𝜈 \in [0, 𝜈 1]$ が存在する．

そのような $𝜈$ が二つとないことを見る． $𝑁 1, \dots, 𝑁 𝑛$ のうち最小のものを $𝑁 𝑖 0$ と書く． $𝜙 (𝜈) = 𝑃 > 0$ を満たす $𝜈$ については，ある $𝑖$ で $m a x (0, 𝜈 - 𝑁 𝑖) > 0$ ，すなわち $𝜈 > 𝑁 𝑖 \geq 𝑁 𝑖 0$ だから，そのような $𝜈$ はすべて $𝑁 𝑖 0$ より大きい．そこで $𝑁 𝑖 0 \leq 𝜈 𝑎 < 𝜈 𝑏$ とすると，各 $𝑖$ について $𝜈 𝑎 - 𝑁 𝑖 < 𝜈 𝑏 - 𝑁 𝑖$ だから $m a x (0, 𝜈 𝑎 - 𝑁 𝑖) \leq m a x (0, 𝜈 𝑏 - 𝑁 𝑖)$ であり，第 $𝑖 0$ 項については $𝜈 𝑎 \geq 𝑁 𝑖 0$ より二つの項が $𝜈 𝑎 - 𝑁 𝑖 0$ と $𝜈 𝑏 - 𝑁 𝑖 0$ に等しい．項ごとに足し合わせると $𝜙 (𝜈 𝑏) - 𝜙 (𝜈 𝑎) \geq 𝜈 𝑏 - 𝜈 𝑎 > 0$ である．よって $𝜙$ は $𝑁 𝑖 0$ 以上のところで狭義単調増加であり，そこで値 $𝑃$ をとる $𝜈$ は一つしかない． $◼$

形式化上の注記. 定理 8.6.3 に対応する単独の宣言はない．存在の側を与えるのが exists_waterFillingKKT_of_pos (InformationTheory/Shannon/ParallelGaussian/KKT.lean) で，こちらは雑音の分散が正であることを仮定にもたない（ $0$ でもよい）ので，定理 8.6.3 より広い場合を覆っている．仮定は総電力が正であること一つだけで，通信路が $1$ 本以上あることは仮定になっていない．通信路の本数を $𝑛 + 1$ と書き，添字の型が $𝑛 + 1$ 個の値をもつようにとることで，型のほうから出るようにしてある．一意性の側は，形式化されていない．

接線による上界

最適性の証明は，補題 1.1.7 の対数不等式 $l o g 𝑡 \leq (𝑡 - 1) l o g 𝑒$ だけで通る．対数のグラフが接線より下にあるという，第7章補題 7.2.3 でも使ったのと同じ道具である．注水配分の点で対数に接線を引き，そのぶんだけ上から抑える．それを述べるのが補題 8.6.4 である．

補題 8.6.4（注水配分での接線）. $𝑁 > 0$ ， $𝜈 > 0$ とし， $𝑝 * : = m a x (0, 𝜈 - 𝑁)$ とおく．このとき，どの実数 $𝑡 \geq 0$ についても

12 l o g (1 + 𝑡 𝑁) \leq 12 l o g (1 + 𝑝 * 𝑁) + l o g 𝑒 2 𝜈 (𝑡 - 𝑝 *)

である．

証明. $1 + 𝑡 / 𝑁 = (𝑁 + 𝑡) / 𝑁$ と $1 + 𝑝 * / 𝑁 = (𝑁 + 𝑝 *) / 𝑁$ はどちらも正である．補題 1.1.7 の対数不等式 $l o g 𝑢 \leq (𝑢 - 1) l o g 𝑒$ を $𝑢 : = (𝑁 + 𝑡) / (𝑁 + 𝑝 *)$ に当てると

l o g (1 + 𝑡 𝑁) - l o g (1 + 𝑝 * 𝑁) = l o g 𝑢 \leq 𝑡 - 𝑝 * 𝑁 + 𝑝 * l o g 𝑒

である．両辺を $2$ で割ると，示すべきことは

𝑡 - 𝑝 * 2 (𝑁 + 𝑝 *) l o g 𝑒 \leq l o g 𝑒 2 𝜈 (𝑡 - 𝑝 *)

に帰着する． $𝜈$ と $𝑁$ の大小で場合を分ける．

$𝜈 > 𝑁$ のときは $𝑝 * = 𝜈 - 𝑁$ だから $𝑁 + 𝑝 * = 𝜈$ であり，両辺は等しい．

$𝜈 \leq 𝑁$ のときは $𝑝 * = 0$ だから $𝑁 + 𝑝 * = 𝑁$ であり， $𝑡 - 𝑝 * = 𝑡 \geq 0$ である． $0 < 𝜈 \leq 𝑁$ と $l o g 𝑒 > 0$ から $𝑡 l o g 𝑒 2 𝑁 \leq 𝑡 l o g 𝑒 2 𝜈$ であり，これが示すべき不等式である． $◻$

形式化: waterFillingCost_tangent_le (ソース)

形式化上の注記. 形式化の waterFillingCost_tangent_le の仮定は，補題 8.6.4 と一つずつ対応している．雑音の分散が $0$ でないこと，水位が正であること，引数が $0$ 以上であることの三つで，これがすべてである．形式化では分散を非負の量として扱っているので，一つめは本文の $𝑁 > 0$ と同じことである．形式化は $l o g$ を自然対数にとるので $l o g 𝑒 = 1$ であり，本文の $l o g 𝑒 2 𝜈$ にあたる係数が $1 2 𝜈$ と書かれている．

注水の最適性

定理 8.6.5（注水配分の最適性）. $𝑛 \geq 1$ ， $𝑃 > 0$ とし， $𝑁 1, \dots, 𝑁 𝑛$ を正の実数とする．実数 $𝜈$ が $\sum 𝑛 𝑖 = 1 m a x (0, 𝜈 - 𝑁 𝑖) = 𝑃$ を満たすとする．このとき注水配分 $(𝑃 * 1 (𝜈), \dots, 𝑃 * 𝑛 (𝜈))$ は総電力 $𝑃$ の制約のもとでの電力配分（定義 8.6.1）であり， $𝑃' 𝑖 \geq 0$ （ $1 \leq 𝑖 \leq 𝑛$ ）かつ $\sum 𝑛 𝑖 = 1 𝑃' 𝑖 \leq 𝑃$ を満たすどの実数の組 $(𝑃' 1, \dots, 𝑃' 𝑛)$ についても

𝑛 \sum 𝑖 = 1 12 l o g (1 + 𝑃' 𝑖 𝑁 𝑖) \leq 𝑛 \sum 𝑖 = 1 12 l o g (1 + 𝑃 * 𝑖 (𝜈) 𝑁 𝑖)

である（ $𝑃 * 𝑖 (𝜈)$ は定義 8.6.2 の注水配分）．

証明. 注水配分が電力配分であることを見る．各 $𝑃 * 𝑖 (𝜈) = m a x (0, 𝜈 - 𝑁 𝑖)$ は $m a x$ の形から $0$ 以上であり，総和は仮定よりちょうど $𝑃$ で， $𝑃$ 以下である．よって定義 8.6.1 の電力配分の条件を満たす．

まず $𝜈 > 0$ を見る．仮定の和は $𝑃 > 0$ だから，ある $𝑖$ で $m a x (0, 𝜈 - 𝑁 𝑖) > 0$ ，すなわち $𝜈 > 𝑁 𝑖 > 0$ である．

各項に補題 8.6.4 を， $𝑁 : = 𝑁 𝑖$ ， $𝑡 : = 𝑃' 𝑖$ ととって当てると， $𝑝 * = 𝑃 * 𝑖 (𝜈)$ であり

12 l o g (1 + 𝑃' 𝑖 𝑁 𝑖) \leq 12 l o g (1 + 𝑃 * 𝑖 (𝜈) 𝑁 𝑖) + l o g 𝑒 2 𝜈 (𝑃' 𝑖 - 𝑃 * 𝑖 (𝜈))

である． $𝑖$ について足すと

𝑛 \sum 𝑖 = 1 12 l o g (1 + 𝑃' 𝑖 𝑁 𝑖) \leq 𝑛 \sum 𝑖 = 1 12 l o g (1 + 𝑃 * 𝑖 (𝜈) 𝑁 𝑖) + l o g 𝑒 2 𝜈 (𝑛 \sum 𝑖 = 1 𝑃' 𝑖 - 𝑛 \sum 𝑖 = 1 𝑃 * 𝑖 (𝜈))

となる．仮定より $\sum 𝑖 𝑃 * 𝑖 (𝜈) = 𝑃$ であり， $\sum 𝑖 𝑃' 𝑖 \leq 𝑃$ だから括弧の中は $0$ 以下である． $𝜈 > 0$ と $l o g 𝑒 > 0$ より係数は正だから，最後の項は $0$ 以下であり，落として主張を得る． $◼$

形式化: isWaterFillingOptimal_of_kkt (ソース)

形式化上の注記. 形式化のルートも本文と同じで，注水配分の点で対数に接線を引く段（補題 8.6.4）を各成分に当ててから和をとる．

証明で効いたのは二つだけである．接線の傾きが $l o g 𝑒 2 𝜈$ という， $𝑖$ によらない一つの値で抑えられること（補題 8.6.4）と，注水配分が総電力を使い切っていること（ $\sum 𝑖 𝑃 * 𝑖 (𝜈) = 𝑃$ ）である．前者があるので， $𝑛$ 本ぶんの接線の項が $\sum 𝑖 𝑃' 𝑖$ という一つの和にまとまる．後者があるので，その和が電力制約と直接くらべられる．雑音が強すぎて水位に届かない通信路（ $𝑁 𝑖 \geq 𝜈$ ）で接線の傾きがそのままでは足りないところを，補題 8.6.4 の第 $2$ の場合が $l o g 𝑒 2 𝑁 𝑖 \leq l o g 𝑒 2 𝜈$ で吸収している．

数で見る

例 8.6.6（ $2$ 本の並列ガウス通信路）. $𝑛 = 2$ ， $𝑁 1 = 1$ ， $𝑁 2 = 4$ とする．総電力 $𝑃 = 2$ のとき水位は $𝜈 = 3$ で，注水配分は $(2, 0)$ ，その合計容量は $12 l o g 2 3$ で約 $0.7925$ ビットである．等分した配分 $(1, 1)$ の合計容量は約 $0.6610$ ビットで，これより小さい．総電力 $𝑃 = 5$ のときは水位が $𝜈 = 5$ で，注水配分は $(4, 1)$ ，合計容量は約 $1.3219$ ビット，等分した配分 $(2.5, 2.5)$ の合計容量は約 $1.2539$ ビットである．

証明. $𝑃 = 2$ のとき．水位が第 $2$ 通信路の底 $4$ に届かないと見当をつけると，水が入るのは第 $1$ 通信路だけで $𝜈 - 1 = 2$ ，すなわち $𝜈 = 3$ である．これは $4$ 以下だから見当と整合する．実際 $m a x (0, 3 - 1) + m a x (0, 3 - 4) = 2 + 0 = 2$ で定理 8.6.3 の等式を満たし，それを満たす実数はただ一つだから，これが水位である．注水配分は $(2, 0)$ で，合計容量は $12 l o g 2 (1 + 2 / 1) + 12 l o g 2 (1 + 0 / 4) = 12 l o g 2 3$ である． $l o g 2 3 = 1.5849 \dots$ だから約 $0.7925$ である．等分した配分では $12 l o g 2 2 + 12 l o g 2 1.25 = 0.5 + 0.1610 \dots$ で約 $0.6610$ である．

$𝑃 = 5$ のとき．今度は水位が $4$ を超えると見当をつけると，両方の通信路に水が入るので $(𝜈 - 1) + (𝜈 - 4) = 5$ ，すなわち $𝜈 = 5$ である．これは $4$ より大きいから見当と整合する．実際 $m a x (0, 5 - 1) + m a x (0, 5 - 4) = 4 + 1 = 5$ で，これが水位である．注水配分は $(4, 1)$ で，合計容量は $12 l o g 2 5 + 12 l o g 2 1.25 = 1.1610 \dots + 0.1610 \dots$ で約 $1.3219$ である．等分した配分では $12 l o g 2 3.5 + 12 l o g 2 1.625 = 0.9037 \dots + 0.3502 \dots$ で約 $1.2539$ である． $◼$

形式化上の注記. 例 8.6.6 に対応する宣言は形式化されていない．例 8.6.6 に付した証明が，この主張の保証のすべてである．

例 8.6.6 の前半は，雑音の強い通信路を使わないほうがよい場合である．総電力 $2$ では水位 $3$ が第 $2$ 通信路の雑音 $4$ に届かないので，そちらには何も配らない．後半では総電力が $5$ に増えて水位が $5$ まで上がり，第 $2$ 通信路にも $1$ だけ配られる．注水の絵でいえば，注ぐ水の量を増やしていくと，あるところで二つめの区画の底が水没する，ということである．どちらの場合も等分した配分より合計容量が大きい．差は前半が約 $0.13$ ビット，後半が約 $0.07$ ビットで，合計容量に対する割合で見ると前半が約 $17$ パーセント，後半が約 $5$ パーセントである．後半では水位が第 $2$ 通信路の底を超えていて，注水配分も等分した配分もどちらの通信路にも電力を配っており，二つの配分の違いがそれだけ小さい．

帯域ごとに雑音が違うとき. 定義 8.6.1 の並列ガウス通信路は，8.5 節の帯域制限ガウス通信路の雑音が帯域ごとに違う場合にあたる．帯域を等しい幅に切り，第 $𝑖$ の帯域を， $1$ 標本あたりの雑音の分散が $𝑁 𝑖$ であるガウス通信路と読む．8.5 節が帯域制限ガウス通信路を分散 $𝑁 0 / 2$ のガウス通信路の使用に読み替えたのと同じ換算である．第 $𝑖$ の帯域に配る電力も $1$ 標本あたりで測って $𝑃 𝑖$ と書けば，総電力をどの帯域に配るかという問題がそのまま定義 8.6.1 の形になる．どの帯域も幅が同じで $1$ 秒あたりの標本の個数がそろっているので， $1$ 標本あたりで測るか $1$ 秒あたりで測るかは，全体に共通の因子の違いにしかならない．雑音の弱い帯域に電力を集め，雑音が水位を超える帯域は使わない，というのが定理 8.6.5 の答えである．雑音の強さが帯域によらないときは全部の $𝑁 𝑖$ が等しく，注水配分は等分になって，8.5 節の設定に戻る．

InformationTheory — 形式化検証つき情報理論教科書（レビュー版）．数式は MathJax + AMS Euler で事前レンダリング．