「《確率過程》」の版間の差分

提供: ORWiki
ナビゲーションに移動 検索に移動
1行目: 1行目:
 
'''【かくりつかてい (stochastic process) 】'''
 
'''【かくりつかてい (stochastic process) 】'''
  
−
'''確率過程と標本路'''　確率変数がランダムな試行の結果で値の決まる変数であるのに対し, パラメータ集合 $<math>{\mathcal T}\, </math>$ によってインデックスを付けられた確率変数の集まり $<math>\{ X(t);\; t \in {\mathcal T} \}\, </math>$ を[[確率過程]]と呼ぶ. 一般にパラメータ集合 $<math>{\mathcal T}\, </math>$ は時間を表すため, 確率過程は時間の経過に従ってランダムに変化する値の系列と言える. 単に[[独立 (確率変数の)|独立]]な確率変数が並んだものも形式的には確率過程であるが, 我々が分析の対象とするのは, 異なる時点の確率変数間に何らかの相関関係がある場合である. 例えば $<math>X(t)\, </math>$ をある場所の $<math>t\, </math>$ 時の気温とすれば, $<math>X(10)\, </math>$と $<math>X(12)\, </math>$ の間には強い相関があるであろう. $<math>X(t)\, </math>$ を $<math>t\, </math>$ 期の在庫量とする場合も同様である. 確率過程の分析においては, このような変数間の関連性をどのように表現し, それをもとにしてどのように確率過程の振る舞いを調べていくかが重要となる.  
+
'''確率過程と標本路'''　確率変数がランダムな試行の結果で値の決まる変数であるのに対し, パラメータ集合 <math>{\mathcal T}\, </math> によってインデックスを付けられた確率変数の集まり <math>\{ X(t);\; t \in {\mathcal T} \}\, </math> を[[確率過程]]と呼ぶ. 一般にパラメータ集合 <math>{\mathcal T}\, </math> は時間を表すため, 確率過程は時間の経過に従ってランダムに変化する値の系列と言える. 単に[[独立 (確率変数の)|独立]]な確率変数が並んだものも形式的には確率過程であるが, 我々が分析の対象とするのは, 異なる時点の確率変数間に何らかの相関関係がある場合である. 例えば <math>X(t)\, </math> をある場所の <math>t\, </math> 時の気温とすれば, <math>X(10)\, </math>と <math>X(12)\, </math> の間には強い相関があるであろう. <math>X(t)\, </math> を <math>t\, </math> 期の在庫量とする場合も同様である. 確率過程の分析においては, このような変数間の関連性をどのように表現し, それをもとにしてどのように確率過程の振る舞いを調べていくかが重要となる.  
  
−
確率過程 $<math>\{ X(t);\; t \in {\mathcal T} \}\, </math>$ は, 時点 $<math>t\, </math>$ を 1 つ固定すると根元事象 (確率空間 $<math>(\Omega, {\mathcal F}, \mathrm{P})\, </math>$ における標本空間 $<math>\Omega\, </math>$ の要素 $<math>\omega\, </math>$) によって値が変わる確率変数となり, 逆に根元事象を 1 つ固定して考えると, 時間パラメータ $<math>t\, </math>$ の関数となる. 根元事象を固定して得られる $<math>t\, </math>$ の関数を, 確率過程の標本路 (sample path) と呼ぶ. 確率変数の値が根元事象によって異なるように, 根元事象が異なれば確率過程の標本路も違ったものとなる.  
+
確率過程 <math>\{ X(t);\; t \in {\mathcal T} \}\, </math> は, 時点 <math>t\, </math> を 1 つ固定すると根元事象 (確率空間 <math>(\Omega, {\mathcal F}, \mathrm{P})\, </math> における標本空間 <math>\Omega\, </math> の要素 <math>\omega\, </math>) によって値が変わる確率変数となり, 逆に根元事象を 1 つ固定して考えると, 時間パラメータ <math>t\, </math> の関数となる. 根元事象を固定して得られる <math>t\, </math> の関数を, 確率過程の標本路 (sample path) と呼ぶ. 確率変数の値が根元事象によって異なるように, 根元事象が異なれば確率過程の標本路も違ったものとなる.  
  
  
−
'''離散と連続'''　$<math>{\mathcal T}\, </math>$ が可算集合である確率過程を離散時間確率過程といい, $<math>{\mathcal T}\, </math>$ が連続的な集合の場合を連続時間確率過程という. また, 確率過程 $<math>X(t)\, </math>$ がとる個々の値を状態, すべての状態からなる集合を[[状態空間]]と呼ぶ. 応用上は, 実数や整数, およびそれらの多次元空間が状態空間となることが多い. 時間パラメータの集合と同様に, 確率過程は状態空間の性質によって連続と離散に分類できる.  
+
'''離散と連続'''　<math>{\mathcal T}\, </math> が可算集合である確率過程を離散時間確率過程といい, <math>{\mathcal T}\, </math> が連続的な集合の場合を連続時間確率過程という. また, 確率過程 <math>X(t)\, </math> がとる個々の値を状態, すべての状態からなる集合を[[状態空間]]と呼ぶ. 応用上は, 実数や整数, およびそれらの多次元空間が状態空間となることが多い. 時間パラメータの集合と同様に, 確率過程は状態空間の性質によって連続と離散に分類できる.  
  
  
−
'''確率的構造の導入'''　確率過程を定めるには, その確率過程が従う確率法則を規定する必要がある. そのための方法の中で最も直接的なのは, 任意の $<math>n\, </math>$ と任意に選んだ $<math>n\, </math>$ 個の時点 $<math>t_1, \cdots, t_n\, </math>$ に対して, $<math>(X(t_1), \cdots, X(t_n))\, </math>$ の[[同時分布]]を与える方法である. 例えば, どのような時点の組に対しても $<math>(X(t_1), \cdots, X(t_n))\, </math>$ が$<math>n\, </math>$次元正規分布 ([[n次元正規分布]]) に従うとき, $<math>\{ X(t) \}\, </math>$ は[[ガウス過程]]と呼ばれる. また, どんな $<math>s\, </math>$ に対しても $<math>(X(t_1), \cdots, X(t_n))\, </math>$ と時点を $<math>s\, </math>$ ずらした $<math>(X(t_1+s), \cdots, X(t_n+s))\, </math>$ の分布が一致する確率過程は[[定常過程 (強)]]と呼ばれ, 時系列解析などの基礎となる.  
+
'''確率的構造の導入'''　確率過程を定めるには, その確率過程が従う確率法則を規定する必要がある. そのための方法の中で最も直接的なのは, 任意の <math>n\, </math> と任意に選んだ <math>n\, </math> 個の時点 <math>t_1, \cdots, t_n\, </math> に対して, <math>(X(t_1), \cdots, X(t_n))\, </math> の[[同時分布]]を与える方法である. 例えば, どのような時点の組に対しても <math>(X(t_1), \cdots, X(t_n))\, </math> が<math>n\, </math>次元正規分布 ([[n次元正規分布]]) に従うとき, <math>\{ X(t) \}\, </math> は[[ガウス過程]]と呼ばれる. また, どんな <math>s\, </math> に対しても <math>(X(t_1), \cdots, X(t_n))\, </math> と時点を <math>s\, </math> ずらした <math>(X(t_1+s), \cdots, X(t_n+s))\, </math> の分布が一致する確率過程は[[定常過程 (強)]]と呼ばれ, 時系列解析などの基礎となる.  
  
−
　同時分布を定める代わりに, 確率過程の変化量の分布特性を与えることで確率過程を定めることもできる. 例えば, 重ならない区間での変化量が独立, すなわち任意に選んだ時点 $<math>t_1< t_2 < \cdots < t_{2n}\, </math>$ に対して各時間区間での変化量 $<math>X(t_{2i})-X(t_{2i-1})\ (i=1,\cdots,n)\, </math>$ が互いに独立である確率過程は, [[独立増分過程]]と呼ばれる. 例えば, ランダムな動きを表す確率過程である標準[[ブラウン運動]]は, 任意の時間区間 $<math>[t_1, t_2]\, </math>$ での変化量 $<math>X(t_2)-X(t_1)$\, </math> が正規分布 $<math>N(0, t_2-t_1)\, </math>$ に従う独立増分過程として特徴付けられる. また, [[再生過程]]は独立で同一の分布に従う間隔で事象が起こるとして, 時点 $<math>t\, </math>$ までに起きた事象の数 $<math>N(t)\, </math>$ で与えられる. $<math>N(t)\, </math>$ はランダムな間隔で値が1ずつ増加する確率過程で, [[待ち行列理論]]における客の到着や[[信頼性理論]]における故障の発生を表す際によく用いられる. 特に, 事象の生起間隔が[[指数分布]]に従う再生過程は[[ポアソン過程]]と呼ばれ, [[少数の法則]]から我々の身の回りでもよく観察される.  
+
　同時分布を定める代わりに, 確率過程の変化量の分布特性を与えることで確率過程を定めることもできる. 例えば, 重ならない区間での変化量が独立, すなわち任意に選んだ時点 <math>t_1< t_2 < \cdots < t_{2n}\, </math> に対して各時間区間での変化量 <math>X(t_{2i})-X(t_{2i-1})\ (i=1,\cdots,n)\, </math> が互いに独立である確率過程は, [[独立増分過程]]と呼ばれる. 例えば, ランダムな動きを表す確率過程である標準[[ブラウン運動]]は, 任意の時間区間 <math>[t_1, t_2]\, </math> での変化量 <math>X(t_2)-X(t_1)\, </math> が正規分布 <math>N(0, t_2-t_1)\, </math> に従う独立増分過程として特徴付けられる. また, [[再生過程]]は独立で同一の分布に従う間隔で事象が起こるとして, 時点 <math>t\, </math> までに起きた事象の数 <math>N(t)\, </math> で与えられる. <math>N(t)\, </math> はランダムな間隔で値が1ずつ増加する確率過程で, [[待ち行列理論]]における客の到着や[[信頼性理論]]における故障の発生を表す際によく用いられる. 特に, 事象の生起間隔が[[指数分布]]に従う再生過程は[[ポアソン過程]]と呼ばれ, [[少数の法則]]から我々の身の回りでもよく観察される.  
  
−
　この他に, 隣接する複数時点の変数の関係によって確率過程を定めることも可能である. 例えば, $<math>K\, </math>$ 次の[[自己回帰移動平均過程]]では, $<math>X(n)\, </math>$ は過去 $<math>K\, </math>$ 時点の値と白色雑音 $<math>\{ \epsilon(n) \}\, </math>$ の加重線形結合 $<math>X(n)=\sum_{i=1}^K a_i X(n-i) + \epsilon(n)\, </math>$ で表される. また, 離散時間[[マルコフ連鎖]]では, $<math>X(n)\, </math>$ から $<math>X(n+1)\, </math>$ への推移確率によって確率過程の変化の規則を定める. 例えば, 単純[[ランダムウォーク]] $<math>\{ X_n \}\, </math>$ は, 確率 $<math>p\, </math>$ で $<math>X_{n+1}=X_n+1\, </math>$, 確率 $<math>1-p$\, </math> で $<math>X_{n+1}=X_n-1\, </math>$ という規則で値が変化する. さらに, 任意の $<math>m\, </math>$ と $<math>n\, </math>$ に対して $<math>\mathrm{E}(X_{m+n} | X_1,\cdots,X_m)=X_m\, </math>$ が成り立つ, すなわち時点 $<math>m\, </math>$ までの履歴が与えられた条件付きでの将来の時点における期待値が $<math>m\, </math>$ での値に一致する確率過程は (離散時間) [[マルチンゲール]]と呼ばれる. マルチンゲールは平均が一定で, 公平な賭けのモデル化である.  
+
　この他に, 隣接する複数時点の変数の関係によって確率過程を定めることも可能である. 例えば, <math>K\, </math> 次の[[自己回帰移動平均過程]]では, <math>X(n)\, </math> は過去 <math>K\, </math> 時点の値と白色雑音 <math>\{ \epsilon(n) \}\, </math> の加重線形結合 <math>\textstyle X(n)=\sum_{i=1}^K a_i X(n-i) + \epsilon(n)\, </math> で表される. また, 離散時間[[マルコフ連鎖]]では, <math>X(n)\, </math> から <math>X(n+1)\, </math> への推移確率によって確率過程の変化の規則を定める. 例えば, 単純[[ランダムウォーク]] <math>\{ X_n \}\, </math> は, 確率 <math>p\, </math> で <math>X_{n+1}=X_n+1\, </math>, 確率 <math>1-p\, </math> で <math>X_{n+1}=X_n-1\, </math> という規則で値が変化する. さらに, 任意の <math>m\, </math> と <math>n\, </math> に対して <math>\mathrm{E}(X_{m+n} | X_1,\cdots,X_m)=X_m\, </math> が成り立つ, すなわち時点 <math>m\, </math> までの履歴が与えられた条件付きでの将来の時点における期待値が <math>m\, </math> での値に一致する確率過程は (離散時間) [[マルチンゲール]]と呼ばれる. マルチンゲールは平均が一定で, 公平な賭けのモデル化である.  
  
  

2007年7月9日 (月) 10:40時点における版

【かくりつかてい (stochastic process) 】

確率過程と標本路　確率変数がランダムな試行の結果で値の決まる変数であるのに対し, パラメータ集合 によってインデックスを付けられた確率変数の集まり を確率過程と呼ぶ. 一般にパラメータ集合 は時間を表すため, 確率過程は時間の経過に従ってランダムに変化する値の系列と言える. 単に独立な確率変数が並んだものも形式的には確率過程であるが, 我々が分析の対象とするのは, 異なる時点の確率変数間に何らかの相関関係がある場合である. 例えば をある場所の 時の気温とすれば, と の間には強い相関があるであろう. を 期の在庫量とする場合も同様である. 確率過程の分析においては, このような変数間の関連性をどのように表現し, それをもとにしてどのように確率過程の振る舞いを調べていくかが重要となる.

確率過程 は, 時点 を 1 つ固定すると根元事象 (確率空間 における標本空間 の要素 ) によって値が変わる確率変数となり, 逆に根元事象を 1 つ固定して考えると, 時間パラメータ の関数となる. 根元事象を固定して得られる の関数を, 確率過程の標本路 (sample path) と呼ぶ. 確率変数の値が根元事象によって異なるように, 根元事象が異なれば確率過程の標本路も違ったものとなる.


離散と連続　 が可算集合である確率過程を離散時間確率過程といい, が連続的な集合の場合を連続時間確率過程という. また, 確率過程 がとる個々の値を状態, すべての状態からなる集合を状態空間と呼ぶ. 応用上は, 実数や整数, およびそれらの多次元空間が状態空間となることが多い. 時間パラメータの集合と同様に, 確率過程は状態空間の性質によって連続と離散に分類できる.


確率的構造の導入　確率過程を定めるには, その確率過程が従う確率法則を規定する必要がある. そのための方法の中で最も直接的なのは, 任意の と任意に選んだ 個の時点 に対して, の同時分布を与える方法である. 例えば, どのような時点の組に対しても が次元正規分布 (n次元正規分布) に従うとき, はガウス過程と呼ばれる. また, どんな に対しても と時点を ずらした の分布が一致する確率過程は定常過程 (強)と呼ばれ, 時系列解析などの基礎となる.

　同時分布を定める代わりに, 確率過程の変化量の分布特性を与えることで確率過程を定めることもできる. 例えば, 重ならない区間での変化量が独立, すなわち任意に選んだ時点 に対して各時間区間での変化量 が互いに独立である確率過程は, 独立増分過程と呼ばれる. 例えば, ランダムな動きを表す確率過程である標準ブラウン運動は, 任意の時間区間 での変化量 が正規分布 に従う独立増分過程として特徴付けられる. また, 再生過程は独立で同一の分布に従う間隔で事象が起こるとして, 時点 までに起きた事象の数 で与えられる. はランダムな間隔で値が1ずつ増加する確率過程で, 待ち行列理論における客の到着や信頼性理論における故障の発生を表す際によく用いられる. 特に, 事象の生起間隔が指数分布に従う再生過程はポアソン過程と呼ばれ, 少数の法則から我々の身の回りでもよく観察される.

　この他に, 隣接する複数時点の変数の関係によって確率過程を定めることも可能である. 例えば, 次の自己回帰移動平均過程では, は過去 時点の値と白色雑音 の加重線形結合 で表される. また, 離散時間マルコフ連鎖では, から への推移確率によって確率過程の変化の規則を定める. 例えば, 単純ランダムウォーク は, 確率 で , 確率 で という規則で値が変化する. さらに, 任意の と に対して が成り立つ, すなわち時点 までの履歴が与えられた条件付きでの将来の時点における期待値が での値に一致する確率過程は (離散時間) マルチンゲールと呼ばれる. マルチンゲールは平均が一定で, 公平な賭けのモデル化である.


特性量　確率過程を利用して何らかの現象をモデル化・分析する際には, その過程に付随する特性量を定量的に評価することが必要となる. 例えば, 広い範囲の待ち行列システムはマルコフ過程として定式化されるが, この場合はマルコフ過程の定常分布から待ち行列システムの平均待ち時間などを求めることができる. マルコフ過程に限らず, 定常状態が存在する確率過程の分析では, 時間平均の分布と定常分布を関連付けるエルゴード定理が重要な役割を果たす. 信頼性理論や在庫理論においても, 長期間における平均コストが分析の主な対象となるが, これらのモデルでは取り替えや発注によって区切られた区間が1つのサイクルをなすため, 再生過程によるモデル化と再生定理による評価が主に利用される. 一方, 自己回帰過程などを利用した時系列分析では, 過去のデータからモデルのパラメータを同定し, 将来の変化を予測するため, 過去のデータに最もよく適合する時系列モデルやパラメータの選択が重要となる. また, 数理ファイナンスにおける金融派生商品の価格評価理論においては, 原資産価格や金利の変動を確率微分方程式等を用いて記述し, それをもとにマルチンゲール理論などを援用して商品の価格評価を行う. そこでは, 実際の変動により忠実でなおかつ価格評価式の計算が容易なモデルの構築がポイントとなる.


参考文献

[1] J. L. Doob, Stochastic Processes, John Wiley and Sons, 1953.

[2] S. Karlin and H. M. Taylor, An First Course in Stochastic Processes, Academic Press, 1975.

[3] S. Karlin and H. M. Taylor, A Second Course in Stochastic Processes, Academic Press, 1981.

[4] S. M. Ross, Stochastic Processes, John Wiley, 1983.

[5] 宮沢政清, 『確率と確率過程』, 近代科学社, 1993.

「https://orsj-ml.org/orwiki/wiki/index.php?title=《確率過程》&oldid=1990」から取得