ORWiki - 利用者の投稿記録 [ja]

《確率論》

2007-07-16T14:47:17Z

220.104.197.230:

'''【かくりつろん (probability theory) 】'''

　不確実な現象を表現する手段としての確率論は, コルモゴロフ (A. N. Kolmogorov) が測度論的確率論を打ち立ててから数学的基礎ができたと言えよう.その後の確率論の理論的深化と応用は目を見張るものがあり, オペレーションズ・リサーチへの応用に限っても, [[待ち行列理論]], [[在庫理論]], [[ファイナンス理論]], [[動的計画]], [[確率計画]], [[信頼性理論]], [[シミュレーション]]等多岐にわたっている. 特に, 数理統計学や待ち行列理論は理論的基礎の多くを確率論に置いており, 数学的な観点からも興味ある問題を提起し続けている.

'''確率空間と確率変数'''　確率論を考える上で基礎となるのは, 確率空間 <math>(\Omega, {\mathcal F}, \mathrm{P})\, </math> である. ここで, 標本空間 <math>\Omega\, </math> は起こり得る結果 (根元事象) <math>\omega\, </math> の集合, <math>{\mathcal F}\, </math> は <math>\Omega\, </math> 上の <math>\sigma\, </math>--集合体, <math>\mathrm{P}\, </math> は確率を表す. しかし, 確率モデルに対して確率空間を明示するのは煩雑なため, 通常は <math>(\Omega, {\mathcal F}, \mathrm{P})\, </math> を抽象的な基礎空間と捉え, <math>\Omega\, </math> から観察される現象の空間 <math>{\mathcal S}\, </math> への写像である確率変数を中心に考える.

　以下では, <math>{\mathcal S}\, </math> として実数や整数, あるいはこれらの多次元空間を考え, 確率変数を <math>X(\omega)\, </math> あるいは単に <math>X\, </math> で表す. 例えば, サイコロを投げる試行では <math>X\, </math> は1から6のどれかの値をとり, <math>X\, </math> が測定誤差を表すならば実数全体をとる. また, <math>K\, </math> 個の離散的時系列ならば <math>X=\{ X_1, \ldots, X_K \}\, </math> となり, 連続時間上の変動ならば <math>X=\{ X_t \; : \; t \in \mbox{R} \}\, </math> と表現される. 一般に, 時間パラメーターを伴う確率変数の集まりは[[確率過程]]と呼ばれる.

'''確率分布'''　確率変数を特徴付ける主な要素は確率分布である. <math>X\, </math> が実数値確率変数のとき, <math>\mbox{R}\, </math> の部分集合 <math>A\, </math> (正確には <math>\mbox{R}\, </math> 上のボレル集合体 <math>{\mathcal B}_1\, </math> の要素 <math>A\, </math>) に対し, <math>X \in A\, </math> となる確率は <math>\mathrm{P}(\{\omega : X(\omega) \in A \})\, </math> で与えられる. このように, 集合 <math>A\, </math> に対して <math>X \in A\, </math> となる確率を対応させたものを <math>X\, </math> の[[確率分布]], あるいは単に分布と呼ぶ. 特に, <math>A=(-\infty, x]\, </math> としたときの確率<math>F(x)=\mathrm{P}(X \leq x)\; (=\mathrm{P}(\{\omega : X(\omega) \leq x\}))\, </math> を <math>x\, </math> の関数と考えて <math>X\, </math> の[[確率分布関数]]または分布関数と呼ぶ. <math>F(x)\, </math> は単調非減少な右連続関数で, <math>F(-\infty)=0\, </math>, <math>F(+\infty)=1\, </math> を満たす.

　分布の中で, とり得る値が高々可算個である確率分布を[[離散型分布]]と呼ぶ. <math>X\, </math> が <math>\{ \ldots, x_{-1}, x_0, x_1, \ldots \}\, </math> の値をとる離散型分布であれば, [[確率関数]] <math>p(k) = \mathrm{P}(X=x_k)\, </math> によって分布を表すことができる. 離散型分布に対し, <math>F(x)\, </math> が連続な分布を[[連続型分布]]という. 実際に用いられるほとんどの連続型分布は <math>F(x)\, </math> が微分可能であり, [[確率密度関数]] <math>f(x)=\mathrm{d}F(x)/\mathrm{d}x\, </math>によって分布を表現できる. <math>f(x)\, </math> は単に密度関数とも呼ばれる. 密度関数を持つ分布は絶対連続型分布, あるいは単に連続型分布と呼ばれることもある.

　離散分布の例としては, [[2項分布]], [[ポアソン分布]], [[幾何分布]]などがあり, 密度関数をもつ分布の例としては[[正規分布]], [[指数分布]], [[一様分布]]などがある.

'''期待値と分散'''　確率関数や密度関数では, 一目で分布の性質を捉えたり分布を比較することが難しい場合もあるため, 確率分布の特徴を少数の数値で表現できると都合がよい. その代表は分布の中心を表す[[期待値]] (あるいは[[平均]]) <math>\textstyle \mathrm{E}(X)=\int x \mathrm{d} F(x)\, </math> と分布の散らばり具合を表す[[分散]] <math>\textstyle \mathrm{V}(X) =\int (x-\mathrm{E}(X))^2 \mathrm{d}F(x)\, </math>, もしくは分散の平方根の標準偏差である. なお, <math>\textstyle \int g(x) \mathrm{d} F(x)\, </math> の形の積分は, <math>F(x)\, </math> が離散型分布の場合は <math>\textstyle \sum g(x_i) \mathrm{P}(X=x_i)\, </math>, 密度関数 <math>f(x)\, </math> を持つ場合は <math>\textstyle \int g(x) f(x) \mathrm{d} x\, </math> と理解してよい. 平均や分散のように <math>\textstyle \mu_j=\int (x-a)^j \mathrm{d} F(x)\, </math> の形で表される数値を一般に <math>j\, </math> 次の積率 (moment) と呼ぶ. 特に, <math>a=0\, </math> のときは原点周りの積率, <math>a=\mathrm{E}(X)\, </math> のときは平均周り積率となる. <math>j\, </math> が高次になるにつれて <math>\mu_j\, </math> の表現が複雑になる傾向があるため, [[特性関数 (確率変数の)|特性関数]] <math>\textstyle \phi(t)=\int \mathrm{e}^{\mathrm{i}tx} \mathrm{d} F(x)\, </math> (<math>t\, </math> は実数パラメータ, <math>\mathrm{i}\, </math> は虚数単位), あるいは[[積率母関数]] <math>\textstyle M(\theta)=\int \mathrm{e}^{\theta x} \mathrm{d}F(x)\, </math> を利用して<math>\mu_j\, </math> を求める方法が考えられている. 例えば, 積率母関数 <math>M(\theta)\, </math> が陽に求まれば, 原点周りのモーメントは <math>\textstyle \mu_j = \mathrm{d}^j M(\theta) / \mathrm{d} \theta^j |_{\theta=0}\, </math> で計算される. また, 非負の値をとる確率変数に対しては, [[ラプラス変換]]を利用してもよい. これらの変換は, 元の分布関数と1対1に対応しており, 原理的には逆変換によって元の分布を求めることができる. また, 変換を利用することで, たたみこみなど分布に関する演算が簡単になることも多い.

'''多次元分布'''　1次元の場合の自然な拡張として, <math>n\, </math> 個の実数値確率変数 <math>X_1, \ldots, X_n\, </math> に対しても, [[多次元分布関数]] <math>\mathrm{P}(X_1 \leq x_1, \ldots, X_n \leq x_n)\, </math> によって分布を定めることができる. 代表的な多次元分布としては, 多変量解析などの基礎となる[[多次元正規分布]]がある. 多次元分布では, 複数の確率変数の関係に興味がある場合が多い. そのような関係を表す指標として, 2つの確率変数 <math>X\, </math> と <math>Y\, </math> の[[共分散]] <math>\mathrm{Cov}(X,Y)=\mathrm{E}(\{X-\mathrm{E}(X)\}\{Y-\mathrm{E}(Y)\})\, </math> や, [[相関係数]] <math>r(X,Y)=\mathrm{Cov}(X,Y)/\sqrt{\mathrm{V}(X)\mathrm{V}(Y)}\, </math> がある. 相関係数は <math>-1 \leq r(X,Y) \leq 1\, </math> の範囲の値をとり, <math>r(X,Y)\, </math> が1に近い場合は, 一方の値が大きいと他方も大きな値を, 一方の値が小さいと他方も小さな値をとる傾向が強い. <math>r(X,Y)\, </math> が <math>-1\, </math> に近いときは, 反対の傾向となる. また, <math>r(X,Y)=0\, </math> のとき <math>X\, </math> と <math>Y\, </math> は無相関と呼ばれる.

'''確率変数の独立性'''　<math>n\, </math> 個の確率変数 <math>X_1, \ldots, X_n\, </math> が, 任意の <math>x_1,\ldots,x_n\, </math> に対して

<center>
<math>\mathrm{P}(X_1 \leq x_1, \ldots, X_n \leq x_n)
= \prod_{i=1}^n \mathrm{P}(X_i \leq x_i)\, </math>
</center>

を満たすとき, <math>X_1, \ldots, X_n\, </math> は[[独立 (確率変数の)|独立]]であるという. 直観的には, 各確率変数の値が他の確率変数の値と無関係に決まることを意味する. なお, <math>X\, </math> と <math>Y\, </math> が独立であれば無相関となるが, その逆は一般に成立しない. 独立な確率変数 <math>X\, </math> と <math>Y\, </math> の確率分布関数を <math>F_X(x), F_Y(x)\, </math> とするとき, その和 <math>S = X+Y\, </math> の確率分布関数は, <math>\textstyle F_S(x)= \int F_X(x-y) \mathrm{d} F_Y(y)\, </math> によって計算できる. 同様に, 整数値をとる離散型分布に対しては <math>\textstyle \mathrm{P}(S=k)=\sum_i \mathrm{P}(X=k-i)\mathrm{P}(Y=i)\, </math> によって <math>S\, </math> の確率関数を, また, <math>X\, </math>, <math>Y\, </math> が密度関数をもつ場合は, <math>\textstyle f_S(x)=\int f_X(x-y)f_Y(y) \mathrm{d}y\, </math> によって <math>S\, </math> の密度関数を求めることができる. [[たたみ込み]]と呼ばれるこれらの方法から, 2つの指数分布の和はガンマ分布になり, 2つの正規分布の和はやはり正規分布になる, といったことがわかる.

'''<math>n\, </math>個の確率変数の和'''　<math>n\, </math>個の確率変数の和 <math>S_n=X_1+\ldots+X_n\, </math> は理論と応用のいずれにおいても重要な問題を提起してきた. <math>S_n/n\, </math> は算術平均であるから統計処理上頻繁に使われる. <math>X_1, \ldots, X_n\, </math> が互いに独立で同一の分布に従い, 平均 <math>\mu\, </math>, 分散 <math>\sigma^2\, </math> をもてば, <math>S_n/n\, </math> の平均は <math>\mu\, </math>, 分散は <math>\sigma^2/n\, </math> であるから, <math>n\rightarrow\infty\, </math> のとき <math>S_n/n\, </math> は <math>\mu\, </math> に収束する. このように <math>S_n/n\, </math> が平均に収束することを[[大数の法則]]といい, 収束が概収束か確率収束かに応じて, それぞれ大数の強法則, 大数の弱法則と呼ばれる. 大数の強法則は[[エルゴード理論]]と密接に関係しており, ある種の条件を満たせば <math>X_1, \ldots, X_n\, </math> が独立でなくとも <math>S_n/n\, </math> は <math>\mu\, </math> に収束することが知られている. 独立確率変数列 <math>X_1, X_2, \ldots\, </math> がそれぞれ平均 <math>\mu\, </math>, 分散 <math>\sigma^2\, </math> の同じ分布に従う場合, 元の分布が何であっても <math>\textstyle \sum_{i=1}^n (X_i-\mu) / \sigma \sqrt{n}\, </math> は <math>n\rightarrow \infty\, </math> のとき平均0, 分散1の正規分布に近づく. これを[[中心極限定理]]といい, 確率論における正規分布の重要性の根拠となっている.

----
'''参考文献'''

[1] H. Bauer, ''Probability Theory and Elements of Measure Theory'', 2nd ed., Academic Press, 1983.

[2] M. Loéve, ''Probability Theory I'', 4th ed., Springer, 1977, ''Probability Theory II'', 4th ed., Springer, 1978.

[3] 伊藤清, 『確率論』, 岩波書店, 1991.

[4] 伏見正則, 『確率と確率過程』, 講談社, 1987.

《生物学における進化ゲーム理論》

2007-07-16T14:45:12Z

220.104.197.230:

'''【せいぶつがくにおけるしんかげーむりろん (evolutionary game theory in biology) 】'''

　メーナード・スミス（J. Maynard Smith）はゲーム理論をもとに生物学における進化ゲーム理論を発展させた[1]。最近では社会科学の分野でも進化ゲーム理論は注目を浴びつつあり、社会科学上未解決だった問題を生物学における自然選択のアナロジーを用いて解決しようとしている。

　生物学における進化ゲーム理論では自然選択説による進化が前提となる。まずは重要な指標である「適応度」の定義をしよう。適応度とは、繁殖齢の個体が出産する子供の数にその子供が繁殖齢になるまでの生存率をかけたものである。適応度は生物の置かれた自然環境や生物自身が作り出す社会環境からも影響を受ける。生物個体同士の種内・種間相互作用が適応度に影響を与える時に進化ゲーム理論が適用可能となり、ゲーム理論での利得や効用に当たる尺度として適応度が用いられる。

　自然選択による進化のためには、選択（あるいは淘汰）、変異、遺伝の３つの要素が必要であり、基本的には１つでも欠けると進化は生じない[2][3][4]。例として、集団をある形質A が占めていて、形質Aが「変異」して形質Bが生じる場合を考えてみる。「形質」とは、進化生物学における専門用語であり、各個体に備わっている形や性質である。形質Aを野生型（wild type）、形質Bを突然変異型と呼ぶ。子供へ形質Bが「遺伝」し、形質Aよりも適応度が高ければ、つまり、「選択」（あるいは「淘汰」）が生じれば、形質Bは自然選択によって進化する。もし、形質Aが形質B に取って代わられることがなければ、形質Aは進化的に安定な戦略（ESS: evolutionarily stable strategy）であるという。一般のゲーム理論では、戦略とは各プレイヤーが意思を持って選択する行動計画であるが、進化ゲーム理論ではそうでなく、各個体に備わっている形質そのもの，ないしは形質によって定まる行動を戦略と呼ぶ。

　メイナード・スミスとプライス（J. Maynard Smith and G. R. Price）によると、

<center><math>E[A, A] > E[B, A]\, </math>
</center>

あるいは、

<center>
<math>E[A, A] = E[B, A] \, </math>かつ<math>E[A, B] > E[B, B]\, </math>
</center>

が成り立つときに、戦略Aは進化的に安定であるという[1]。ただし、<math>E[A, B]\, </math>は形質Aと形質Bがゲームをしたときの形質Aの利得（適応度）である。

　以下では、資源を巡る競争を表すタカハトゲームを例に挙げる[1]。各プレーヤーはタカ戦略とハト戦略のどちらかを採る形質を備えている。タカは資源を巡って実際に戦う攻撃的な戦略であり、ハトは平和的に解決する戦略である。両方ハト戦略の場合には資源量<math>V\, </math>を等分する。一方がハトで一方がタカであれば、タカがすべての資源量<math>V\, </math>を得、ハトは何も得られない。両方タカの場合には実際に対戦し体力消耗などのコスト<math>C\, </math>を被るため、平均利得は<math>(V-C)/2\, </math>となる。資源量が対戦コストより大きく<math>V > C\, </math>であれば、進化的に安定な純粋戦略はタカ戦略である。もし資源量より対戦コストが大きく<math>V < C\, </math>であれば、タカもハトも進化的に安定な戦略ではなくなる。混合戦略<math>(p,1-p)\, </math>（<math>p,1-p\, </math>はそれぞれタカ戦略，ハト戦略を用いる確率）まで考えると、混合戦略が進化的安定になる条件を与えるBishop & Cannings(1978) の定理を用いることにより[1]、

<center>
<math>E[\, </math>タカ<math>, ~(p,1-p)] = E[\, </math>ハト<math>, ~(p,1-p)],\, </math>
</center>

が成り立たなければならない。この式から<math>p = V/C\, </math> が得られ、<math>(V/C, 1-V/C)\, </math>が進化的に安定な混合戦略となる。

　以上の例では、利得が戦略のみに依存する対称ゲームであったが、性別や年齢、社会的立場によって利得が異なる非対称ゲームとなることもある。例えば、親の性別による子の世話を考えると、父親と母親では適応度が異なってくる。オスの場合は、子育てよりも他のメスと交尾した方が適応度が上昇するかもしれない。メスも世話をするより、沢山の卵を産みっぱなしにして子育てを放棄するという戦略もあり得る。また、子育てによって子供の生存率は上がるならば子育てに専念した方がよいであろう。メーナード・スミス[1]によると、子育てする場合としない場合とでオスが別のメスに出会う確率があまり変わらない場合や、片親で育てた時の子供の生存率が両親で育てた時の生存率よりかなり低いという場合には、両親が子育てすることがESSとなる。また、両親とも子育てしない時の子の生存率がどちらかが子育てする時の生存率よりかなり低い時には片親による子育てが進化的に安定になるが、オスにとって子育てしない方が次の交尾相手に出会う確率が高ければオスが子育てを放棄しメスのみが子育てをする、というような結果が得られている。

　以上ではゲームの利得行列をもとに進化的に安定な戦略を説明したが、各戦略を採用するプレーヤーの頻度の時間変化や進化的に安定な戦略へ収束するまでの集団動態を知るには、リプリケーターダイナミクスが有効である[5]（「進化と学習のゲーム理論」を参照）。ただ、リプリケーターダイナミクスでは、高い利得を得た戦略が世代毎に増えていくことを前提としているが、生物学的に現実に忠実にモデル化しようとすると、このような前提のみでは不十分な場合があるので注意しなければならない[6]。

　以上では形質が離散的に異なる場合であったが、形質が連続量であり突然変異によって形質が徐々に変化していく場合もある。樹高を例に取ると、周囲の木との光を巡る競争ではできるだけ高いほうがよいが、逆に高すぎると維持コストがかかるというトレードオフがあり、進化ゲーム理論によって最適な樹高を計算することができる[7]。

　以下では連続形質の進化的に安定な戦略の定義を説明する。形質<math>x\, </math> (<math>x\, </math>は形質の連続量。たとえば樹高など) の占めている集団へ突然変異型<math>y\, </math>が侵入したときの、突然変異型<math>y\, </math>の適応度関数を<math>\phi (y,x)\, </math>と定義する。ESSである形質を<math>x^*\, </math>とすると、<math>y\, </math>が<math>x^*\, </math>の近傍である時、

<center>
<math>\frac{\partial \phi (y,x)}{\partial y}\Bigg|_{y=x=x^*} =0
\ \ and \ \ \frac{\partial^2 \phi (y,x)}{\partial y^2} \Bigg|_{y=x=x^*} <0\, </math>
</center>

つまり<math>\phi (y,x)\, </math>が極大値となる <math>y=x=x^*\, </math>が ESSとなる。連続形質の進化のいま１つの例として性比を考える。多くの生物ではオスメス比が<math>1:1\, </math>であり、これが当たり前のようであるが、オスを少なく産んでメスを多く産んだ方が子孫が多くなるのではないであろうか。そうだとすると何故<math>1:1\, </math>なのであろうか。フィッシャー（R. A. Fisher）は、子供の数だけでなく、孫の数に着目して適応度を定義した上で進化ゲーム理論による解析を行い、任意交配で集団サイズが十分大きな時には性比が<math>1:1\, </math>の状態が進化的に安定であることを示した [2][3][4][7]。

　上記のESSの定義だけでは、いかなる変異型も<math>x^*\, </math>には侵入できないというだけであり、集団の形質値が<math>x^*\, </math> から少しずれただけで安定性が崩れる可能性もある。集団の形質値<math>x\, </math>がESSである<math>x^*\, </math>からずれている時、変異体<math>y\, </math>（ただし、<math>x\, </math>より<math>x^*\, </math>に近い形質値。<math>x < y < x^*\, </math> あるいは <math>x^* < y < x\, </math>）に侵入される場合を連続進化可能な戦略（CSS: continuously stable strategy)という[8]。つまり<math>x^*\, </math>がCSSの時は、変異によって野生型が<math>x^*\, </math>からずれて<math>x\, </math>となっても、時間が経つとまた<math>x^*\, </math>へ戻るのである。

　以上の進化ゲームによる分析では、適応度関数を定義しなければならない。一方、アダプティブ・ダイナミクス（adaptive dynamics）では個体群動態の式（集団中のある形質の頻度の時間変化）から適応度関数<math>\phi (y,x)\, </math>に相当するある関数（invasion fitness）を導出するだけで、ESSやCSSだけではなく共存可能な条件や分岐（branching）条件を得る事が可能となる[9]。

　以上、生物の進化ゲームの紹介をしてきたが、人間も生物の一員である以上は、ある形質に関しては生物進化の観点からの進化ゲーム研究も可能であろう。たとえば言語能力や文化、規範、道徳、制度などについて生物進化の観点からの数理モデル解析が進められている[10][11][12][13]。これらの分析は、従来の研究にはなかった全く新たな視点を与えるものであり、これからの発展が大いに期待されている。

----
'''参考文献'''

[1] J. Maynard Smith, "Evolution and the Theory of Games," Cambridge University Pres, 1982. 寺本英, 梯正之訳, 『進化とゲーム理論』, 産業図書, 1985.

[2] 粕谷英一, 『行動生態学入門』, 東海大学出版会, 1990.

[3] 酒井聡樹, 高田壮則, 近雅博, 『生き物の進化ゲーム』, 共立出版, 1999.

[4] 嶋田正和, 山村則男, 粕谷英一, 伊藤嘉昭, 『動物生態学新版』, 海游舎, 2005.

[5] J. Hofbauer, K. Sigmund, "Evolutionary Games and Population Dynamics," Cambridge University Press, 1998. 竹内康博, 佐藤一憲, 宮崎倫子訳, 『進化ゲームと微分方程式』, 現代数学社, 2001.

[6] M. Nakamaru and Y. Iwasa, "The evolution of altruism by costly punishment in the lattice structured population: score-dependent viability versus score-dependent fertility," ''Evolutionary Ecology Research'', '''7''' (2005), 853-870.

[7] 巌佐庸, 『数理生物学入門』, 共立出版, 1992.

[8] I. Eshel, "Evolutionary and Continuous Stability," ''Journal of Theoretical Biology'', '''103''' (1983), 99-111.

[9] O. Diekmann, ''A Beginner's Guide to Adaptive Dynamics, Mathematical Modelling of Population Dynamics, Banach Center Publications'', Vol. 63, Institute of Mathematics Polish Academy of Sciences, Warszawa, 2004.

[10] L. L. Cavalli-Sforza, M. W. Feldman, ''Cultural Transimission and Evolution: A Quantitative Approach'', Princeton University Press, 1981.

[11] R. Boyd, P. J. Richerson, ''Culture and the Evolutionary Process'', Chicago University Press, 1985.

[12] F. J. Odling-Smee, K. L. Laland, M. W. Feldman, ''Niche construction'', Princeton University Press, 2003.

[13] A. Cangelosi, D. Parisi (Eds), ''Simulating the Evolution of Language'', Springer-Verlag, 2002.

《ゲームの解の計算》

2007-07-16T14:42:49Z

220.104.197.230:

'''【ゲームのかいのけいさん (computation of solutions of games) 】'''

1. 2人ゼロ和ゲームのマックスミニ戦略の計算

　次のような[[利得行列 (ゲームの)|利得行列]]をもつ[[2人ゼロ和ゲーム]]を考える.

<center>
[[スタイル検討#ゲームの解の計算 (0079-a-g-11-1)|スタイル検討]]
</center>

[[プレイヤー]]1の[[混合戦略]]を<math>p = (p_1, p_2, \ldots, p_m)\, </math>, プレイヤー2の混合戦略を<math>q = (q_1, q_2, \ldots, q_n)\, </math>, <math> 0 \leq p_i, q_j \leq 1 \, </math>, <math>\textstyle \sum_{i=1}^{m} p_i = 1\, </math>, <math>\textstyle \sum_{j=1}^{n} q_j = 1\, </math> とするとき, プレイヤー1の[[マックスミニ戦略]]は, 次の線形計画問題の最適解として得られ, 最適値が[[マックスミニ値]]となる.

<center>
<math>\begin{array}{ll}
\mbox{maximize} & v \\
\mbox{subject to} & a_{1j}p_1 + a_{2j}p_2 + \ldots + a_{mj}p_m \geq v \ (j = 1, 2, \ldots, n), \\
& p_1 + p_2 + \ldots + p_m = 1,\;\; p_1, p_2, \ldots, p_m \geq 0.
\end{array}\, </math>
</center>

プレイヤー2の[[ミニマックス戦略]]はこの問題の[[双対問題 (線形計画の)|双対問題]]を解いて求められる. 少なくとも一方のプレイヤーの[[純戦略]]が2個だけである場合には, マックスミニ戦略, ミニマックス戦略はより簡単に計算することができる. 例えば, <math>m=2\, </math>とすると, プレイヤー1のマックスミニ戦略は,

<center>
<math>\max_{0 \leq p_1 \leq 1} \min
\{a_{11}p_1 + a_{21}(1-p_1), a_{12}p_1 + a_{22}(1-p_1),
\ldots , a_{1n}p_1 + a_{2n}(1-p_1) \}\, </math>
</center>

の解となる. いま, 各jについて <math>a_{1j}p_1 + a_{2j}(1-p_1)\, </math> のグラフを描き, <math>n\, </math>個のグラフの最小の部分をたどるグラフ (図１(a)の太線) を描く. このグラフの最大値を与える<math>p_1\, </math>を<math>p^*\, </math>とすると, プレイヤー1のマックスミニ戦略は<math>(p^*, 1-p^*)\, </math>で与えられる. 図１(a)は<math>n=3\, </math>の場合である. プレイヤー2については, <math>p^*\, </math>を与える2つの戦略<math>j, j'\, </math>について同様の計算を行ってミニマックス戦略を求めることができる. 詳しくは, 例えば [4] を参照.

2. 非ゼロ和ゲームのナッシュ均衡の計算

　次のような <math>2 \times 2\, </math> の[[利得双行列 (ゲームの)|利得双行列]]をもつ2人[[非ゼロ和ゲーム]]を考える.

<center>
[[スタイル検討#ゲームの解の計算 (0079-a-g-11-2)|スタイル検討]]
</center>

プレイヤー1, 2の混合戦略を各々 <math>(p, 1-p)\, </math>, <math>(q, 1-q)\, </math>, <math>0 \leq p, q \leq 1\, </math>とする.

　<math>A_1 \equiv a_{11}q+a_{12}(1-q), A_2 \equiv a_{21}q+a_{22}(1-q) \, </math> とおくと, プレイヤー1の利得の期待値 (期待利得) は <math>p A_1 + (1-p) A_2\, </math> となるから, [[最適反応 (ゲーム理論における)|最適反応]]は <math>A_1 > A_2\, </math> のとき <math>p=1\, </math> , <math>A_1 = A_2\, </math> のとき <math>0 \leq p \leq 1\, </math> , <math>A_1 < A_2\, </math> のとき <math>p=0\, </math> となる. 同様にプレイヤー2の最適反応は, <math>B_1 = b_{11}p+b_{21}(1-p), B_2 = b_{12}p+b_{22}(1-p)\, </math> とおいて, <math>B_1 > B_2\, </math> のとき <math>q=1\, </math> , <math>B_1 = B_2\, </math> のとき <math>0 \leq q \leq 1 , B_1 < B_2\, </math> のとき <math>q=0\, </math> となる. 従って, 両者の最適反応は, もし, <math>a_{11}>a_{21}, a_{12}<a_{22}, b_{11}>b_{12}, b_{21}<b_{22}\, </math> であれば, 図１(b) のように表現される.

<center><table><tr><td align=center>[[画像:0079-a-g-11fig.png|center|図１：2人ゲームのマックスミニ戦略およびナッシュ均衡の計算]]</td></tr>
<td align=center>図１：2人ゲームのマックスミニ戦略およびナッシュ均衡の計算
</td></table></center>

　[[ナッシュ均衡]]は両者の最適反応の交点 (図１(b)の3つの交点) で与えられるから, この場合には, 純戦略に対応する <math>p=q=1\, </math> と <math>p=q=0\, </math> および, <math>A_1 = A_2\, </math> かつ <math>B_1 = B_2\, </math> を満たす混合戦略に対応する <math>p=(b_{22}-b_{21})/(b_{11}-b_{12} + b_{22}-b_{21})\, </math> , <math>q=(a_{12}-a_{22})/(a_{21}-a_{11} + a_{12}-a_{22})\, </math> の合計3通りのナッシュ均衡が存在する. <math>a_{11}>a_{21}, a_{12}<a_{22}, b_{11}>b_{12}, b_{21}<b_{22}\, </math>以外の場合など, 詳しくは, 例えば [4] を参照.

　<math>2 \times 2\, </math> よりも大きな利得行列をもつ2人非ゼロ和ゲームのナッシュ均衡を求める方法としては, [[シャープレイのラベル法|シャープレイ(L. S. Shapley)のラベル法]](Shapley's labelling method) [6] がある. <math>3\, </math>人以上のプレイヤーからなる[[戦略形ゲーム]]においては, [[不動点アルゴリズム]]を用いて, ナッシュ均衡の近似値を計算することができる. [7] を参照.

　[[展開形ゲーム]]における[[部分ゲーム完全均衡]], [[完全均衡]], [[逐次均衡]]などの計算については, [4] を参照.

3. 提携形 (特性関数形) ゲームの解の計算

　[[提携形ゲーム]]<math>(N, v)\, </math>の[[コア]]の配分 <math>(x_i)_{i \in N }\, </math>を計算するために, まず <math>2^n-1\, </math> 本の制約式をもつ次の線形計画問題<math>P_1\, </math>を考える (<math>\textstyle |N|=n, x(S)=\sum_{i \in S} x_i \, </math>).

<center>
<math>\begin{array}{lll}
\mbox{minimize} & e \\
\mbox{subject to} & x(S) + e \geq v(S) &
(S \subset N, \ S \neq N, \emptyset), \\
& x(N) = v(N).
\end{array}\, </math>
</center>

問題<math>P_1\, </math>の最適解において, <math>e \leq 0\, </math> となっているならば, ゲーム<math>(N, v)\, </math>のコアは空集合ではなく, <math>e \leq 0\, </math> を満たす実行可能解すべてからなる集合がコアとなる. また, コアが空であろうと非空であろうと, 問題<math>P_1\, </math>の最適解の全体はゲーム<math>(N, v)\, \, </math>の[[最小コア (ゲーム理論の)|最小コア]]になる.

　[[仁]]は, 線形計画問題を繰り返し解く[[コペロウィッツのアルゴリズム]] (Kopelowitz' algorithm) [2] によって求められる. まず, 問題<math>P_1\, </math>の最適解における<math>e\, </math>の値を<math>e_1\, </math>とする. もしも最適解が唯一でない場合は, すべての最適解を求め, 不等式制約条件がその全最適解において等号で成立しているような<math>S\, </math>の族を<math>A_1\, </math>とおく. さらに, <math>A_1\, </math>に含まれるすべての<math>S\, </math>に対して問題<math>P_1\, </math>の制約式 <math>x(S) + e \geq v(S)\, </math> を <math>x(S) + e_1 = v(S)\, </math> に置き換えて新たな問題<math>P_2\, </math>をつくり, その最適解を求める. このプロセスを繰り返し, あるステップで, 最適解が唯一であればそれが仁の配分である. このアルゴリズムは<math>n-1\, </math>回以内の繰り返しで必ず終了する. ただし, 1回の繰り返しの中での計算量は膨大になることがある. 仁のより効率的な計算方法については, [1], [5] を参照.

　[[シャープレイ値]]の計算方法については, [3] を参照.

----
'''参考文献'''

[1] G. Bruyneel, "Computation of the Nucleolus of a Game by Means of Minimal Balanced Sets," ''Operations Research Verfahren'', '''34''' (1979), 35-51.

[2] A. Kopelowitz, "Computation of the Kernels of Simple Games and the Nucleolus of n-Person Games," "Research Program in Game Theory and Mathematical Economics", RM 31, The Hebrew University of Jerusalem, 1967.

[3] 武藤滋夫, 小野理恵, 「投票システムのゲーム分析」, 日科技連出版社, 1998.

[4] 岡田章, 「ゲーム理論」, 有斐閣, 1996.

[5] J. K. Sankaran, "On Finding the Nucleolus of an n-Person Cooperative Game," ''International Journal of Game Theory'', '''19''' (1991), 329-338.

[6] L. S. Shapley, "A Note on the Lemke-Howson Algorithm," ''Mathematical Programming Study'', '''1''' (1974), 175-189.

[7] Z. -F. Yang, ''Computing Equilibria and Fixed Points'', Kluwer Academic Publishers, 1999.

《ゲームの解の計算》

2007-07-16T14:41:07Z

220.104.197.230:

'''【ゲームのかいのけいさん (computation of solutions of games) 】'''

1. 2人ゼロ和ゲームのマックスミニ戦略の計算

　次のような[[利得行列 (ゲームの)|利得行列]]をもつ[[2人ゼロ和ゲーム]]を考える.

<center>
[[スタイル検討#ゲームの解の計算 (0079-a-g-11-1)|スタイル検討]]
</center>

[[プレイヤー]]1の[[混合戦略]]を<math>p = (p_1, p_2, \ldots, p_m)\, </math>, プレイヤー2の混合戦略を<math>q = (q_1, q_2, \ldots, q_n)\, </math>, <math> 0 \leq p_i, q_j \leq 1 \, </math>, <math>\textstyle \sum_{i=1}^{m} p_i = 1\, </math>, <math>\textstyle \sum_{j=1}^{n} q_j = 1\, </math> とするとき, プレイヤー1の[[マックスミニ戦略]]は, 次の線形計画問題の最適解として得られ, 最適値が[[マックスミニ値]]となる.

<center>
<math>\begin{array}{ll}
\mbox{maximize} & v \\
\mbox{subject to} & a_{1j}p_1 + a_{2j}p_2 + \ldots + a_{mj}p_m \geq v \ (j = 1, 2, \ldots, n), \\
& p_1 + p_2 + \ldots + p_m = 1,\;\; p_1, p_2, \ldots, p_m \geq 0.
\end{array}\, </math>
</center>

プレイヤー2の[[ミニマックス戦略]]はこの問題の[[双対問題 (線形計画の)|双対問題]]を解いて求められる. 少なくとも一方のプレイヤーの[[純戦略]]が2個だけである場合には, マックスミニ戦略, ミニマックス戦略はより簡単に計算することができる. 例えば, <math>m=2\, </math>とすると, プレイヤー1のマックスミニ戦略は,

<center>
<math>\max_{0 \leq p_1 \leq 1} \min
\{a_{11}p_1 + a_{21}(1-p_1), a_{12}p_1 + a_{22}(1-p_1),
\ldots , a_{1n}p_1 + a_{2n}(1-p_1) \}\, </math>
</center>

の解となる. いま, 各jについて <math>a_{1j}p_1 + a_{2j}(1-p_1)\, </math> のグラフを描き, <math>n\, </math>個のグラフの最小の部分をたどるグラフ (図１(a)の太線) を描く. このグラフの最大値を与える<math>p_1\, </math>を<math>p^*\, </math>とすると, プレイヤー1のマックスミニ戦略は<math>(p^*, 1-p^*)\, </math>で与えられる. 図１(a)は<math>n=3\, </math>の場合である. プレイヤー2については, <math>p^*\, </math>を与える2つの戦略<math>j, j'\, </math>について同様の計算を行ってミニマックス戦略を求めることができる. 詳しくは, 例えば [4] を参照.

2. 非ゼロ和ゲームのナッシュ均衡の計算

　次のような <math>2 \times 2\, </math> の[[利得双行列 (ゲームの)|利得双行列]]をもつ2人[[非ゼロ和ゲーム]]を考える.

<center>
[[スタイル検討#ゲームの解の計算 (0079-a-g-11-2)|スタイル検討]]
</center>

プレイヤー1, 2の混合戦略を各々 <math>(p, 1-p)\, </math>, <math>(q, 1-q)\, </math>, <math>0 \leq p, q \leq 1\, </math>とする.

　<math>A_1 \equiv a_{11}q+a_{12}(1-q), A_2 \equiv a_{21}q+a_{22}(1-q) \, </math> とおくと, プレイヤー1の利得の期待値 (期待利得) は <math>p A_1 + (1-p) A_2\, </math> となるから, [[最適反応 (ゲーム理論における)|最適反応]]は <math>A_1 > A_2\, </math> のとき <math>p=1\, </math> , <math>A_1 = A_2\, </math> のとき <math>0 \leq p \leq 1\, </math> , <math>A_1 < A_2\, </math> のとき <math>p=0\, </math> となる. 同様にプレイヤー2の最適反応は, <math>B_1 = b_{11}p+b_{21}(1-p), B_2 = b_{12}p+b_{22}(1-p)\, </math> とおいて, <math>B_1 > B_2\, </math> のとき <math>q=1\, </math> , <math>B_1 = B_2\, </math> のとき <math>0 \leq q \leq 1 , B_1 < B_2\, </math> のとき <math>q=0\, </math> となる. 従って, 両者の最適反応は, もし, <math>a_{11}>a_{21}, a_{12}<a_{22}, b_{11}>b_{12}, b_{21}<b_{22}\, </math> であれば, 図１(b) のように表現される.

<center><table><tr><td align=center>[[画像:0079-a-g-11fig.png|center|図１：2人ゲームのマックスミニ戦略およびナッシュ均衡の計算]]</td></tr>
<td align=center>図１：2人ゲームのマックスミニ戦略およびナッシュ均衡の計算
</td></table></center>

　[[ナッシュ均衡]]は両者の最適反応の交点 (図１(b)の3つの交点) で与えられるから, この場合には, 純戦略に対応する <math>p=q=1\, </math> と <math>p=q=0\, </math> および, <math>A_1 = A_2\, </math> かつ <math>B_1 = B_2\, </math> を満たす混合戦略に対応する <math>p=(b_{22}-b_{21})/(b_{11}-b_{12} + b_{22}-b_{21})\, </math> , <math>q=(a_{12}-a_{22})/(a_{21}-a_{11} + a_{12}-a_{22})\, </math> の合計3通りのナッシュ均衡が存在する. <math>a_{11}>a_{21}, a_{12}<a_{22}, b_{11}>b_{12}, b_{21}<b_{22}\, </math>以外の場合など, 詳しくは, 例えば [4] を参照.

　<math>2 \times 2\, </math> よりも大きな利得行列をもつ2人非ゼロ和ゲームのナッシュ均衡を求める方法としては, [[シャープレイのラベル法|シャープレイ(L. S. Shapley)のラベル法]](Shapley's labelling method) [6] がある. <math>3\, </math>人以上のプレイヤーからなる[[戦略形ゲーム]]においては, [[不動点アルゴリズム]]を用いて, ナッシュ均衡の近似値を計算することができる. [7] を参照.

　[[展開形ゲーム]]における[[部分ゲーム完全均衡]], [[完全均衡]], [[逐次均衡]]などの計算については, [4] を参照.

3. 提携形 (特性関数形) ゲームの解の計算

　[[提携形ゲーム]]<math>(N, v)\, </math>の[[コア]]の配分 <math>(x_i)_{i \in N }\, </math>を計算するために, まず <math>2^n-1\, </math> 本の制約式をもつ次の線形計画問題<math>P_1\, </math>を考える (<math>\textstyle |N|=n, x(S)=\sum_{i \in S} x_i \, </math>).

<center>
<math>\begin{array}{lll}
\mbox{minimize} & e \\
\mbox{subject to} & x(S) + e \geq v(S) &
(S \subset N, \ S \neq N, \emptyset), \\
& x(N) = v(N).
\end{array}\, </math>
</center>

問題<math>P_1\, </math>の最適解において, <math>e \leq 0\, </math> となっているならば, ゲーム<math>(N, v)\, </math>のコアは空集合ではなく, <math>e \leq 0\, </math> を満たす実行可能解すべてからなる集合がコアとなる. また, コアが空であろうと非空であろうと, 問題<math>P_1\, </math>の最適解の全体はゲーム<math>(N, v)\, \, </math>の[[最小コア (ゲーム理論の)|最小コア]]になる.

　[[仁]]は, 線形計画問題を繰り返し解く[[コペロウィッツ (A. Kopelowitz)のアルゴリズム]] (Kopelowitz' algorithm) [2] によって求められる. まず, 問題<math>P_1\, </math>の最適解における<math>e\, </math>の値を<math>e_1\, </math>とする. もしも最適解が唯一でない場合は, すべての最適解を求め, 不等式制約条件がその全最適解において等号で成立しているような<math>S\, </math>の族を<math>A_1\, </math>とおく. さらに, <math>A_1\, </math>に含まれるすべての<math>S\, </math>に対して問題<math>P_1\, </math>の制約式 <math>x(S) + e \geq v(S)\, </math> を <math>x(S) + e_1 = v(S)\, </math> に置き換えて新たな問題<math>P_2\, </math>をつくり, その最適解を求める. このプロセスを繰り返し, あるステップで, 最適解が唯一であればそれが仁の配分である. このアルゴリズムは<math>n-1\, </math>回以内の繰り返しで必ず終了する. ただし, 1回の繰り返しの中での計算量は膨大になることがある. 仁のより効率的な計算方法については, [1], [5] を参照.

　[[シャープレイ値]]の計算方法については, [3] を参照.

----
'''参考文献'''

[1] G. Bruyneel, "Computation of the Nucleolus of a Game by Means of Minimal Balanced Sets," ''Operations Research Verfahren'', '''34''' (1979), 35-51.

[2] A. Kopelowitz, "Computation of the Kernels of Simple Games and the Nucleolus of n-Person Games," "Research Program in Game Theory and Mathematical Economics", RM 31, The Hebrew University of Jerusalem, 1967.

[3] 武藤滋夫, 小野理恵, 「投票システムのゲーム分析」, 日科技連出版社, 1998.

[4] 岡田章, 「ゲーム理論」, 有斐閣, 1996.

[5] J. K. Sankaran, "On Finding the Nucleolus of an n-Person Cooperative Game," ''International Journal of Game Theory'', '''19''' (1991), 329-338.

[6] L. S. Shapley, "A Note on the Lemke-Howson Algorithm," ''Mathematical Programming Study'', '''1''' (1974), 175-189.

[7] Z. -F. Yang, ''Computing Equilibria and Fixed Points'', Kluwer Academic Publishers, 1999.

《ゲーム理論の応用》

2007-07-16T14:36:29Z

220.104.197.230:

'''【げーむりろんのおうよう (applications of game theory to OR) 】'''

　[[ゲーム理論]]の応用分野は経済学・社会学・政治学・生物学と多岐にわたっているが, 現在もっとも応用が進んでいるのは経済学であると言ってよい. 多くの経済現象を個人の効用最大化に還元して説明しようとする現在の経済理論の方法論は, まさに非協力ゲームと共通している. このため経済学において, 寡占・独占の理論・情報経済学・環境経済学・国際経済学など多くの分野の基礎理論が[[非協力ゲーム理論]]によって説明されている.

　社会・経済現象の描写や叙述などゲーム理論の説明的な面をゲーム理論の応用の中心と考える経済学に比して, 現実の問題をモデル化し意思決定者に対して問題解決のための有益な情報を提供することが目的であるオペレーションズリサーチでは, 「良い解を薦める」というゲーム理論の規範的な面も重視されている. したがって, 規範的な面を持つ[[協力ゲーム理論]]もORでは広く応用されている. 以下, 経済学よりもORの文献等でよく見られるゲーム理論の応用を中心として述べる.

　ゲーム理論の応用としてかなり早い時期に研究が進められたものに[[市場ゲーム]] (market game) がある. 市場ゲームとは各個人が初期財としていくつかの財を保有し, それぞれが財から得られる効用の最大化を求めて財の交換を行うという交換経済を表現した協力ゲームである. もっとも典型的な市場ゲームは細かく分けることのできる分割財の取引を扱う譲渡可能効用を持つ市場ゲームで, この時の[[特性関数 (ゲーム理論の)|特性関数]]の値は, 提携に属する各個人の利得の和が最大になるように財が配分されたときの利得の和の値である. (譲渡可能効用を持たない市場ゲームの特性関数は各提携において実現可能な財の配分の集合である. ) 効用関数における通常の仮定のもとで, このゲームには[[コア]]が存在する. 市場ゲームは財に対する価格を導入することで, 理論経済学における交換経済モデルとして表現できる. この時, 参加する個人を増加(正確には初期保有財など特性が同じである個人を2倍, 3倍, . . . と複製)させたときに, [[競争均衡]] (competitive equilibrium) の配分の集合に収束することが知られている. これを[[極限定理 (ゲームのコアの)|極限定理]] (limit theorem of core) と呼ぶ.

　市場ゲームには家などのように分割できない非分割財を扱った非分割財の交換市場ゲームや, 売り手と買い手が分かれている[[割当て市場ゲーム]] (assignment game) などがある.

　譲渡可能効用を持つ市場ゲームには[[線形生産ゲーム]] (linear production game) と呼ばれるものがある. [3] を参照. これは各プレイヤーを生産者と考え, 各提携は最大限それに属するプレイヤーの持つ財の合計まで利用できると考えて, 線形計画法の生産計画問題で得られる最適値をその提携の特性関数の値と考えた市場ゲームである. 線形生産ゲームでは全員提携に関する線形計画問題の双対問題の解がコアとなる. また線形生産ゲームでは, プレイヤーの有限の複製でコアは競争均衡の配分と一致する. 市場ゲームについて詳しくは [4] を参照.

　[[費用分担ゲーム]] (cost allocation game) は, 何人かのプレイヤーが共同事業を行う場合に, 各プレイヤーがどれだけの費用を分担すべきかを考えるゲームである. 各提携の特性関数の値を, 各提携が単独で事業を行った場合の費用と考える場合と, 各プレイヤーが単独で事業を行った場合の和と提携で行った場合との費用の差として考える場合(節約ゲーム)とがある. 水資源共同開発における費用分担, 大学内での電話料金の分担, 飛行場の滑走路補修費用の機種別分担などの問題を, 仁やシャープレイ値を用いて分析した例が知られている.

　費用分担ゲームの中でも, 各プレイヤーがネットワーク上のグラフ上の点に存在し, グラフ上に費用最小木を張る時に, 各プレイヤーがいかに費用を配分するかの費用分担ゲームは最小木ゲームと呼ばれる. また同様に巡回セールスマン問題で各プレイヤーがグラフ上の点に位置すると考えたときに, 費用をいかに分担するかというゲームは巡回セールスマンゲームと呼ばれる. これらORで良く知られている最適化手法をゲームの状況に拡大した理論は多くあり, 他にも[[探索ゲーム]]や最少費用流ゲームなどが知られている. 線形生産ゲームもその1 つである.

　[[投票ゲーム]] (voting game) は, 議案の可決・否決や候補者の当選・落選など, 「2 つの結果に対する投票」を表現した協力ゲームである. プレイヤーの提携が, 結果を左右することができる場合にその提携を勝利提携と呼び, そうでないものを敗北提携と呼ぶ. 投票ゲームは, 勝利提携に1 , 敗北提携に0 を与えるような[[提携形ゲーム]]としても表現できる. 投票ゲームにおいて投票者の持つパワーを表現する指数を[[パワー指数]]と呼ぶ. シャープレイ・シュービック指数やバンザフ指数などの指数が考えられている. [2] を参照.

　[[仲裁ゲーム]] (arbitration game) は, 報酬契約などの2 人の交渉に仲裁者が存在しているゲームである. まず仲裁者が双方からどのような要求を出させ, どの場合にどのように仲裁するかを決める. 交渉する2人は要求を提出し, 決められたルールに従って利得の受け取り, 支払いを行う. [5] を参照.

　[[入札ゲーム]] (auction game) は, 各プレイヤーが入札対象に持つ事前価値について, その確率分布の情報が事前にプレイヤー間で共有されている状況で, 自分の事後の期待利益が最大になるように入札を行うような非協力ゲームである. プレイヤーの持つ価値がプレイヤーごとに独立で, かつ各プレイヤーはリスク中立である, という仮定をおいた場合には, 最も代表的な入札方法である最高の価格を付けたプレイヤーがその価格で落札するファーストプライス競売と, 最高の価格を付けたプレイヤーが2 番目に高い価格で落札するセカンドプライス競売が, 主催者にもたらす期待利益は等価であることが知られている. これを利潤等価定理という. [1] を参照.

　このようにゲーム理論の適用例は多岐にわたっているが, 最近では, スポーツへの適用も盛んになってきている. たとえば, サッカーのペナルティー・キックにおけるキッカーとゴールキーパーの実際の行動がゲーム理論の均衡概念による理論値ときわめて類似しているという興味ある結果も報告されている [1].

　ゲーム理論の応用例については, 本稿中に挙げたもののほか, [2], [3], [4], [5], [6], [9] などを参照していただきたい.

----
'''参考文献'''

[1] P. A. Chiappori, S. Levitt and T. Groseclose, "Testing Mixed-Strategy Equilibria When Playe.rs are Heterogeneous: The Case of Penalty Kicks in Soccer", ''American Economic Review'', '''92''' (2002), 1138-1151.

[2] A. Dixit and B. Nalebuff, ''Thinking Strategically'', N. W. Norton, 1991. 菅野隆, 嶋津祐一, 『戦略的思考とは何か』, TBSブリタニカ, 1991.

[3] 船木由喜彦, 『エコノミックゲームセオリー』, サイエンス社, 2001.

[4] 今井晴雄, 岡田章, 『ゲーム理論の新展開』, 勁草書房, 2002.

[5] 今井晴雄, 岡田章, 『ゲーム理論の応用』, 勁草書房, 2005.

[6] 梶井厚志, 松井彰彦, 『ミクロ経済学戦略的アプローチ』, 日本評論社, 2000.

[7] P. Milgrom and R. J. Weber, "The Theory of Auctions and Competitive Bidding", ''Econometrica'', '''50''', (1982), 1089-1122.

[8] 武藤滋夫, 小野理恵, 「投票システムのゲーム分析」, 日科技連出版社, 1998.

[9] 中山幹夫, 武藤滋夫, 船木由喜彦, 『ゲーム理論で解く』, 有斐閣, 2000.

[10] G. Owen, "On the Core of Linear Production Games", ''Mathematical Programming'', '''9''', (1975), 358-370.

[11] 鈴木光男, 武藤滋夫, 『協力ゲームの理論』, 東京大学出版会, 1985.

[12] D. -Z. Zeng, S. Nakamura and T. Ibaraki, "Double-offer Arbitration," ''Mathematical Social Sciences'', '''31''', (1996), 147-170.

《提携形ゲーム》

2007-07-16T14:23:02Z

220.104.197.230:

'''【ていけいけいげーむ (game in coalitional form) 】'''

　[[提携形ゲーム]] (game in coalitional form) は協力ゲームの表現形式の一つであり, プレイヤー集合<math>N\, </math>と, プレイヤーが[[提携]] (coalition) を形成し共同行動をとる際に実現可能な結果を表す[[特性関数 (ゲーム理論の)|特性関数]] (characteristic function) <math>v\, </math>の組<math>(N, v)\, </math>で表わされる. このために提携形ゲームは[[特性関数形ゲーム]] (game in characteristic function form) とよばれることもある. 特性関数の値は, 提携がそのメンバーだけで実現可能な利得の総和 (実数値) で表される場合 ([[譲渡可能効用]]を持つゲーム, game with transferable utility, TU-game) と, 提携の各メンバーの実現可能な利得ベクトルの集合で表される場合 (譲渡可能効用を持たないゲーム, game without transferable utility, NTU-game) がある. 譲渡可能効用を持つゲームでは, 共同行動の利害を調整するために貨幣などの媒介物による利得の[[別払い]] (sidepayment) が必要となる. 譲渡可能効用を持たないゲームの詳細については [11] を参照.

　提携形ゲーム<math>(N, v)\, </math>における基本的な問題は, プレイヤー間の協力の結果, (1) いかなる提携が形成され, (2) 提携のメンバーの間で利得がどのように分配されるか, である. 協力に関する交渉の結果, 各プレイヤー<math>i\, </math>に最終的に分配される利得<math>x_i\, </math>から成るベクトル<math>x=(x_1, x_2, \ldots, x_n)\, </math>を利得ベクトルとよび, さまざまな合理性の基準により, 結果として到達されると考えられる利得ベクトルの集合を提携形ゲームの解とよぶ.

　[[優加法性 (ゲーム理論における)|優加法性]] (superadditivity) をみたすゲームにおいてはプレイヤー全体による提携Nが形成されると考えられるので<math>v(N)\, </math>の値をどのようにプレイヤー間で分配すべきかが問題となる. このとき, ゲームの解の基本的な条件としては[[全体合理性]] (total group rationality) と[[個人合理性]] (individual rationality) の2つがあげられる. 前者は, 利得ベクトルが, プレイヤーが協力して実現できる実現可能集合において[[パレート最適]] (Pareto optimum) であることを要請し, 後者はゲームに参加して協力することの結果が, 単独で行動するよりも悪くならないことを要請している. 全体合理性をみたす利得ベクトルを[[準配分]] (preimputation) とよび, 全体合理性と個人合理性の両方をみたす利得ベクトルを[[配分]] (imputation)とよぶ.

　提携形ゲームの解で, 経済分析や費用分担問題などの応用も多く, よく知られているのは[[コア]] (core) である. コアは常に存在するとは限らないが, 存在のための必要十分条件がボンダレーヴァ (O. N. Bondareva) やシャープレイ (L. S. Shapley) によって研究されている. 特に, 市場経済をゲームとして定式化した[[市場ゲーム]]については多くの研究があり, [[競争均衡]]がコアに含まれることが知られている. また, 非分割財市場ゲームなどの種々の割当て市場ゲームや[[投票ゲーム]], [[費用分担ゲーム]]などにおいても, コアは分配案の安定性を示す重要な概念となっている.

　コアと同様に [[支配 (配分の)|支配]] (domination) 関係によって定義された解として知られているのはフォンノイマン (J. von Neumann) とモルゲンシュテルン (O. Morgenstern) によって提唱された[[安定集合]] (stable set) である [12]. 安定集合は[[フォンノイマン・モルゲンシュテルン解]] (von Neumann-Morgenstern solution) とよばれることもある. 安定集合は存在しない場合もあるし, 複数存在する場合もあるが, 存在すればコアを含む. また, コア自身が安定集合であれば, コア以外に安定集合は存在しない.

　一方, 提携構造を考慮に入れた特性関数を基に始まった一連の研究があり, それらのゲームの解としては[[交渉集合]] (bargaining set) , [[カーネル (ゲーム理論における)|カーネル]] (kernel), [[仁]] (nucleolus) がある. 交渉集合はオーマン (R. J. Aumann) とマシュラー (M. Maschler) によって異議と逆異議を用いて定義された解であり, 常に存在し, コア, カーネル, 仁を含んでいる [2]. カーネルと仁は提携のもつ利得ベクトルへの不満 (超過要求) に基づいて定義された解である. カーネルはデービス (M. Davis) とマシュラーにより導入され [4], 仁はシュマイドラー (D. Schmidler) により導入された [8]. カーネルと仁はともに常に存在し, 仁はカーネルと[[最小コア (ゲーム理論の)|最小コア]] (least core) の共通部分に含まれている. 仁は常にただ1つの配分から成り, その計算法についてもいろいろな研究がなされている. 破産問題においては, ユダヤ教の教典かつ律法書であるタルムード (Talmud) に1500年前に記述された分配方法とカーネルの与える分配が一致するという興味深い結果が知られている [3]. カーネルと仁は配分の集合を基に, 定義されているが, 準配分の集合において同等の定式化を行うと, 準カーネル, 準仁などの概念が導かれる. これらの解の性質については [1]の18章にまとめられている.

　提携形ゲームにおいて, プレイヤーがそのゲームに参加する場合のゲームの事前評価の値をゲームの値という. ゲームの値の概念の中で最もよく知られたものは[[シャープレイ値]] (Shapley value) である [9] . シャープレイ値は全体合理性, 対称性, 加法性, ナルプレイヤーのゼロ評価の４公理をみたす唯一の値 (ゲームの関数) として与えられる. シャープレイ値の応用の1つは[[投票ゲーム]]への適用である. シャープレイ・シュービック指数と呼ばれ, 各投票者の影響力を示す[[パワー指数]]の1つとして広く用いられている.

　提携形ゲームにはこのように多数の解概念が提唱されているが, それらの解概念の共通点や差異を調べるためにいろいろなゲームのクラスにおいて, 解の間の幾何学的関係が研究されている. [[凸ゲーム]] (convex game) のクラスにおいては, 交渉集合がコアおよび安定集合と一致し, シャープレイ値はコアの重心になる. また, カーネルは仁と一致することが知られている. 凸ゲームを含む広いゲームのクラスや他のゲームのクラスにおける解の関係については [5] を参照されたい.

　近年, 公理化のアプローチを多くの提携形ゲームの解概念に用い, 統一的な公理(整合性公理)で解の性質を解明しようとする研究が進んでいる. ある状況 (ゲーム) で解の与える利得分配と, プレイヤー数名が解の与える利得を持ってそのゲームから退出し, 残された状況 (縮小ゲーム) での解の与える利得分配を比較する. 整合性公理は, この両方の状況での解の与える利得分配が一致することを要請している. このとき, 残されたプレイヤーへの退出プレイヤーの協力の形態により縮小ゲームの構造が異なり, この縮小ゲームの差異を基に, コア, 準仁, 準カーネル, シャープレイ値などの整合性公理による公理化が研究されている. この分野に関しては例えば [6] を参照.

　なお, 提携形ゲーム全般の詳しい解説は [10], [7] などを参照されたい. また, [1] のいくつかの章には, 提携形ゲームに関するトピックがテーマごとに詳細にまとめられており参考になる.

----
'''参考文献'''

[1] R. J. Aumann and S. Hart, eds., ''Handbook of Game Theory Volume I, Volume II'', North-Holland, 1992, 1994.

[2] R. J. Aumann and M. Maschler, "The Bargaining Set for Cooperative Games," in ''Advances in Game Theory'', M. Dresher, L. S. Shapley and A. W. Tucker, eds., Princeton University Press, 1964.

[3] R. J. Aumann and M. Maschler, "Game Theoretic Analysis of a Bankruptcy Problem," ''Journal of Economic Theory'', '''36''' (1985), 195-213.

[4] M. Davis and M. Maschler, "The Kernel of a Cooperative Game," ''Naval Research Logistics Quarterly'', '''12''' (1965), 223-259.

[5] T. S. H. Driessen, ''Cooperative Games, Solutions and Applications'', Kluwer Academic Publishers, 1988.

[6] T. S. H. Driessen, "A Survey of Consistency Properties in Cooperative Game Theory," ''SIAM Review'', '''33''' (1991), 43-59.

[7] 岡田章, 『ゲーム理論』, 有斐閣, 1996.

[8] D. Schmeidler, "The Nucleolus of a Characteristic Function Game," ''SIAM Journal of Applied Mathematics'', '''17''' (1969), 1163-1170.

[9] L. S. Shapley, "A Value for n-Person Games," in ''Contributions to the Theory of Games II'', H. Kuhn and A. W. Tucker, eds., Princeton University Press, 1953.

[10] 鈴木光男, 『新ゲーム理論』, 勁草書房, 1994.

[11] 鈴木光男, 武藤滋夫, 『協力ゲームの理論』, 東京大学出版会, 1985.

[12] J. von Neumann and O. Morgenstern, ''Theory of Games and Economic Behavior, 3rd ed.'', Princeton University Press, 1953.

《進化と学習のゲーム理論》

2007-07-16T14:19:22Z

220.104.197.230:

'''【しんかとがくしゅうのげーむりろん (evolutionary game theory and learning in game theory) 】'''

　伝統的な[[ゲーム理論]]では, 他の[[プレイヤー]]の[[利得関数]]などゲームの構造を熟知した「合理的」なプレイヤー像を想定してきた. そして, [[非協力ゲーム理論]]における中心的な解である[[ナッシュ均衡]]は, このような合理的なプレイヤーの[[利得 (ゲームの)|利得]]最大化行動の結果達成されると考えられてきた. しかしながら, ゲーム理論の考察の対象は, 必ずしも合理的な意思決定主体に限られない. 実際, ゲームの構造を完全には知らず, ある一定の行動規則に従って行動する「[[限定合理的]]」なプレイヤーを想定し, 彼らの意思決定の過程を記述する様々な動学モデルが存在する. そして, これらの動学モデルの定常状態はナッシュ均衡と密接な関連があることが明らかになってきている. 本項目では, この種の動学モデルのうち代表的なものとして, 1　[[自己複製子動学]] (replicator dynamics), 2　[[確率的進化 (ゲーム理論における)|確率的進化]] (stochastic evolution), 3　[[仮想プレイ]] (fictitious play) の3つをとりあげて解説する.

1　自己複製子動学：<math>n\times n\, </math> 行列 <math>A\, </math> をプレイヤー1の利得行列とし, <math>A\, </math>の転置行列<math>A^{\top}\, </math>をプレイヤー2の利得行列とする2人ゲーム<math>G\, </math>(以下, 2人対称ゲームと呼ぶ)が, 非常に大きな母集団からその都度ランダムに選ばれた2人のプレイヤーによって, 繰り返しプレイされる状況を考える. 時点 <math>t\, </math> において, 母集団の中で[[純戦略]] <math>i\, </math> (<math>i=1, \dots, n\, </math>) をとるプレイヤーの比率を <math>x_i(t)\, </math>とする. <math>x(t)=(x_1(t), \dots, x_n(t))\, </math>の全体を<math>{\mathit\Delta}^n\, </math> とする. <math>{\mathit\Delta}^n=\{x(t)=(x_1(t), \dots, x_n(t)) | x_1(t)+\cdots+x_n(t)=1, x_1(t), \dots, x_n(t)\ge 0\}\, </math>である. このとき, <math>{\mathit\Delta}^n\, </math> 上の微分方程式系

<center>
<math>\frac{\dot x_i}{x_i}=(Ax)_i-x\cdot Ax\, </math>
</center>

を自己複製子動学という. ここで, "<math>\cdot\, </math>" は内積を, <math>(Ax)_i\, </math> は <math>Ax\, </math> の第 <math>i\, </math> 成分をあらわす. これは, 純戦略 <math>i\, </math> を使うプレイヤーの成長率が, その戦略を使ったときの利得とすべての戦略の利得の平均値との差であるというモデルである. このモデルは, 数理生物学においてダーウィン的自然選択の自然なモデル化とみなされている.

　いま, もとの2人対称ゲームにおいて, [[混合戦略]]の組<math>(x, x), x\in{\mathit\Delta}^n\, </math>, がナッシュ均衡, 即ち, 任意の<math>y\in{\mathit\Delta}^n\, </math>に対して, <math>x\cdot Ax \ge y\cdot Ax\, </math> であり, さらに, <math>x\cdot Ax=y\cdot Ax\, </math> である任意の <math>y\in{\mathit\Delta}^n\, </math>に対して, <math>x\cdot Ay >y\cdot Ay\, </math> となるとき, 戦略<math>x\, </math>を[[進化的安定戦略]] (evolutionarily stable strategy) という. 進化的安定戦略であるための条件は, 十分小さな<math>\epsilon >0\, </math>に対して, <math>x\cdot Az>y\cdot Az\, </math>, ただし<math>z=(1-\epsilon)x+\epsilon y\, </math>, と書き変えることができ, 他の戦略yの進入に対して<math>x\, </math>が安定であることを表している. 進化的安定戦略<math>x\, </math>は自己複製子動学において漸近安定である, つまり, <math>x\, </math>においてどのような小さな摂動を受けたとしても, それが十分小さければまた<math>x\, </math> に戻る動きが導かれる, ことが示されている. 自己複製子動学とナッシュ均衡の関係などより詳しくは, [3], [9] を参照.

2　確率的進化：前項と同様, <math>n\times n\, </math> 行列 <math>A\, </math>をプレイヤー1の利得行列とし, <math>A\, </math>の転置行列<math>A^{\top}\, </math>をプレイヤー2の利得行列とする2人対称ゲーム <math>G\, </math> を考え, このゲーム<math>G\, </math>が, <math>N\, </math>人 (<math>N>2\, </math>)の母集団からその都度ランダムに選ばれた2人のプレイヤーによって繰り返しプレイされるとする.

　まず, 動学過程の状態集合として <math>\textstyle S=\{s=(s_1, \dots, s_n)|\sum_is_i=N, s_i\, </math>\ は自然数<math>\}\, </math> をとる. <math>s_i\, </math> は純戦略 <math>i\, </math> (<math>i=1, \ldots, n\, </math>) をとるプレイヤーの人数である. 任意の <math>s\in S\, </math> および <math>i\, </math> (<math>i=1, \ldots, n\, </math>)について, <math>\textstyle x_i(s)=\frac{1}{N-1}(s_1, \dots, s_i-1, \dots, s_n)\in{\mathit\Delta}^n\, </math> とする. <math>x_i(s)\, </math> は, プレイヤー <math>i\, </math> から見た状態 <math>s\, </math> における他者の戦略分布である. <math>t\, </math> 期の状態が <math>s\in S\, </math> とき, 戦略 <math>i\, </math> をとるプレイヤーは <math>t+1\, </math> 期に, 確率 <math>1-\epsilon\, </math>で<math>x_{i}(s)\, </math>に対する[[最適反応 (ゲーム理論における)|最適反応]]戦略<math>s\, </math>を選択し, 確率 <math>\epsilon\, </math> である外生的に与えられた確率分布 <math>q=(q_1, \dots, q_n)\, </math>にしたがって戦略を選択するものとする. ここで, <math>\epsilon>0\, </math> かつ <math>q_1, \dots, q_n>0\, </math> である. これは, 戦略の選択にあたって確率 <math>\epsilon\, </math> で「ミス」または「突然変異」が起こることを表している.

　このモデルは状態の集合 <math>S\, </math> 上の唯1つの定常確率分布 <math>\mu_\epsilon\, </math>を持つ有限マルコフ連鎖を導く. いま, <math>\epsilon\to 0\, </math> としたときの極限分布<math>\textstyle \mu^*=\lim_{\epsilon\to 0}\mu_\epsilon\, </math> について, <math>\mu^*(s)>0\, </math> となる状態<math>s\, </math>を確率的安定状態という. 確率的安定状態に対応するゲーム <math>G\, </math>の戦略分布は, この動学過程を十分長期に観察した場合に, 最も頻繁に観察される戦略分布である. 確率的安定状態の集合は, <math>\epsilon=0\, </math>の場合のこの過程の再帰集合の1つとなる. <math>\epsilon=0\, </math>の場合の再帰集合は一般に複数個存在するので, 確率的安定性は複数の再帰集合から「もっとも起こりやすい」ものを1つ特定することとなる. 特に, <math>G\, </math>が[[狭義ナッシュ均衡]]を複数個持つ場合, 一般にこの中の唯1つが確率的安定状態に対応する. 従って, 確率的安定性により複数個の狭義ナッシュ均衡から1つを選び出すことができる. 確率的安定な状態に対応するナッシュ均衡を, [[確率的安定均衡 (ゲーム理論の)|確率的安定均衡]] (stochastically stable equilibrium)という. 確率的進化については, [2], [7], [8], [10] が詳しい.

3　仮想プレイ：<math>n\, </math> 人[[戦略形ゲーム]] <math>G=(N=\{1, \ldots, n\}, S_1, \ldots, S_n, u_1, \ldots, u_n)\, </math> が <math>t=1, 2, \ldots\, </math>の各期にプレイされる状況を考える. <math>t\, </math> 期に実現した戦略の組を <math>x^t=(x^t_1, \dots, x^t_n)\, </math> とすると, <math>t\, </math> 期までにとられた戦略の組の列 <math>h^t=(x^1, \dots, x^t)\, </math> によってプレイヤー <math>j\, </math> が戦略集合 <math>S_j\, </math> の各戦略を<math>t\, </math>期までにとった頻度の分布が定まる. これを<math>p_j^t\, </math>で表す.

　<math>p_{-i}^t\, </math> を <math>i\, </math>以外のプレイヤー<math>j\, </math>に関する <math>p_j^t\, </math> の直積分布とする. 各プレイヤー <math>i\, </math> が, <math>t+1\, </math> 期において <math>p_{-i}^t\, </math> に対する最適反応戦略 <math>x^{t+1}_i\, </math> をプレイすることにより, <math>x^{t+1}=(x^{t+1}_1, \dots, x^{t+1}_n)\, </math> が定まる. <math>t=1\, </math> 期の戦略は初期状態として外生的に与えられるとする. 以上のように戦略が選択されていく動学過程を仮想プレイとよぶ.

　任意の <math>i\, </math> について <math>\textstyle p_{i}^*=\lim_{t\to\infty}p_{i}^t\, </math> が存在するとき, 仮想プレイは収束するという. 仮想プレイが収束するならば, <math>(p_{1}^*, \dots, p_{n}^*)\, </math> はゲーム <math>G\, </math> のナッシュ均衡である. 2人ゼロ和ゲームや2人のプレイヤーがそれぞれ2つの純戦略を持つ <math>2\times 2\, </math> ゲームにおいては, 仮想プレイは収束することが知られているが, 一般には仮想プレイは収束するとは限らない. 仮想プレイが収束しないゲームの例として, シャープレイ(L. S. Shapley)の <math>3\times 3\, </math> ゲームの例が有名である. 仮想プレイの詳細および一般化については, [1], [2], [6]が詳しい.

　なお, 他のプレイヤーの戦略などに対する予想を, ゲームの繰り返しを通じて逐次ベイズ的に更新していく合理的なプレイヤーを想定した学習モデルもある. [4] および [5] を参照されたい.

----
'''参考文献'''

[1] D. Fudenberg and D. Kreps, "Learning Mixed Equilibria," ''Games and Economic Behavior'', '''5''' (1993), 320-367.

[2] D. Fudenberg and D. Levine, ''The Theory of Learning in Games'', MIT Press, 1998.

[3] J. Hofbauer and K. Sigmund, ''Evolutionary Games and Population Dynamics'', Cambridge University Press, 1988. 竹内康博, 「生物の進化と微分方程式」, 現代数学社, 1990.

[4] J. S. Jordan, "Bayesian Learning in Normal Form Games," ''Games and Economic Behavior'', '''3''' (1991), 60-81.

[5] E. Kalai and E. Lehrer, "Rational Learning Leads to Nash Equilibria," ''Econometrica'', '''61''' (1993), 1019-1046.

[6] P. Milgrom and J. Roberts, "Adaptive and Sophisticated Learning in Normal Form Games," ''Games and Economic Behavior'', '''3''' (1991), 82-100.

[7] L. Samuelson, ''Evolutionary Games and Equilibrium Selection'', MIT Press, 1997.

[8] F. Vega-Redondo, ''Evolution, Games, and Economic Behavior'', Oxford University Press, 1996.

[9] J. Weibull, ''Evolutionary Game Theory'', MIT Press, 1995. 大和瀬達二監訳, 「進化ゲームの理論」, 文化書房博文社, 1998.

[10] H. P. Young, ''Individual Strategy and Social Structure'', Princeton University Press, 1998.

《展開形ゲーム》

2007-07-16T14:17:02Z

220.104.197.230:

【てんかいけいげーむ (game in extensive form) 】

　[[展開形ゲーム]] (game in extensive form) はプレイヤーの手番の系列を[[ゲームの木]] (game tree) を用いて表現するモデルである. ゲームの木 <math>K\, </math> はグラフ理論でいう有向木で, 木の分岐点はプレイヤーが選択肢を選ぶ手番, 枝は[[プレイヤー]]の選択肢あるいは行動を表す. 木の始点から終点までの経路をゲームの1つのプレイという.

　プレイヤー分割 <math>P=[P_{0}, P_{1}. \cdots, P_{n}]\, </math> は, ゲームの木 <math>K\, </math> の分岐点の全体を <math>n+1\, </math> 個の部分集合に分割する. <math>P_{i}\ (i=1, 2, \cdots, n)\, </math> はプレイヤー <math>i\, </math> の手番の集合を表す. <math>P_{0}\, </math> に含まれる手番は偶然手番とよばれ, プレイヤーの意思とは無関係な偶然機構によって枝が選択される. 天候やトランプゲームでランダムにカードを配るなどは, 偶然手番の典型的な例である. 偶然手番に対しては枝の選択を行なう確率分布 <math>p\, </math> が付与される.

　ゲームの情報分割 <math>U=[U_{0}, U_{1}, \cdots, U_{n}]\, </math> は,プレイヤー分割<math>P\, </math> の細分割である.各 <math>i=1, 2, \cdots, n\, </math> に対して <math>U_{i}=[u_{i1}, u_{i2}, \cdots, u_{im_{i}}]\, </math>はプレイヤー <math>i\, </math> の手番の集合 <math>P_{i}\, </math> を <math>m_{i}\, </math> 個の非空な部分集合に分割する. <math>U_{i}\, </math> に属する部分集合 <math>u_{ij}\ (j=1, 2, \cdots, m_{i})\, </math> をプレイヤー <math>i\, </math> の[[情報集合]] (information set) という.プレイヤーは行動を選択するとき,自分の手番がどの情報集合に属するかは知っているが,情報集合の中のどの分岐点であるかは知らない.

　ゲームの[[利得関数]] <math>h\, </math> は,ゲームの木 <math>K\, </math> の各終点 <math>z\, </math> に対してプレイヤーの[[利得 (ゲームの)|利得]]ベクトル <math>h(z)=(h_{1}(z), h_{2}(z), \cdots, h_{n}(z))\, </math> を対応させる.

　形式的には, 展開形ゲーム <math>\Gamma\, </math> は以上の5つの要素の組 <math>(K, P, p, U, h)\, </math> によって定義される. これらの5つの構成要素をゲームのルールという.

<center><table><tr><td align=center>[[画像:0072-a-g-04f1-mof.png|center|図１：展開形ゲーム]]</td></tr>
<td align=center>図１：展開形ゲーム</td></table></center>

　展開形ゲームの例として図1を考える.プレイヤー1と2の情報分割はそれぞれ <math>U_{1}=[u_{1}], U_{2}=[u_{21}, u_{22}]\, </math> である.図1では最初にプレイヤー1がRとLの2つの行動のうち1つを選択する. 次に, プレイヤー2はプレイヤー1の選択を知った上で, RとLのうちから1つの行動を選択する.ゲームは4つの終点をもち, 終点に付与されている利得ベクトルは上の数字がプレイヤー1の利得, 下の数字がプレイヤー2の利得を表す.

　図1のゲームのように, プレイヤーのすべての情報集合がただ1つの分岐点から成るゲームを[[完全情報ゲーム]] (game with perfect information) といい, そうでないゲームを不完全情報ゲーム (game with imperfect information) という. 完全情報ゲームでは, すべての手番においてプレイヤーはゲームの過去のプレイの経過を完全に知った上で行動を選択できる. チェスや将棋は完全情報ゲームである.

　展開形ゲームの部分木でそれ自身が展開形ゲームの構造をもつものを部分ゲームという. 図1のゲームは, 情報集合 <math>u_{21}\, </math> と <math>u_{22}\, </math> から始まる2つの部分ゲームをもつ.

　プレイヤー <math>i\, </math> の各情報集合 <math>u\in U_{1}\, </math> に対して <math>u\, </math> における選択肢の集合上の1つの確率分布 <math>b_{i}(u)\, </math> を対応させる関数 <math>b_{i}\, </math> をプレイヤー <math>i\, </math> の[[行動戦略]] (behavior strategy) という. 特に, すべての情報集合に対して1つの選択肢を確定的に対応させる行動戦略を[[純戦略]]という.

　例えば, 図1のゲームにおいて, プレイヤー1の純戦略 <math>\pi_{1}\, </math> はRとLの2通りであり, プレイヤー2の純戦略 <math>\pi_{2}\, </math> は, RR, RL, LR, LLの4通りである. ただし, 前の文字は情報集合 <math>u_{21}\, </math> でとる行動, 後の文字は情報集合 <math>u_{22}\, </math> でとる行動を表す. 図1の展開形ゲームから, プレイヤーの純戦略と利得の関係によって図2のような[[戦略形ゲーム]]を作ることができる.

<center><table width="310" border="1" cellspacing="2" cellpadding="0">
<tr>
<td width="30"><br></td>
<td>
<table width="280">
<tr>
<td align="center" width="70">LL</td>
<td align="center" width="70">LR</td>
<td align="center" width="70">RL</td>
<td align="center" width="70">RR</td>
</tr>
</table>
</td>
</tr>
<tr>
<td align="center">R</td>
<td>
<table width="280">
<tr>
<td align="center" width="70">1, 1*</td>
<td align="center" width="70">1, 1*</td>
<td align="center" width="70">-2, 0</td>
<td align="center" width="70">-2, 0</td>
</tr>
</table>
</td>
</tr>
<tr>
<td align="center">L</td>
<td>
<table width="280">
<tr>
<td align="center" width="70">-1, 0</td>
<td align="center" width="70">0, 1</td>
<td align="center" width="70">-1, 0</td>
<td align="center" width="70">0, 1*</td>
</tr>
</table>
</td>
</tr>
</table><br>図2：図1の展開形ゲームから作られた戦略形ゲーム</center>

　プレイヤーの行動分析のための最も基本的なゲームの解の概念は, ナッシュ (J. F. Nash) によって定義された非協力均衡点である. 一般に[[ナッシュ均衡]]と呼ばれている. 展開形ゲームの行動戦略の組 <math>b^{*}=(b_{1}^{*}, b_{2}^{*}, \cdots, b_{n}^{*})\, </math> がナッシュ均衡であるとは,すべてのプレイヤー <math>i=1, 2, \cdots, n\, </math> のすべての行動戦略 <math>b_{i}\, </math> に対して,

<center>
<math>H_{i}(b^{*}) \ge H_{i}(b^{*}/b_{i})\, </math>
</center>
　

が成り立つことである. ただし, <math>b^{*}/b_{i}\, </math> は <math>b^{*}\, </math> からプレイヤー <math>i\, </math> だけが戦略を <math>b_{i}^{*}\, </math> から <math>b_{i}\, </math> に変更してできる行動戦略の組を表し, <math>H_{i}\, </math> はプレイヤー i の期待利得関数を表す.

　完全情報ゲームのナッシュ均衡は, 最初に, 終点に一番近い分岐点で, その手番のプレイヤーの利得を最大にする最適戦略を求め, 以下順次, ゲームの木を後向きに解くことによって計算できる. 例えば, 図1のゲームで情報集合 <math>u_{21}\, </math> と <math>u_{22}\, </math> におけるプレイヤー2の最適戦略はそれぞれLとRである. このとき, 情報集合 <math>u_{1}\, </math> におけるプレイヤー1の最適戦略はRであり, 純戦略の組 (R, LR) はゲームのナッシュ均衡である. このようなナッシュ均衡の計算方法を, ゲームの後向き帰納法という. キューン (H. Kuhn) は, <math>n\, </math> 人完全情報ゲームは純戦略の範囲で少なくとも1つのナッシュ均衡をもつことを証明した [1].

　図1のゲームは (R, LR) の他に図2の利得行列で＊をつけたナッシュ均衡をもつ. しかし, これらのナッシュ均衡は均衡プレイ上にない分岐点ではプレイヤーの最適戦略を導かないという欠点をもつ. ゼルテン (R. Selten) はナッシュ均衡のこのような欠点を解消するために, より強い均衡概念として, すべての部分ゲーム上にナッシュ均衡を導く[[部分ゲーム完全均衡]] (subgame perfect equilibrium) を定義した [3].

　ゼルテンの研究以後, 展開形ゲームの理論は大きく進展し, 現在, ゲーム状況におけるプレイヤーの戦略的行動を解明する基礎理論としてORや経済学を始め広範囲の分野に応用されている.

　展開形ゲームについて詳しくは, [2] を参照されたい.

----
'''参考文献'''

[1] H. W. Kuhn, "Extensive Games and the Problem of Information," in H. W. Kuhn and A. Tucker(eds.), ''Contributions to the Theory of Games'', Vol. II, Annals of Mathematics Studies 28, Princeton University Press, 1953, 193-216.

[2] 岡田章, 『ゲーム理論』, 有斐閣, 1996.

[3] R. Selten, "Reexamination of the Perfectness Concept for Equilibrium Points in Extensive Games," ''International Journal of Game Theory'', '''4''' (1975), 25-55.

《戦略形ゲーム》

2007-07-16T14:15:30Z

220.104.197.230:

'''【せんりゃくけいげーむ (game in strategic form) 】'''

　ゲームに参加する[[プレイヤー]]の集合を<math>N\, </math>, 各プレイヤー<math>i\, </math>のとりうる[[戦略 (ゲーム理論における)|戦略]]の全体を<math>S_i\, </math>, および<math>S=S_1 \times \cdots \times S_n\, </math> 上で定義された各プレイヤー<math>i\, </math> の[[フォンノイマン・モルゲンシュテルン効用関数]] (von Neumann-Morgenstern utility function) を<math>u_i\, </math> とするとき,

<center>
<math>G=(N; S_1, \ldots , S_n; u_1, \ldots , u_n)\, </math>
</center>

を[[戦略形ゲーム]] (game in strategic form) または[[標準形ゲーム]] (game in normal form) という. <math>N\, </math> と<math>S_i\, </math> がすべて有限集合であるとき, <math>G\, </math> を有限ゲームという. 効用関数<math>u_i\, </math> は, また[[利得関数]] (payoff function) ともいい, その値を利得という.

　戦略形で書かれたゲームは, 特にことわらない限り[[非協力ゲーム]]である. 戦略の数が有限な2人ゲームは次のような[[利得双行列 (ゲームの)|利得双行列]] (payoff bimatrix) で表現することができるので, [[双行列ゲーム]] (bimatrix game) ということがある.

<center>
[[スタイル検討#戦略形ゲーム (0071-a-g-03-1)|スタイル検討]]
</center>

　ここに, 縦の<math>1, \ldots, m\, </math>はプレイヤー1の戦略, 横の<math>1, \ldots, n\, </math>はプレイヤー2の戦略であり, <math>a_{ij}, b_{ij}\, </math> は, プレイヤー1, 2が各々戦略<math>i, \ j\, </math>をとったときの, プレイヤー1, 2の利得である. <math>a_{ij}\, </math>を成分とする行列を<math>A\, </math>, <math>b_{ij}\, </math>を成分とする行列を<math>B\, </math>と表し, 利得双行列を簡単に<math>(A, B)\, </math>と表す. すべての<math>i, \ j\, </math>について, <math>a_{ij} + b_{ij} = 0\, </math>となる場合が[[2人ゼロ和ゲーム]] (two-person zerosum game) の戦略形である. 行列<math>B\, </math>は<math>A\, </math>の符号を変えたものであり, 行列<math>A\, </math>だけでゲームを記述できるので2人ゼロ和ゲームを[[行列ゲーム]] (matrix game) ということもある.

　双行列ゲーム<math>(A, B)\, </math>において, 各プレイヤーの[[混合戦略]] (mixed strategy) を各々<math>p=(p_1, \ldots , p_m)\, </math>, <math>q=( q_1, \ldots , q_n)\, </math> とすると, 各プレイヤーの利得の期待値 (期待利得) は各々 <math>pAq^{\top}\, </math> および <math>pBq^{\top}\, </math> で与えられる. <math>q^{\top}\, </math>は<math>q\, </math>の転置ベクトルを表す. また, 混合戦略に対してもとの戦略を[[純戦略]] (pure strategy) という. [[ナッシュ均衡]] <math>(p^*, q^*)\, </math>は, [[非協力ゲーム理論]]の項で述べた定義によって,

<center>
<math>p^*Aq^{*\top} \ge pAq^{*\top}, \ p^*Bq^{*\top} \ge p^*Bq^{\top}, \ \mbox{ for all } p, \ q \, </math>
</center>

をみたす混合戦略の組である. とくに, ゼロ和ゲームでは, <math>B=-A\, </math>であるから

<center>
<math>pAq^{*\top} \le p^*Aq^{*\top} \le p^*Aq^{\top} , \ \ \mbox{ for all } p, \ q \, </math>
</center>

となり, これから[[ミニマックス定理 (ゲーム理論における)|ミニマックス定理]] (minimax theorem)　

<center>
<math>\mbox{max}_{p} \mbox{min}_{q} \ pAq^{\top} \ =\ \mbox{min}_{q}\mbox{max}_{p}\ \ pAq^{\top} \, </math>
</center>

が導かれ, さらにこの値は<math>p^*Aq^{*\top}\, </math>に等しい. 左辺の値をマックスミニ値 (maxmin value), 右辺の値をミニマックス値(minimax value), さらに, この共通の値を[[ゲームの値]] (value of a game) という. また, このときの戦略<math>p^*, \ q^*\, </math>を各々[[マックスミニ戦略]] (maxmin strategy), [[ミニマックス戦略]] (minimax strategy) という.
　次に示すのは, 左が囚人のジレンマ (prisoner's dilemma), 右が逢い引きのジレンマ (battle of the sexes) という名で知られる有名な双行列ゲームである.

<center>
[[スタイル検討#戦略形ゲーム (0071-a-g-03-2)|スタイル検討]]
</center>

囚人のジレンマでは, 純戦略の組 <math>(d, \ d)\, </math>のみが, また, 逢い引きのジレンマでは, 純戦略の組 <math>(a, \ a)\, </math>および<math>(b, \ b)\, </math>と, 混合戦略の組 <math>((2/3, 1/3)\, </math>, <math>(1/3, 2/3))\, </math>がナッシュ均衡である. とくに, 囚人のジレンマのナッシュ均衡では, 戦略<math>d\, </math>は相手のすべての戦略に対する[[最適反応 (ゲーム理論における)|最適反応]] (best reply) となっている. このようなナッシュ均衡を, [[支配戦略]]均衡 (dominant strategy equilibrium) ということがある. 逢い引きのジレンマには支配戦略は存在しない. また, 逢い引きのジレンマでは, 混合戦略ナッシュ均衡における利得の組<math>(2/3, \ 2/3)\, </math>は, たとえば純粋戦略ナッシュ均衡<math>(a, \ a)\, </math>における利得の組<math>(2, \ 1)\, </math>に対して各プレイヤーについて劣っている. このとき, 利得の組<math>(2/3, \ 2/3)\, </math>は<math>(2, \ 1)\, </math>に[[パレート支配]] (Pareto dominate) されるという.

　戦略形ゲームにおいて, もし, 各プレイヤーが共通の偶然機構にもとづいて戦略を選ぶことが許されているならば, 各プレイヤーは互いに相関した行動をとることができる. このような戦略を[[相関戦略]] (correlated strategy) という. たとえば, 逢い引きのジレンマで, コインを投げて表が出たら戦略の組<math>(a, \ a)\, </math>, 裏が出たら<math>(b, \ b)\, </math>とすることに2人が合意したとしよう. つまり, 2人とも, 表が出たら<math>a\, </math>をとり, 裏が出たら<math>b\, </math>をとるという相関戦略をとるものとする. このような合意がナッシュ均衡になるとき, すなわち, 相関戦略の組がナッシュ均衡となっているとき, これを[[相関均衡]] (correlated equilibrium) という. 上に述べた相関戦略の組は相関均衡であり, 2人の期待利得はともに<math>3/2\, </math>となることが容易にわかる. また, 混合戦略均衡は互いに独立な相関戦略からなる相関均衡にほかならない. 相関均衡の正式な定義については, たとえば [3] など参照. 　

　以上のゲームでは, 戦略形<math>G\, </math>についての知識がすべてのプレイヤーの間で[[共有知識]] (common knowledge) であると仮定されており, これらは[[完備情報ゲーム]] (game with complete information) といわれている. 他方, 不完備情報ゲームはハルサーニ(J. C. Harsanyi) [2] の定式化によって分析できるようになった. たとえば, 利得関数<math>u_i\, </math>に関する情報が不完備な場合は, まず有限個のパラメター<math>t_{i1}, t_{i2}, \ldots, t_{ik} \in T_i\, </math>を導入し, プレイヤー<math>i\, </math>の利得関数は, そのタイプによって, 有限個の利得関数<math>u_i(\cdot|t_{i1}), u_i(\cdot| t_{i2}), \ldots, u_i(\cdot| t_{ik})\, </math> (以下, まとめて<math>u_{i}(\cdot|t_{i})\, </math>と表す. )のうちのどれか1つに定まる, と定式化し直すことにより, <math>u_{i}\, </math>に関する不完備情報を表現する. この<math>t_i \in T_i\, </math>をプレイヤー<math>i\, </math>のタイプという. 各プレイヤー<math>i\, </math>は自分はどのタイプであるかを知っているが, 他のプレイヤーのタイプは知らない. ただし, 他のすべてのプレイヤーのタイプ<math>t_{-i} = (t_1 , \ldots, t_{i-1}, t_{i+1}, \ldots , t_n )\, </math>について条件付き確率<math>p_i(t_{-i}|t_i)\, </math>によって<math>t_{-i}\, </math>を推測することができるとする. こうして, 新たな戦略形ゲーム

<center>
<math>G'= (N, S_1, \ldots , S_n;
p_1, \ldots , p_n; T_1, \ldots, T_n;
u_1(\cdot|t_1), \ldots , u_n(\cdot|t_n))\, </math>
</center>

がえられる. これを[[ベイジアンゲーム]] (Bayesian game) という. また, 関数<math>s_i : T_i \rightarrow S_i\, </math>をベイジアンゲームの戦略という. すなわち, プレイヤー<math>i\, </math>は, 自分のタイプを知ってはいるが, どのタイプであったとしてもそのもとでの行動を指定しておくことがこの場合の戦略である. するとナッシュ均衡は, すべてのプレイヤー<math>i\, </math>とタイプ<math>t_i\, </math>および<math>a_{i} \in S_{i}\, </math> について次の条件をみたす戦略の組<math>s^*=(s^*_1, \ldots , s^*_n)\, </math>である. この戦略の組を, [[ベイジアンナッシュ均衡]] (Bayesian Nash equilibrium) という.

<center>
<math>\sum_{t_{-i} \in T_{-i}} u_i(s^*(t)|t_i)p_i(t_{-i}|t_i)
\ \ge\ \sum_{t_{-i} \in T_{-i}} u_i(s^*_{-i}(t_{-i}), a_i
| t_i)p_i(t_{-i}|t_i)\, </math>
</center>

ただし, <math>s^*(t)=(s^*_{-i}(t_{-i}), s^*_i(t_i))=(s^*_1(t_1), \ldots, s^*_n(t_n))\, </math>である. ベイジアンゲームは, 80年代以降, 情報経済学や産業組織論などの新しい分野の発展に大きく貢献している. これについてはたとえば, [1] を参照.

----
'''参考文献'''

[1] R. Gibbons, ''Game Theory for Applied Economists'', Princeton University Press, 1992.

[2] J. C. Harsanyi, "Games with Incomplete Information Played by `Bayesian' Players, parts I, II and III", ''Management Science'', '''14''' (1967-8), 159-182, 320-334, 486-502.

[3] M. J. Osborne and A. Rubinstein, ''A Course in Game Theory'', MIT Press, 1994.

《非協力ゲーム理論》

2007-07-16T14:12:13Z

220.104.197.230:

'''【ひきょうりょくげーむりろん (noncooperative game theory) 】'''

　[[プレイヤー]]間で拘束的な協定をむすぶことが可能なゲームを[[協力ゲーム]], そうでないゲームを非協力ゲームといい, 非協力ゲームを扱う理論を[[非協力ゲーム理論]] (noncooperative game theory) という. 拘束的協定とは, ゲームの外部から付与された拘束力をともなう協定であって, たとえば違反した場合にしかるべきペナルティが課せられるために従わざるをえないような協定である. それゆえ, 協力ゲームでは拘束的協定のもとでプレイヤーたちは提携}{提携} を組んで行動することができるが, 非協力ゲームではプレイヤーたちは個々独立に意思決定し, 束縛されずに自由なコミュニケーションや取り決めをすることが許されている. これらのことは普通モデルに明記されないので注意が必要である.

　フォンノイマン (J. von Neumann) が1928年に[[ミニマックス定理 (ゲーム理論における)|ミニマックス定理]]を証明することによって解決した, ゲーム理論の出発点に位置する[[2人ゼロ和ゲーム]]は最もよく知られた非協力ゲームであり, 勝つか負けるかという完全な利害対立状況を記述するものである([8]). これに対して, ナッシュ (J. F. Nash) が1950年に創始した一般の非協力ゲームでは, 有名な[[囚人のジレンマ]]などにみられるように, 利害は完全に対立するとはかぎらない. そのためゼロ和という条件に縛られないので, 今日, 経済学を中心とする社会科学や生物学などに広く応用されている. 非協力ゲーム理論とは, 普通, このナッシュの理論をいう([5]).

　ナッシュはさらに, 合理的主体間の交渉や契約などの協力行動, つまり, 協力ゲームは, 一般に適切な非協力ゲームに還元して分析するべきであるという方法論上の提案をしたが, これは現在[[ナッシュプログラム]] (Nash program) として知られている([5]). 1994年のノーベル経済学賞は, あとで述べるようにこの方法論が経済分析に果たした貢献が評価されて, ナッシュ, ハルサーニ (J. C. Harsanyi) およびゼルテン (R.Selten) に対して与えられたものである.

　非協力ゲームは, <math>G=(N; S_1,\ldots ,S_n; u_1,\ldots ,u_n)\, </math> のように形式的に表現することができる. このように表現されたゲームを[[戦略形ゲーム]]という. ここに<math>N\, </math>はプレイヤーの集合, <math>S_i\, </math>はプレイヤー<math>i\, </math>の[[戦略 (ゲーム理論における)|戦略]]の集合, <math>u_i\, </math>は<math>S=S_1 \times \cdots \times S_n\, </math>上で定義されたプレイヤー<math>i\, </math>の[[フォンノイマン・モルゲンシュテルン効用関数]]である. <math>N\, </math>とすべての<math>S_i\, </math>が有限集合であるとき, ゲーム<math>G\, </math>を有限ゲーム, そうでないとき無限ゲームという. また, <math>N=\{1,2\}, \ u_1 (s)+u_2 (s) = 0\ \mbox{ for all } s=(s_1, s_2) \in S_1 \times S_2\, \, </math> , が成り立つゲーム<math>G\, </math>が[[2人ゼロ和ゲーム]]である.

　非協力ゲームの[[ナッシュ均衡]] (Nash equilibrium) とは, 次のような[[混合戦略]]の組である. <math>\Delta S_i\, </math>でプレイヤー<math>i\, </math>の混合戦略の集合をあらわし, 混合戦略の組<math>x=(x_1, \ldots , x_n) \in \Delta S= \Delta S_1 \times\cdots \times \Delta S_n\, </math> のもとでのプレイヤー<math>i\, </math>の効用の期待値（期待効用）を<math>U_i(x)\, </math>であらわそう. このとき, 混合戦略の組<math>x^*=(x^{*}_{1}, \ldots , x^*_n ) \in \Delta S\, </math>がナッシュ均衡であるとは, すべてのプレイヤーiに対して

<center>
<math>U_i (x^*) \ge U_i (x^*_1 ,\ldots , x^*_{i-1}, x_i, x^*_{i+1},\ldots , x^*_n )\ \mbox{ for all } x_i \in \Delta S_i\, </math>
</center>

となることである. このように, ナッシュ均衡においては, 各プレイヤーの戦略は他のすべてのプレイヤーの戦略に対する最適な反応であり, 独立に行動する各プレイヤーは, 外的な拘束力がなくても, 他の戦略に切り替えることなくそこに留まることになる.

　混合戦略まで考えた有限ゲームや, 各<math>S_i\, </math> がコンパクト凸集合で, 各効用関数<math>u_i\, </math> が連続かつ<math>x_i\, </math>に関して準凹であるような無限ゲームがナッシュ均衡をもつことは, ブラウワーや角谷の不動点定理によって証明することができる. また, 2人ゼロ和ゲームのナッシュ均衡は, [[マックスミニ戦略]]と[[ミニマックス戦略]]の組であることも容易に確かめることができる. こうして, ナッシュによる均衡の存在定理は, [[ミニマックス定理 (ゲーム理論における)|ミニマックス定理]]の拡張になっていることがわかる.

　非協力ゲームの研究はその後, シャープレイ (L. S. Shapley) の[[確率ゲーム]] (stochastic game) ([7])やキューン (H. W. Kuhn)の[[展開形ゲーム]] ([4]), 無限回[[繰り返しゲーム]] (repeated game) の[[フォーク定理]] (folk theorem) ([1]), 連続時間上の動学を考える[[微分ゲーム]] (differential game) などの理論展開に続いて, ハルサーニによる[[不完備情報ゲーム]] (game with incomplete information) への拡張([2])やゼルテンの[[完全均衡]] (perfect equilibrium) ([6])などを産出した. さらに80年代に入ってからの[[逐次均衡]] (sequential equilibrium) ([3])という技術的展開も加わって, 産業組織論や情報経済学などの経済学の分野に新しい分析方法を確立し, 重要な研究領域を切り開くことになった.

　また, [[進化的安定戦略]]の名で知られる戦略は, 進化生物学においてナッシュ均衡のひとつの精緻化として生まれたものであり, 逆にこれに影響されて80年代に発展したのが[[進化ゲーム理論]]と呼ばれる非協力ゲーム理論である. 進化ゲーム理論におけるプレイヤーは, 通常のゲームにおけるように, 完全な合理性を備えた意思決定主体ではなく, むしろ思考せずにあらかじめ決められた行動のみを一定の手順でとるオートマトン, ないしアルゴリズムである. 自然界において, 特定の遺伝子が淘汰されずに優勢になっていくように, 進化ゲームでは進化的に安定なアルゴリズム（戦略）が動学的な均衡点になることが知られている. このように, 進化ゲームは合理的推論によらない均衡選択の可能性を示しており, これがきっかけとなって, 90年代以降, プレイヤーの[[限定合理性]] (bounded rationality) と, プレイヤーの[[学習 (ゲーム理論における)|学習]]による均衡選択の研究が精力的になされるようになった. この限定合理的な行動による均衡選択というアイディアの原型は, 実はナッシュ自身が彼の最初の論文の削除された章で述べていたことが知られている.

----
'''参考文献'''

[1] R. Axcelrod, ''The Evolution of Cooperation'', Basic Books, 1984.

[2] J. C. Harsanyi, "Games with Incomplete Information Played by `Bayesian' Players, parts I,II and III," ''Management Science'', '''14''' (1967-8), 159-182, 320-334, 486-502.

[3] D. M. Kreps and R. Wilson, "Sequential Equilibria," ''Econometrica'', '''50''' (1982), 863-894.

[4] H. W. Kuhn, "Extensive Games and the Problem of Information," in ''Contributions to the Theory of Games II, Annals of Mathematics Studies'', '''28''', H. W. Kuhn and A. W. Tucker, eds., Princeton University Press, 1953.

[5] J. F. Nash, Jr, ''Essays on Game Theory'', Edward Elgar, 1996

[6] R. C. Selten, "Reexamination of the Perfectness Concept for Equilibrium Points in Extensive Games," ''International Journal of Game Theory'', '''4''' (1975), 25-55.

[7] L. S. Shapley, "Stochastic Games," ''Proceedings of the National Academy of Sciences of the United States''}, '''39''' (1953), 1095-1100.

[8] J. von Neumann and O. Morgenstern, ''Theory of Games and Economic Behavior. 3rd ed.,'' Princeton University Press, 1953.

《サポート・ベクター・マシン》

2007-07-16T14:09:16Z

220.104.197.230:

'''【さぽーと・べくたー・ましん (support vector machine) 】'''

　サポート・ベクター・マシン (SVM) は, 判別関数を求める教師付き学習法のひとつである.

　今, <math>N\, </math>個の属性を持ったデータが<math>M\, </math>個与えられており,これを,<math>N\, </math>次元空間<math>\boldsymbol{R}^{N}\, </math>の点<math>{ }_{1},{ }_{2},\ldots, { }_{M} \in \boldsymbol{R}^{N}\, </math>と考える. 各点<math>{ }_{j}\ (j=1,2,\ldots,M)\, </math>は2種類のクラスのいづれか一方に属しており, 対応する2値のラベル<math>y_{j} \in \{-1,+1\}\, </math>が与えられているとする. このとき, ラベルの値にしたがって点を判別する2クラスの判別問題を考える.

　SVMでは線形関数を用いた判別を行う. <math>N\, </math>次元の法線ベクトルおよび実数<math>b\,\, </math>で定まる線形関数を<math>f( ) = { }^{T} \ - b\, </math> とすれば, 与えられたデータおよびラベ:ルにしたがって,

<center>
<math>
f({ }_{j}) = { }_{j}^{T}\ - b \left\{
\begin{array}{ll}
> 0 & \mbox{if}\ \ y_{j} = 1,\\
< 0 & \mbox{if}\ \ y_{j} = -1,
\end{array}
\right.\quad j=1,2,\ldots,M
\, </math>　　　　<math>(1)\, </math>
</center>

となるベクトルとスカラ<math>b\, </math>を次に示す最適化問題を解くことで算出する.

　一般的には, 与えられた点全てに対して式 (1) を満たす<math>\,b\, </math>が存在するとは限らないので, 非負の変数<math>\xi_{j}\ (j=1,2,\ldots,M)\, </math>を導入し, 次の制約条件

<center>
<math>
\begin{array}{lll}
{\displaystyle { }_{j}^{T} \ - b + \xi_{j} \geq 1 }
& \mbox{if}& y_{j} = 1, \\
{\displaystyle { }_{j} \ - b - \xi_{j} \leq -1 }
& \mbox{if}& y_{j} = -1
\end{array}
\, </math>　　　　<math>(2)\, </math>
</center>

のもと,<math>\xi_{j}\, </math>の和とのノルムができるだけ小さくなる線形関数を考える. すなわち, 次の二次計画問題を解き<math>\,b\, </math>を算出する [2].

<table align="center">
<tr>
<td>
<table>
<tr>
<td rowspan="4"> <math>\left|
\begin{array}{l}
\\
\\
\\
\\
\\
\\
\end{array} \right.</math></td>
<td>最大化 </td>
<td><math>\textstyle \frac{1}{2}\| \| \frac{2}{2} + C \ {\sum}_{j=1}^{M} \xi_{j}</math></td>
<td rowspan="4">　　　　<math>(3)\, </math></td>
</tr>
<tr>
<td>制約 </td>
<td><math>\textstyle
{ }_{j}^{T} \ - b + \xi_{j} \geq 1,
\quad \mbox{if } y_{j} = 1,</math></td>
</tr>
<tr>
<td></td>
<td><math>\textstyle
{ }_{j}^{T} \ - b - \xi_{j} \leq -1,
\quad \mbox{if } y_{j} = -1,</math></td>
</tr>
<tr>
<td></td>
<td><math>\textstyle
\xi_{j} \ge 0, \quad j=1,2,\ldots,M</math></td>
</tr>
</table>
</td>
</tr>
</table>

ここで,<math>C\, </math>はあらかじめ設定された正の定数で, <math>\textstyle \| \|\frac{2}{2}\, </math>と<math>\textstyle {\sum}_{j=1}^{M} \xi_{j}\, </math>とのバランスをコントロールするパラメータである. また, <math>\textstyle \| \|\frac{2}{2}\, </math>は正則化項とも呼ばれ, これを小さくすることは判別関数に用いるデータの属性を少なくし, 過学習を防ぐ役割があるとされる [6]. 問題 (3) は, 1ノルムソフトマージンSVMと呼ばれる定式化である.

　通常は,この問題の双対問題を考え最適化を行う [5]. <math>\alpha_{1},\alpha_{2},\ldots,\alpha_{M}\, </math> を双対変数とすれば, 問題 (3) の双対問題は

<table align="center">
<tr>
<td>
<table>
<tr>
<td rowspan="4"> <math>\left|
\begin{array}{l}
\\
\\
\\
\\
\\
\end{array} \right.</math></td>
<td>最大化 </td>
<td><math>\textstyle
- \frac{1}{2} \sum_{i=1}^{M}\sum_{j=1}^{M}
y_{i}y_{j}{ }_{i}^{T}{ }_{j}\alpha_{i}\alpha_{j}
+ \sum_{j=1}^{M} \alpha_{j}</math></td>
<td rowspan="4">　　　　<math>(4)\, </math></td>
</tr>
<tr>
<td>制約 </td>
<td><math>\textstyle \sum_{j=1}^{M} y_{j} \alpha_{j}= 0,</math></td>
</tr>
<tr>
<td></td>
<td><math>0 \leq \alpha_{j} \leq C,\quad j=1,2,\ldots,M</math></td>
</tr>
</table>
</td>
</tr>
</table>

と書くことができ, これは1本の等式制約と各変数の上下限制約のみの凹二次関数の最大化となる. この特殊構造を用いた最適化アルゴリズム [3, 4] が知られており, データ数<math>(M)\, </math>が数10万を超えるような大規模問題であっても, 高速に最適化が可能である.

　双対問題 (4) の最適解を<math>\alpha^{*}_{1},\alpha^{*}_{2},\ldots,\alpha^{*}_{M}\, </math>とすれば,KKT条件より主問題 (3) の最適解<math>^{*},b^{*}\, </math>とは, <math>\textstyle ^{*} = \sum_{j=1}^{M} \alpha_{j}^{*} y_{j} { }_{j}\, </math>となる関係があり, さらに<math>0<\alpha_{k}^{*}<C\, </math>となる添え字を<math>k\, </math>とすれば, <math>b^{*} = { }^{T}_{k} \ ^{*}-y_{k}\, </math>となることが示される. また, 特に添え字の集合<math>SV=\{j|\alpha_{j}^{*} \not = 0 \}\, </math>を定義すれば,<math>j \in SV\, </math>に対応するデータ<math>{ }_{j}\, </math>をサポート・ベクターと呼ぶ.したがって, 判別関数は双対問題の最適解とサポート・ベクターにより次のように表されることとなる.

<center>
<math> f( ) = { }^{T} \ ^{*} - b^{*}
= \sum_{j \in SV} \alpha_{j}^{*} y_{j}^{T} { }_{j} - b^{*}\, </math>　　　　　<math>(5)\, </math>
</center>

さらに, 双対問題 (4) や主問題 (3) は, サポート・ベクター以外を全て取り除いても最適解は不変であり, これらの点はSVMでの判別にはまったく寄与していないことになる.

　SVMの最大の特徴は, 双対問題(4)を応用することで非線形な判別関数を構成できる点にある. 非線形な判別関数を構成するためには, まず, 適当な非線形変換<math>\phi: \boldsymbol{R}^{N} \to {\mathcal F}\, </math>を使い各データ<math>{ }_{j}\, </math>をより高い次元の特徴空間<math>{\mathcal F}\, </math>の元へと射影する. 射影された<math>{\mathcal F}\, </math>の元<math>\phi({ }_{1}),\phi({ }_{2}),\ldots,\phi({ }_{M})\, </math>に対して, <math>{\mathcal F}\, </math>上での線形な判別関数を求めれば, 元の空間で見れば非線形な判別関数を求めたこととなる.

　ここで, 双対問題 (4) に注目すれば,<math>{\mathcal F}\, </math>上の内積<math>\phi({ }_{i})^{T}\phi({ }_{j})\, </math>の値のみが得られれば定式化が可能であり, 特徴空間での点<math>\phi({ }_{j})\, </math>の座標を必ずしも必要としないことが分かる. そこで, SVMではカーネル関数と呼ばれる特殊な関数<math>{\cdot}{\cdot}\, </math>を用い元のデータ<math>, ' \in \boldsymbol{R}^{N}\, </math>から直接<math>{\mathcal F}\, </math>の元<math>\phi(),\phi(')\, </math>の内積<math>\phi()^{T}\phi(')\, </math>を算出し, 双対問題の最適化により非線形の判別関数が求められる [1]. よく用いられる代表的なカーネル関数として, 多項式カーネル<math>' = \left( { }^{T}\, ' + c \right)^{d}\,</math> やRBFカーネル <math>' = \exp\left( -\| \ - ' \|^{2}/ \sigma^{2} \right )\, </math>, (ただし<math>d\, </math>は自然数のパラメータ, <math>c,\sigma\, </math> は実数のパラメータである) などがある.

　カーネル関数の値<math>{ }_{i} { }_{j}\, </math>を<math>i-j\, </math>成分とする<math>M\, </math>次の対称行列を<math>K\, </math>とすれば, <math>K\, </math>が半正定値行列となるようなカーネル関数をMercerカーネル(あるいは半正定値カーネル)と呼び, このようなカーネル関数であれば,<math>{ }_{i}{ }_{j}=\phi({ }_{i})^{T}\phi({ }_{j})\, </math>となる特徴空間への変換<math>\phi(\cdot)\, </math>が存在することが保証される. 多項式カーネルやRBFカーネルはMercerカーネルである [5].また, Mercerカーネルを用いるのであれば, 対応した双対問題は常に凹二次関数の最大化となり, 通常の二次計画問題の解法を用いれば大域的に最適化が可能である.

　すなわち, 双対問題の最適解を<math>\alpha_{j}^{*}\, </math>とすれば, カーネル関数を用いた場合には, 次の非線形な判別関数が求められることとなる.

<center>
<math>f() = \sum_{j \in SV}\alpha_{j}^{*} y_{j}
{ }_{j} - b^{*}.\, </math>　　　　　<math>(6)\, </math>
</center>

　すなわち, 判別関数<math>f(\cdot)\, </math>は, サポート・ベクター <math>{ }_{j}\ (j \in SV)\, </math>に対応するカーネル関数<math>{ }_{j}\, </math>の重ね合せとして算出されると見ることができる.

----
'''参考文献'''

[1] B. E. Boser, I. M. Guyon, and V. N. Vapnik, "A training algorithm for optimal margin classifiers," in ''Proceedings of the fifth annual workshop on Computationa learning theory'', USA, 144-152, 1992.

[2] C. Cortes and V. Vapnik, "Support-vector networks," ''Machine learning'', '''20''' (1995), 273-297.

[3] T. Joachims, "Making large-scale support vector machine learning practical," in ''Advances in Kernel Methods'', B. Schölkopf, C. Burges, and A. Smola, eds., The MIT Press, 169-184, 1999.

[4] J. C. Platt, "Fast training of support vector machines using sequential minimal optimization," in ''Advances in Kernel Methods'', B. Schölkopf, C. Burges, and A. Smola, eds., The MIT Press, 185-208. 1999.

[5] J. Shawe-Taylor and N. Cristianini, ''Kernel Methods for Pattern Analysis'', Cambridge University Press, 2004.

[6] V. N. Vapnik, ''The nature of statistical learning theory'', Statistics for Engineering and Information Science, Springer-Verlag, 2000.

《論理プログラミング》

2007-07-16T14:03:59Z

220.104.197.230:

'''【ろんりぷろぐらみんぐ (logic programming) 】'''

　論理とは「推理の仕方, 論証の筋道」を意味し, 論理学とは「正しい認識を得るための規範となるべき思惟の法則及び形式を研究する学問一般」をいう. その中で''記号論理学'' (symbolic logic) とは「論理の対象となる思考の終局的要素とその基本的な関係を数学の記号に類するもので表現し, 論理的操作を数学の演算に類する操作で行う論理学」であって, 論理計算, 数学的論理学と大体同義であるとされる [1]. 従って, 記号論理は[[論理推論]] (logical reasoning) 分野に属し, その研究はわれわれの興味の対象要素(思考の終局的要素)と対象間の論理的関係を操作し, 論証の道筋を検証し, 正しい認識を得ることに関する方法論の探究を意味する.

　このことはわれわれが計算機を使って計算を行う, 問題を解く, あるいは, 対象を計算機で制御するなどの諸計算行為と多くの類似点をもつ. しかし, こうした (数値的) 計算行為には, 使用するプログラム言語のもつ諸規則 (文法など) や計算順序などを勘案しつつアルゴリズムを構築しプログラミングを行うことが要求されるため, こうした方法では, 知識としての論理の対象となる思考の終局的要素とその基本的な関係を, 直接表現し利用することは, 従来, 困難であった. 近年, 知識工学 (knowledge engineering) と呼称され, 知識を計算行為の対象, すなわち知識処理を対象とする分野が展開されてきた. これは知識を約束に従って記号化し, いわゆる知識ベースとして計算機の中にこれを蓄え, これらを利用しつつ, 対象問題 (ここでは命題) を解こうとする研究分野であって, 記号論理学がその理論的基礎を成す.

　さて, 知識工学では, 理論・実用の両面にわたって特に多くの研究やシステム開発が, 一階述語論理(first-order predicate logic)を利用して行われている. 一階述語論理に基づく場合, 知識は記号列で表現され, 知識の操作は, 短い列から長い列を生成する構文的規則(syntax), 与えられた記号列を解釈する意味論的規則 (semantics), 構文的規則に基づく推論規則 (rule of inference) および系全体に関する公理 (axiom) に基づいて行われる. これは例えて言えば, アルファベットから単語が構成され, 単語群から文節が構成され文節群から文が構成される仕組である. 文法に相当するものとして構文的規則があり, 文字列としての単語や文節, 文章の意味解釈に相当する操作が意味論的規則に則って用意される.

　記号論理的に見ると一階述語論理の記号列は, 論理記号 (結合子, 限定記号など) と非論理記号 (定数, 変数, 述語, 関数) からなり, 非論理記号に固有の意味を与えたとき, その解釈は一意的に決まる. このことを, 一階言語を定めたという. またここで言う述語 (predicate) は, その引き数である定数や変数の状態や性状 (つまり, ～である；～する, など) を記述する. 述語の解釈としての論理的意味付けには, ブール代数では0か1, 二値論理では真か偽, ファジィ論理では数値的真理値や言語的(linguistic)真理値を割り当てる. 変数や定数, さらに, 変数や定数をすべての引数に代入した関数を項 (term) と呼ぶ. <math>n\, </math>変数の述語の各引数に項を代入した論理式を原子論理式 (atomic formula) といい, これらを論理記号で結合したものも論理式という. さらに, 論理式同士を論理記号で結合したものも論理式という. 代表的論理式同士の関係を意味づけしたものがいわゆる真理値表 (truth table) を構成する.

　論理式 <math>\phi\, </math> を真とするある解釈と項への値割り当てが存在するならば, この論理式は充足可能 (satisfiable) であるという. さらに論理式の集合<math>\Gamma\, </math> を充足する任意の解釈と割り当てがある論理式 <math>\phi\, </math> を充足するとき, この論理式 <math>\phi\, </math> は論理式集合 <math>\Gamma\, </math> の論理的帰結と呼ばれる. ゲーデルの完全性定理 (completeness theorem) によれば, ある論理式 <math>\phi\, </math> が論理式集合 <math>\Gamma\, </math> の論理的帰結であるならば, 論理式集合 <math>\Gamma\, </math> からその論理式 <math>\phi\, </math> を導く有限の長さの記号列を生成できる. これは論理式集合から有限回のステップで機械的に論理的帰結を導くことができるアルゴリズムの存在を言明している. ここから一階述語論理の推論規則として唯一定義されるモーダス・ポーネスが提示される. すなわち, "二つの論理式 <math>\phi\, </math> と <math>\psi\, </math> があり, 論理式 <math>\phi\, </math> が論理式集合 <math>\Gamma\, </math> の論理的帰結かつ「<math>\phi\, </math> ならば <math>\psi \, </math>」も <math>\Gamma\, </math> の論理的帰結ならば, <math>\psi\, </math> は <math>\Gamma\, </math> の論理的帰結である. "これは連続値を扱う[[ファジィ推論]] (fuzzyinference) [3] の場合にも前提, 条件および近似的帰結として成り立つ推論規則である.

　次に, [[論理プログラミング]] (logic programming) において重要な「証明」の概念を述べる. 論理式の列 <math>\phi_\iota (\iota=1, 2, . . n)\, </math> が存在し, 全ての <math>\phi_\iota\, </math> が公理か, 論理式集合 <math>\Gamma\, </math> の元か, または列のそれ以前に位置する他の論理式からモーダ・ポーネスによって導かれたか, のいずれかが成り立つとする. この時, 論理式の列 <math>\phi_\iota\, </math> は論理式 <math>\phi_n\, </math> の証明と呼ばれ, 論理式 <math>\phi_n\, </math> は論理式集合 <math>\Gamma\, </math> から証明可能である, といわれる.

　以上の議論の結果として形式的知識表現としての論理式はプログラムに, その推論過程としての証明は計算に対応することが理解できる. 現実的視点から一階述語論理のある制限されたクラスのみを対象としてプログラミング環境を実現したものを論理プログラミングという. そのような制限されたクラスとして[[ホーン節]]がある. 一般に論理プログラミングでは, 与えられた論理式の否定(<math>\phi_1\, </math>)からトップダウン的またはボトムアップ的に[[導出原理]]を利用して演繹的に空節(<math>\phi_n\, </math>)を導くという証明の手続きが利用される. このようにして <math>\phi_1\, </math> の充足不可能性を証明することによって, 元の論理式が真であることを証明するのである. 論理プログラミングにおける代表的プログラム言語がPROLOGであり, わが国の第５世代コンピュータ計画をはじめとして知識工学, 人工知能分野に多くの影響を与えている.

　論理プログラミングの直接的応用としてはパズル, 定理証明などが知られているが, その実際的応用はいわゆる各種[[エキスパートシステム]] (expert system) の構築にある. エキスパートシステムでは, 事実や専門家の知識を論理式, 特にホーン節形式で表現して知識ベースとして蓄え, 知識ベースの内容を論理式集合 <math>\Gamma\, </math> として, 与えられた問題 (論理式) に対して論理的帰結を自動的に得る手続きを論理プログラミングが受け持つ [4]. 論理プログラミングによる証明の解釈そのものが, エキスパートシステムにおいては人間への自動説明機能となる. このようなエキスパートシステムの持つ宿命的課題は必要十分な知識をいかに獲得するかである. [[知識獲得]] (knowledge acquisition) の方法として人手による方法ばかりではなく自律的学習機能を導入する研究もなされている. さらに, 実用上の問題として蓄えた知識の上の推論の非単調性 (non-monotonicity) の問題, すなわち新しく入力された知識が以前の知識と矛盾するような結果を引き起こす現象がしばしば起こることが指摘されている. これに対する有力な方法は未だに確立されていないが, 実際にはこのような場合でも[[非単調推論]] (non-monotonic reasoning) と呼ばれる方法が利用される.

　論理プログラミングが人の論理的知識を蓄積し利用しようとするものであるのに対して, [[定性推論]] (qualitative inference) は物理法則に基づいた因果関係を基本として, 対象とする系の動的挙動を定性的に推論し, 理解しようとする [5]. 通常は微分方程式で表わされ解析され理解されるところの物理現象を, 素朴に理解しようとするものと考えることができるが, 計算機の数値計算能力に依存する部分がある. 定性推論は物理現象に対して素直に抱く疑問「なぜ?」, 「こうなったらどうなる?」に答えるのに有効な推論方式と考えられる.

　ここで取り上げた伝統的な記号論理的推論に基づく論理プログラミング, 曖昧さを導入したファジィ推論, あるいは知識の直接利用を狙ったエキスパートシステム, さらには, 物理現象の動的振る舞いを対象とする定性推論を有機的に結合することにより, 真に有効な人工知能が実現されることを期待したい.

----
'''参考文献'''

[1] 新村出編, 『広辞苑(第5版)』, 岩波書店, 1998.

[2] 森下真一, 『知識と推論』, 情報数学講座10, 共立出版, 1997.

[3] 水本雅晴, 『ファジィ理論とその応用』, サイエンス社, 1988.

[4] 安部憲広, 滝寛和, 『エキスパート・システム入門』, 共立出版, 1987.

[5] 溝口文雄, 古川康一, 安西祐一郎, 『定性推論』, 知識情報処理シリーズ別巻1, 共立出版, 1989.

《制約充足問題》

2007-07-16T14:00:22Z

220.104.197.230:

'''【せいやくじゅうそくもんだい (constraint satisfaction problem) 】'''

　[[制約充足問題]] (constraint satisfaction problem, CSP) は,一般に, <math>n\, </math> 個の変数 <math>X_i\, </math> <math>(i = 1, 2, \ldots, n)\, </math>と各変数 <math>X_i\, </math> がとり得る有限個の値から成る領域 <math>D_i\, </math>,及び <math>m\, </math>個の制約

<center>
<math>C_j(X_{j_1},X_{j_2}, \ldots, X_{j_{t_j}}) \subseteq D_{j_1} \times D_{j_2} \times \cdots \times D_{j_{t_j}} (j = 1, 2, \ldots, m)\, </math>
</center>

で定義される.制約 <math>C_j\, </math> は,変数 <math>X_{j_1}, X_{j_2}, \ldots, X_{j_{t_j}}\, </math> に対する <math>t_j\, </math> 項制約であり,これらの変数が同時にとることのできる値の組の集合である.ここで, すべての制約を満たす値の組<math>(d_1, d_2, \ldots, d_n) \in D_1 \times D_2 \times \cdots \times D_n\, </math>をCSPの解と呼び, (存在するならば) 一つ, あるいはすべての解を求めることがCSPの目的である.

　なお, 人為的に新たな変数を加えることで,多項制約を複数の二項制約で記述することができ,制約を二項制約に限定した形で定式化することも多く, 二項CSP (binary CSP) と呼ばれる.また, 上の定義では, 制約は値の組の集合で与えられるが, それらすべてを陽に記述する必要はなく,等式や論理式などを用いて表現することもできる.

　CSPの高い定式化能力を活かして汎用問題解決器 (general problem solver) の開発が可能である.すなわち, 与えられた問題をCSPとして定式化し, その解を求めることで元の問題を解くことができる.この考えは[[制約プログラミング]]に通ずるものである. 制約プログラミングでは, 制約充足はシステムが行うものとし, それゆえ, 制約を記述することのみがプログラマ (ユーザ) の仕事であり, それ自体がプログラミングと考えられる [1].

　CSPの解法としては,バックトラッキング法 (backtracking method) が代表的である. これは制約違反が起こらないように, ある順序に従って, 変数への値の割当てを順次行っていく方法であり, 木探索 (tree search) とも呼ばれる.変数に値を割当てる際, すべての制約を満たす値が存在しなければ, 一つ前の変数に戻ってその値を取消し, 他の値を試みる (バックトラック) という操作を繰り返す. この方法により, CSPを厳密に解くことが可能であるが, バックトラックが頻繁に発生する場合には効率的ではない. そこで, 木探索を効率的に行うための手法が種々提案されている. フォワードチェッキング (forward checking) は, 変数に値を割当てる度に, まだ値が割当てられていない変数の値域から, 制約に矛盾する値を予め削除しておく方法である. このとき, ある変数の値域が空になれば, 木探索を進めることなく, 現在の割当てが解の一部とはなり得ないと結論づけられる. このように, 制約に矛盾する値を変数の値域から削除する方法は, 一般に[[制約伝播]] (constraint propagation) と呼ばれ, 問題縮小のための前処理としても用いられる. また, バックジャンピング (backjumping) では, 木探索において変数に値を割当てる際, そのすべての値が, 変数 <math>X\, </math> 以前に値が割当てられた変数と制約矛盾を起こす場合, 一つ前の変数に戻るのではなく, 変数 <math>X\, </math> まで戻ってその値を変更する. いずれも無駄な探索を防ぐために枝刈りを行うものであり, この他, バックマーキング (backmarking) やバックチェッキング (backchecking) などの手法が提案されている. また, バックトラックの数は, 値を割当てる変数の順序や変数に割当てる値の順序に依存する. これらの順序を発見的手法を用いて定める方法も提案されている [3].

　上述の手法を用いることにより, 多少の探索の効率化が可能であるが, CSPが解を持つかどうかを決定する問題はNP完全であり, 多項式時間でCSPを(厳密に)解くアルゴリズムは存在しないと考えられる. そこで, バックトラックなしの木探索で(すなわち多項式時間で)解を一つ求めることができるCSPの部分クラスが,<math>k\, </math>-整合 (<math>k\, </math>-consistency) や <math>k\, </math>-木 (<math>k\, </math>-tree) といった概念を用いて定義されている [2, 3].

　CSPに対する[[近似アルゴリズム]]の研究も数多くなされている.その多くは,すべての制約を満たすとは限らない全変数の値の組 <math>(d_1, d_2, \ldots, d_n)\, </math> に対して, 値の変更を繰り返していくことで解を求めようとするものであり, 反復改善法 (iterative improvement) や山登り法 (hill climbing method) などと呼ばれている.厳密性は保証されないが, 実用上, 非常に有効であることが計算実験により確かめられている. これらの最も初期のものとしては, MCHC法 (min-conflict hill climbing) が挙げられる. これは,制約に違反している変数を一つ任意に選び, その値を制約違反数が最も少なくなる値に変更するという操作を, どの変数の値を変更しても制約違反数を減らすことができなくなるまで繰り返すものである. もちろんこれだけでは高い性能は望めず, 初期割当てを変えて何度か試行を繰り返すなどの工夫が必要である. ニューラルネットワーク (neural network) による近似解法の研究も比較的古く, 代表的なものとして GENET と呼ばれるものがある. その他多数の手法が提案されており, アニーリング法 (simulated annealing) や遺伝アルゴリズム (genetic algorithm) など, 組合せ最適化問題に対する一般的な枠組みとして近年盛んに研究されている, メタ戦略 (meta-heuristics) の適用も行われている [3].

　制約充足最適化問題 (constraint satisfaction optimization problem, CSOP) は, 解 <math>(d_1, d_2, \ldots, d_n) \in S\, </math> に対してその評価値を定める関数 <math>f: S \rightarrow Z\, </math> が与えられ, それを最小化(あるいは最大化)する問題である(ここで, <math>S\, </math> は解集合, <math>Z\, </math> は整数集合). CSOPはCSPの拡張であり, スケジューリング問題など多くの現実問題を含む. CSOPの厳密解法としては, 分枝限定法が一般的である. 基本的には CSP のバックトラッキング法と同じであり, 無駄な探索を省くため, いかに効率良く枝刈りを行うかが重要となる.

----
'''参考文献'''

[1] 渕一博監修, 溝口文雄, 古川康一, J-L. Lassez 編, 『制約論理プログラミング』, 1989.

[2] 西原清一, 「制約充足問題の基礎と展望」, 『人工知能学会誌』, '''12''' (3) (1997), 351-358.

[3] E. Tsang, ''Foundations of Constraint Satisfaction'', Academic Press, 1993.

《ファジイ理論》

2007-07-16T13:56:39Z

220.104.197.230:

'''【ふぁじいりろん (fuzzy theory) 】'''

　1964年L. A Zadehが通常の集合を一般化した[[ファジイ集合]] (fuzzy set) を導入したことに始まる ( [7] ). データの曖昧さや制約の厳しさの程度を表現できるもので, ORと融合して最適化等での使用に適している.

　通常の集合はその帰属性が0または1の2値（属するとき1, 属さないとき0で特性関数と呼ばれる）で表されるのに対し, ファジイ集合はこれを一般化して帰属性を区間<math>[0,1]\, </math>の値で表す. 完全に属するとき1, 属さないとき0という値をとる帰属度関数と呼ばれる関数で表現される. 関数値が大きいほど帰属性が高いことになる. すなわち, 全体集合<math>\mbox{T}\, </math>（これは通常の集合）の各要素 <math>x\, </math> とその帰属度関数値<math>g(x)\, </math>のペア<math>\{(x,g(x))|x\in T\}\, </math> として表記される. 人間の主観などにおけるあいまいさを定量化するために考えられたのであるが, いろいろな分野に応用されている．例えば若いという概念は年齢としてどこからが若くてどこからが若くないかがはっきりしないのでファジイ概念である. 主観により違うが<math>x\, </math>を年齢とすると例えば次のような帰属度関数<math>\mu_{\boldsymbol {A}}(x)\, </math>で表される.

<center>
<math>\mu_{\boldsymbol {A}}(x) =
\left\{ \begin{array}{cll}
1 & \mbox{if} & 0 \leq x \leq 20,\\
(50-x)/30 & \mbox{if} & 20 < x < 50,\\
0 & \mbox{if} & 50 \leq x,\\
\end{array} \right.
\, </math>
</center>

　これは20歳までは確実に若いといえるがそれを超えると徐々に若いと言えない度合いが増え, 50歳以上は若いとは言えないということになる. 人間の先験的知識を用いる[[ファジイ論理]] (fuzzy logic)が制御に応用され, ファジイ洗濯機などの電化製品や仙台の地下鉄などの木目細かい制御の実現に役立てられ, ファジイ制御と呼ばれている.

　ORとの融合は'''ファジイ数理計画''' (特にファジイ線形計画) を除いて最近始まったばかりである. ファジイ環境下での意思決定は満足度という概念を表す帰属度関数を考えることにより, 制約条件と目的関数を同様に扱うもので, L.A.Zadehが初期の頃より考えていた. 線形不等式<math>\Sigma_{j=1}^{n}a_{j}x_{j}\leq b\, </math> を例にあげれば, 満足度を示す以下のような帰属度関数

<center>
<math>m_{C}(\Sigma_{j=1}^{n}a_{j}x_{j})=
\left\{ \begin{array}{ll}
1 &(\Sigma_{j=1}^{n}a_{j}x_{j}\leq b) \\
1-(\Sigma_{j=1}^{n}a_{j}x_{j}-b)/d & (b<\Sigma_{j=1}^{n}a_{j}x_{j}\leq b+d)\\
0 & (\Sigma_{j=1}^{n}a_{j}x_{j}>b)
\end{array} \right.
\, </math>
</center>

が'''ファジイ制約'''である. また目標値<math>z_{0}\, </math>へどれだけ到達したかを示す満足度で表される'''ファジイ目標'''はやはり１次の目的関数<math>z=\Sigma_{j=1}^{n}c_{j}x_{j}\, </math>を考えると,

<center>
<math>m_{G}(\Sigma_{j=1}^{n}c_{j}x_{j})=
\left\{ \begin{array}{ll}
1 &(\Sigma_{j=1}^{n}c_{j}x_{j}\geq z_{0}) \\
(\Sigma_{j=1}^{n}c_{j}x_{j}-z_{1})/(z_{0}-z_{1}) & (z_{0}>\Sigma_{j=1}^{n}c_{j}x_{j}\geq z_{1})\\
0 & (\Sigma_{j=1}^{n}c_{j}x_{j}<z_{1})
\end{array} \right.
\, </math>
</center>

と書かれる. これら幾つかのファジイ制約とファジイ目標の下でその最小満足度を最大にする<math>{\mathbf x}=(x_{j})\, </math>を求めるという形式にファジイ数理計画をモデル化できる.

　意思決定との関係で, '''ファジイ動的計画'''もBellman, Zadeh([1])で初期から考えられていた. ファジイと確率とは一見アナロジーがあり, 実際確率計画とファジイ数理計画との間には対比されるような概念が多く見られる. 上記のファジイ制約と機会制約条件などがその例であり, どちらも少しの制約の違反は認めるものである．実際, '''可能性'''と確率とはよく混同されるが, 可能性は物事の生起能力に関するもので, 確率は頻度に関するものである．Zadeh は違いの例として, ある人が朝何個卵を食べるかは確率的（統計的）であり, 何個食べることができるかは別であるとしている. 最近は, '''ファジイ数''', '''ファジイ関係''', あるいは'''ファジイランダム変数'''なども最適化に導入され, 連続変数の最適化だけではなく, '''ファジイ組合せ最適化'''などの研究も行われている. [[ファジイ数]] (fuzzy number) は通常の数をファジイ概念化したものであり, モデルを記述する係数の不確実性を表している. ファジイ関係はスケジューリングにおける先行関係のファジイ概念化として用いられている. また, ファジイランダム変数はいわば実現値がファジイ数であるようなもので, ファジイ要素とランダム要素が混在するモデルを考えるのに有効である. これらを総称して[[ファジイ最適化]] (fuzzy optimization) と呼んでいる. ここではファジイ理論とORの関係を中心に紹介したが, [[ソフトコンピューティング]]とも関係している. ファジイ理論は, 集合論ばかりでなく, 数学全般に広がってきており, ますますORに用いられるファジイ概念が出てくると思われる.

----
'''参考文献'''

[1] R. E. Bellman and L. A. Zadeh, "Decision Making in a Fuzzy Environment", ''Management Science'', '''17''' (1970), 141-164.

[2] 乾口雅弘, 「多様化時代の数理計画　第５回　確率計画法　VS　可能性計画」, 『オペレーションズ・リサーチ』, '''41''' (1996), 641-645.

[3] H. Ishii and M. Tada, "Single Machine Scheduling Problem with Fuzzy Precedence Relation", ''European Journal of Operational Research'', '''87''' (1995), 284-288.

[4] A. Kaufmann and M. M. Gupta, ''Introduction to Fuzzy Arithmetic* Theory and Application'', Van Nostrand Reinhold, New York, 1984.

[5] 坂和正敏, 『ファジイ理論の基礎と応用』, 森北出版, 1991.

[6] 坂和正敏, 石井博昭, 西崎一郎, 『ソフト最適化』, 朝倉書店, 1995.

[7] L. A. Zadeh, "Fuzzy Sets", ''Information and Control'', '''8''' (1965), 338-353.　

[8] N. Watanabe, "Fuzzy Random Variables and Statistical Inferences," 『日本ファジイ学会誌』, '''8''' (1996), 126-135.　　

[9] 菅野道夫, 室伏俊明, 『ファジイ測度』, 日刊工業新聞社, 1993.

《メタヒューリスティクス》

2007-07-16T13:52:59Z

220.104.197.230:

'''【めたひゅーりすてぃくす (meta-heuristics) 】'''

　[[メタヒューリスティクス]] (meta-heuristics) とは組合せ最適化問題に対しての, 発見的解法の枠組みであり, 従来の数理的, 分析的手法に基づく厳密解法に対し, ある暫定解からより良い解を発見的に探索するための方法論である. 1) 個々の問題の性質に依拠しないより包括的な枠組みである, 2) 最適解を求めることではなく, より良い解を現実的な時間で求めることを目的とする, といった特徴が挙げられる. メタヒューリスティクスに含まれる多くの手法は局所探索法 (local search) を元にしているが, 局所最適解で探索が終了してしまうという欠点を補うためのさまざまな工夫がなされている.

　[[多スタート局所探索]] (multi start local search) は適当な方法で生成した初期解からの局所探索法を繰り返し行うことにより, 改善された局所最適解を求めるものである.

　[[可変近傍法]] (variable neighborhood search) は複数の近傍を定義し, 暫定解（それまでに得られた最善解）に対しある近傍から一つ初期解を選択し, その解に対して局所探索法を適用するという手順を繰り返す. この反復において暫定解が更新されたか否かによって初期解を選択するための近傍を変える点に特徴がある.

　[[アニーリング法]] (simulated aneeling) は局所探索法の実行過程に確率的な振る舞いを加え局所最適解に陥らないようにしたアルゴリズムであり, Kirkpatrickらによって提案された [2]. アニーリング法では改悪の方向への移行を確率<math>P\, </math>で受け入れる. <math>P\, </math>は温度<math>t\, </math>と呼ばれる制御パラメータを含む関数で定義され, 目的関数が改悪される度合が大きくなれば小さくなるように定義される. 一般に用いられるのは現在の目的関数値をc, 変更にともなう変化量を<math>\delta c\, </math>とすると,

<center>
<math>P=\exp (t (c+\delta c)/c)\, </math>
</center>

と定義され, <math>t\, </math>を徐々に小さくすることによって, 探索の初期の段階では広い領域を探索し, 後期では探索が最適解に落ち着くことをねらっている.

　[[タブー探索]]　(tabu search)　は局所探索法において局所最適解から脱出するため, 近傍内の最良解（改悪解であっても）へも移行するという操作を加えたものである [3, 4] . 一つの局所最適解とその近傍のみの移行という繰り返しを避けるために, 現在までの移行の履歴を保持し, 移行に制約を設ける. この制約をタブーという. またタブーにより良い最適解への移行を妨げる場合があるのでタブー保有期間と呼ばれる一定期間を経るとタブーは解消される. これにより局所最適解に陥ることなく広範囲の最適解を探索することが可能になる.

　[[遺伝アルゴリズム]] (genetic algorithm) は生物の形質遺伝による進化を組合せ最適化問題における解の進化, すなわち目的関数値を向上させることに利用した解法である [6]. まず候補解を記号列として表現したものを遺伝子と名付け, これらの遺伝子からなる集団に対し1) 次世代に子孫を残す解を選択し (選択), 2) <math>2\, </math>つの親の遺伝子より子の遺伝子を生成し (交叉), 3) 遺伝子の一部を一定の確率で変化させ (突然変異), 4) 劣っている解は集団より除去する (淘汰), という操作を繰り返し行う. 交叉において遺伝子の特徴がどのように次の世代に遺伝していくかということは[[スキーマ定理]] (scheme theorem) によって確率的に示されている [5]. ここでスキーマ<math>H\, </math>とは遺伝子を2進数で表現したときの部分列であり, その次元を<math>o(H)\, </math>, 定義長を<math>\delta(H)\, </math>とし, <math>m(H,t)\, </math>を次世代<math>t\, </math>でスキーマ<math>H\, </math>を含む個体の数, <math>f(H)\, </math>スキーマ<math>H\, </math>を含む個体の適応度の平均値, <math>\overline{f}(t)\, </math>を世代<math>t\, </math>での固体の平均適応度とすると

<center>
<math>\begin{array}{lll}
m(H,t+1) &\geq& m(H,t)f(H)
\{1-p_c\delta(H)/(l-1)\}(1-p)^{o(H)}/\overline{f}(t) \\
&\approx& m(H,t)f(H)\{1-p_c\delta(H)/(l-1)-po(H)\}/\overline{f}(t)
\end{array}\, </math>
</center>

が成立する.

　遺伝アルゴリズムは[[進化的計算]] (evolutionary computation), 進化的プログラミング (evolutionary programming) といった生物の遺伝, 進化の過程を模倣して最適化問題における最適解を探索するという枠組みの中のひとつであり、さらには[[人工生命]]} (artificial life) という生命システムをコンピュータでシミュレートする研究との関連においても注目されている.

----
'''参考文献'''

[1] G. Hansen and N. Mladenovic, "An Introduction to Variable Depth Search," in ''Meta-heuristics: Advances and Trends in Local Search Paradigms for Optimization'', S. Voss, eds., Kluwer Academic Publishers.

[2] S. Kirkpatrick, C. D. Gellat and M. P. Vecchi, "Optimization by Simulated Annealing," ''Science'', '''220''' (1983), 671-680.

[3] F. Glover, "Tabu Search I," ''ORSA Journal on Computing'', '''1''' (1989), 190-206.

[4] F. Glover, "Tabu Search II," ''ORSA Journal on Computing'', '''2''' (1989), 4-32.

[5] D. E. Goldberg, ''Genetic Algorithms in Search, Optimization, and Machine Learning'', Addison-Wesley, 1989.

[6] J. H. Holland, ''Adaptation in Natural and Artificial Sytems'', University of Michigan Press, 1975.

《確率計画》

2007-07-16T13:49:00Z

220.104.197.230:

'''【かくりつけいかく (stochastic programming)】'''

　数理計画問題において, 目的関数や制約条件の係数の中に確率的要素が含まれているとき, これを[[確率計画]] (stochastic programming)(確率計画法, 確率計画問題)と呼ぶ. いま, 制約条件の係数に確率変数を含む線形計画問題

<center>
<math>\begin{array}{ll}
\mbox{min.} & c^{\top}x \\
\mbox{s. t.}& T(\omega)x=h(\omega), \\
& Ax=b,\ x\ge 0, \\
\end{array}\, </math>
</center>

を考える. ここで, <math>c,b,A\, </math>はそれぞれ既知のベクトルや行列で, <math>T(\omega)\, </math>, <math>h(\omega)\, </math>は確率事象<math>\omega\, </math>に依存するランダムな行列およびベクトルである. 確率変数を含む制約条件はすべての実現値に対して満たされるとは限らない. そこで, 確率計画問題として2つのアプローチ[[2段階計画問題]] (two-stage programming problem)および[[確率制約計画問題]] (probabilistic constrained programming problem)がある [1], [2].

　まず2段階計画問題では,確率変数の含まれる制約条件<math>T(\omega)x=h(\omega)\, </math>においてこの制約条件を成り立たせなくさせている両辺の差 <math>h(\omega)-T(\omega)x\, </math> に対してその外れ具合を矯正するためにリコースというものを考える. 具体的には次のようなリコース行列<math>W\, </math>およびリコース変数<math>y\, </math>を考える.

<center>
<math>Wy=h-Tx,\ y\ge 0\, </math>
</center>

すなわち, 2段階計画問題は次のように定式化される.

<center>
<math>\begin{array}{ll}
\mbox{min.} & c^{\top}x+
\mbox{E} [\mbox{min}\ q(\omega)^{\top}y(\omega)] \\
\mbox{s. t.}& T(\omega)x+Wy(\omega)=h(\omega), \\
& Ax=b,\ x\ge 0,\ y(\omega)\ge 0.\\
\end{array}\, </math>
</center>

　次に確率制約計画問題において, 制約条件が必ずしも満たされなくても, ある確率以上で満たされれば良い場合を考える. 例えば, <math>T(\omega)x\ge h(\omega)\, </math>という制約条件の代わりに確率<math>\alpha\, </math>以上で成り立つという確率制約条件

<center>
<math>\Pr\{T(\omega)x\ge h(\omega)\}\ge \alpha\, </math>
</center>

を考える. 目的関数の型によってEモデル, Vモデル, Pモデルなど様々なモデルが考えられる.

　2段階計画問題も確率制約計画問題も, 通常は等価な確定問題すなわち非線形計画問題に変換して解く. 一般にはこの変換は非常に複雑な形になる. 通常2段階計画問題の方が確率制約計画問題より等価な確定問題への変換が難しい. そこで確率計画の切除平面法であるL型法のような確率分布の特別な構造を利用した解法や, 様々な近似を利用した解法が研究されている [1], [3].

　確率計画問題において, 通常は確率変数の分布関数は与えられているとするが, 一般には分布関数が完全に分かることは難しい. いま完全情報すなわち確率変数の将来の実現値を知るために決定者が最大どれだけの価値を支払うかを調べる. この価値は[[完全情報の期待価値]] (expected value of perfect information; EVPI)と呼ばれる. 完全情報を得ると実現値に対して, 最適解や最適値を正確に知ることができる. そこで, 最適解や最適値の確率分布を求める問題, すなわち[[分布問題 (確率計画における)|分布問題]] (distribution problem)が考えられるが, この問題は通常非常に難しい. 分布問題の近似として確率変数をその期待値で置き換えた問題を考え, このときこの期待値問題と確率の入ったリコース問題との最適値の違いを[[確率解の価値]] (value of the stochastic solution; VSS)と呼ぶ. これは確率計画として解くことの価値を表すものである. EVPIやVSSの上限と下限で挟まれた区間をより厳密に求めることが研究されている[1], [5].

　その他確率計画では推定や近似など統計的な方法を用いたもの [4] やファイナンス, ポートフォリオのような応用面を対象とした研究も多くなってきている.

----
'''参考文献'''

[1] J. R. Birge and F. Louveaux, ''Introduction to Stochastic Programming'', Springer-Verlag, New York, 1997.

[2] S. Vajda, ''Probabilistic Programming'', Academic Press, New York and London, 1972.

[3] A. Prékopa, "The Use of Discrete Moment Bounds in Probabilistic Constrained Stochastic Programming Models," ''Annals of Operations Research'', '''85''' (1999), 21-38.

[4] R. J-B Wets, "Stochastic Programming," in ''Optimization'', G. L. Nemhauser, A. H. G. Rinooy Kan and M. J. Todd, eds., North-Holland, 1989. 石井博昭訳,「確率計画法」, 伊理正夫, 今野浩, 刀根薫監訳,『最適化ハンドブック』, 朝倉書店, 1995.

[5] 塩出省吾,「確率計画法」, 西田俊夫, 田畑吉雄編,『現代OR入門』,現代数学社, 1995.

《最適停止》

2007-07-16T13:46:28Z

220.104.197.230:

'''【さいてきていし (optimal stopping)】'''

　逐次に観測される確率変数列に基づき, 期待利得を最大化したり期待費用を最小化するためにある行動を取る時刻を選ぶ問題を[[最適停止]]問題という. 最適停止は次の2つの要素を持つ. (i) 結合分布が既知である確率変数列: <math>X_1, X_2, \cdots\, </math>, (ii) 実数値利得関数列: <math>y_0, \ y_1(x_1), \ y_2(x_1, x_2), \cdots ,\, </math> <math>\ y_{\infty}(x_1, x_2, \cdots)\, </math>. 逐次に確率変数列<math>X_1\, </math>, <math>X_2\, </math>, <math>\cdots\, </math>を観測し, 最初の<math>n\, </math>段階において<math>X_1=x_1,X_2=x_2, \cdots, X_n=x_n\, </math>を観測後に観測を停止して利得<math>y_n(x_1, \cdots, x_n)\, </math>を得るか, 継続して<math>X_{n+1}\, </math>を観測するかの決定を下す. 全く観測しないならば<math>y_0\, </math>, 決して停止しないならば<math>y_{\infty}(x_1, x_2, \cdots)\, </math>の利得を得る.このとき, 利得を最大にするタイミングである停止時刻を求めるのが最適停止問題である.要素の(ii)は, <math>Y_n=y_n(X_1, \cdots , X_n)\, </math>としたとき, (ii') 結合分布が既知である利得を表す確率変数列: <math>Y_0, \ Y_1, \ Y_2, \ \cdots, \ Y_{\infty},\, </math> としてもよい. このとき, <math>E(Y_N)\, </math>を最大にする停止時刻<math>N\, </math>を求めるのが最適停止問題であるとも記述できる. <math>Y_N\, </math>を利得ではなく何らかの費用や損失と解釈すると, 費用ないし損失を最小にする停止規則(時刻)<math>N\, </math>を求める問題となる.

　より一般的には, 最適停止問題は次の様に記述されている. 確率空間 <math>(\Omega, {\mathcal F}, P)\, </math>が与えられ, <math>{\mathcal F}_n\, </math>を<math>X_1, \cdots, X_n\, </math>によって生成される <math>\mathcal F\, </math>の部分 <math>\sigma\, </math>集合, <math>{\mathcal F}_0=\{\Omega, \phi\}, {\mathcal F}_n\, </math>を <math>\cup {\mathcal F}_n\, </math>によって生成される <math>\sigma\, </math>集合とし, <math>{\mathcal F}_0 \subset {\mathcal F}_1 \subset \cdots\subset {\mathcal F}_n \subset \cdots\subset {\mathcal F}_{\infty} \subset {\mathcal F}\, </math>とする. (i)(ii) にかわり(i') 増加部分<math>\sigma\, </math>集合列:<math>{\mathcal F}_0 \subset {\mathcal F}_1 \subset \cdots \subset {\mathcal F}_{\infty}\subset {\mathcal F}\, </math>, (ii") 結合分布が既知な利得を表す確率変数列: <math>Y_0,Y_1, \cdots, Y_n, \cdots, Y_{\infty}\, </math>,とし, <math>Y_n\, </math>は<math>{\mathcal F}_n\, </math>-可測, <math>n=0, 1, \cdots, \infty\, </math>とする. <math>\{N=n\}\in {\mathcal F}_n\, </math>である非負整数値確率変数<math>N\, </math>を停止規則と定義する. (この定義は, いつ停止するかの決定は今までの観測のみに基づき, 将来の観測には基づかないと解釈するとわかりやすい.) このとき <math>E(Y_N)\, </math>を最大にする停止規則<math>N\, </math>を求めるのが最適停止問題である. 一般に全ての最適停止問題を解くことは難しいが, 有限期間問題と単調問題(monotone problem)は解くことができる. 確率変数列 <math>X_1, X_2, \cdots, X_n, n<\infty\, </math>を観測後に必ず停止しなければならないとき, 有限期間問題と呼ぶ.有限期間問題は基本的に後向きの帰納法 (backward induction) によって解かれる. <math>n\, </math>期では停止しなければならないので, <math>V_n^{(n)}\, </math>を<math>V_n^{(n)}(x_1, \cdots, x_n)=y_n(x_1, \cdots, x_n)\, </math>と定義する. <math>(n-1)\, </math>期では, ここで停止したときの利得 <math>y_{n-1}(x_1, \cdots, x_{n-1})\, </math>と, 継続して<math>n\, </math>期で停止したときの期待利得 <math>\mbox{E} (V_n^{(n)}(x_1, \cdots, x_{n-1}, X_n)|X_1 = x_1, \cdots, X_{n-1}=x_{n-1})\, </math>を比較すれば, <math>(n-1)\, </math>期で停止すべきか継続すべきかが判明する. <math>V_{n-1}^{(n)}(x_1, \cdots, x_{n-1})\, </math>を次のように定義する. <math>V_{n-1}^{(n)}(x_1, \cdots, x_n) = \max\{y_{n-1}(x_1, \cdots, x_{n-1}), \mbox{E}(V_n^{(n)}(x_1, \cdots, x_{n-1}, X_n)|X_1 = x_1, \cdots, X_{n-1}=x_{n-1})\}.\, </math>同様に <math>j=n-2, n-3, \cdots, 0\, </math>と後ろ向きに<math>V_j^{(n)}(x_1, \cdots, x_j)\, </math>を定義し,

<center>
<math>\begin{array}{ll}
V_j^{(n)}(x_1,\cdots, x_j) = & \max\{y_j(x_1,\cdots, x_j), \\
& \quad \mbox{E} (V_{j+1}^{(n)}
(x_1,\cdots, x_j, X_{j+1})|X_1=x_1,\cdots,
X_j=x_j) \}
\end{array}\, </math>
</center>

とする. このように定義された <math>V_j^{(n)}(x_1, \cdots, x_j)\, </math>は, <math>X_1=x_1, \cdots\, </math>, <math>X_j=x_j\, </math>を観測して<math>j\, </math>期から始めたときの最大期待利得を表し, 上式は最適方程式と呼ばれる. これは[[動的計画]]の[[最適性の原理]]によって得られる関数再帰方程式に他ならず, DP(ダイナミック<math>\cdot\, </math>プログラミング)方程式とも呼ばれる. <math>j\, </math>期においては, 停止して得られる利得<math>y_j(x_1, \cdots, x_j)\, </math>が<math>j\, </math>期より継続して得られる最大期待利得<math>\mbox{E}(V_{j+1}^{(n)}(x_1, \cdots, x_j, X_{j+1})|X_1 = x_1, \cdots, X_j=x_j)\, </math>より良ければ停止し, 逆ならば継続するのが良い. それゆえに, 有限期間問題の最適停止規則<math>N\, </math>は, 初めて<math>V_j^{(n)}(x_1, \cdots, x_j)=y_j(x_1, \cdots, x_j)\, </math>となる<math>j\, </math>で停止することである. 有限期間問題の最大期待利得は, <math>V_0^{(n)}\, </math>となる.

　最適停止問題において, 事象<math>A_n=\{Y_n\ge E(Y_{n+1}|{\mathcal F}_n)\}\, </math>, <math>n=0, 1, 2, \cdots\, </math>が <math>\textstyle A_0 \subset A_1 \subset \cdots \subset;\ {\bigcup}_1^{\infty} A_n=\Omega \, </math> (almost surely) を満たしているとき単調問題とよぶ. 単調問題では, ある条件の下で([1]参照) OLA (one-stage look-ahead) 停止規則<math>N:=\min\{n\ge 0: Y_n\ge E(Y_{n+1}|{\mathcal F}_n)\}\, </math>が最適停止規則となる. OLA 停止規則とは, もう1期だけ継続してから停止するよりも, 今停止するほうがよいときに停止することを要求する規則である.

　独自のクラスを形成してきたといえる確率最大化最適停止問題に秘書問題がある. 秘書問題は結婚問題とも呼ばれ, 最も基本となる古典的秘書問題は次のように記述される. 1人の秘書を雇いたい. 面接した応募者には同ランクはなくランク付けが可能とする. 1人ずつ面接する毎に, 今までに面接した応募者の相対ランクに基づき採用するか否かを決めなければならず, 一度不採用にした応募者を採用することはできない. <math>n\, </math>人の応募者があり, <math>n\, </math>人の面接の順列の一つが実現する確率が<math>1/n!\, </math>のとき, <math>n\, </math>人中のベストランクを得る確率を最大にする最適停止規則を求めたい. 最適停止規則は, <math>r^{\ast}-1\, </math>番目までの応募者は全て採用を見送り, それ以降に最初に面接する相対的ベストの応募者を採用しなさい, となり, ここで, <math>\textstyle r^{\ast}=\min\{i\ge 1:\sum_{j=i}^{n-1}(1/j) \le 1\}\, </math>により<math>r^{\ast}\, </math>は与えられる. <math>n\to \infty\, </math>のとき, <math>r^{\ast}/n \to 1/{\rm e} \approx 0.3678\, </math>となる. 大まかに言うと, <math>n\, </math>が十分大きいとき, 36.8%まではパスしてそれ以降に到着する相対的ベストの応募者を採用するのが最適である.

----
'''参考文献'''

[1] Y. S. Chow, H. Robbins and D. Siegmund, ''Great Expectations: The Theory of Optimal Stopping'', Houghton Mifflin Company, Boston, 1971.

[2] T. S. Ferguson, "Who Solved the Secretary Problem?," ''Statistical Science'', '''4''' (1989), 282-289.

[3] A. N. Shiryaev, ''Optimal Stopping Rules'', Springer-Verlag, New York, 1978.

[4] J. L. Snell, ""Applications of Martingale System Theorems," ''Trans. Amer. Math. Soc.'', '''73''' (1952), 293-312.

[5] S. M. Ross, ''Applied Probability Models with Optimization Applications'', Holden - Day, San Francisco, 1970.

《多目的計画》

2007-07-16T13:43:07Z

220.104.197.230:

'''【たもくてきけいかく (multiobjective programming)】'''

　我々が現実世界において遭遇する意思決定問題には, 複数の評価尺度(目的)があることが多い. このような問題を多基準意思決定問題あるいは多目的意思決定問題と呼ぶ. このような問題の数理計画法としての定式化とその解決方法を考えるのが多目的計画である.

　<math>p\, </math>個の目的関数をもつ多目的計画問題は

<center>
<math>\begin{array}{ll}
\mbox{minimize} & f(x)=(f_1(x), \ldots , f_p(x))\\
\mbox{subject to} & x \in X,
\end{array}\, </math>
</center>

という形に定式化される. ここで <math>X\, </math>は実行可能集合であるが, 通常の１目的の数理計画問題と同様, 不等式制約や等式制約で表現されることが多い.

　通常の数理計画問題(最適化問題)であれば, 実数の大小関係が全順序であることから, 最適解の概念は明瞭であるが, 多目的の場合は一方が良くとも他方が悪くなることが生じるため順序関係が半順序となり, 考察を要する. 基本となるのは, [[パレート最適解]] (単にパレート解または非劣解, 有効解) と呼ばれる解である. 実行可能解 <math>x^* \in X\, </math> は別の実行可能解 <math>x \in X\, </math> で

<center>
<math>f_i(x) \leq f_i(x^*) \quad (\forall i=1, \ldots ,p),</math>

<math>f_i(x) < f_i(x^*) \quad (\exists i \in \{1, \ldots , p \}),</math>
</center>

となるものが存在しないとき, パレート最適解であるといわれる. これを少し弱めた解として弱パレート最適解が, また強めた解として真性パレート最適解がある. さらに, 意思決定の観点からいえば, 最終的に意思決定者にとって最も好ましい解をパレート最適解の中から選ぶことが問題となるが, この解のことを意思決定者の選好解という.

　通常の数理計画における理論的成果を, 多目的計画の場合に拡張する研究はこれまで多くなされてきている. まずパレート最適解を特徴づける最適性の条件は, キューン・タッカー条件を拡張した形で得られている. また多目的計画に対する双対性や安定性, 感度分析などの研究も進んでいる. ただし, 通常の問題であればその最適値<math>\min \{ f(x) | x \in X \}\, </math> は一意に定まる(厳密には, <math>\min\, </math> を <math>\inf\, </math> で置き換え, <math>\pm \infty\, </math> を許容する場合もある). これに対し多目的のパレート最適解は一意には定まらないのが普通であり, パレート最適値(パレート最適解に対応する目的関数値)全体が一つの集合を与える. したがって, 通常の最適値関数に対応するものとして, いわゆる最適値写像あるいは摂動写像と呼ばれる集合値写像(点対集合写像)を考える必要がある. これらの理論的結果については [1][3] に詳しい.

　さて, 意思決定者の選好解を求めるには, 大きく分けて以下に述べる３つのアプローチがある.

#パレート最適解のすべて(もしくは十分多く)を求め, それを意思決定者に提示して, 選考解を決定してもらう.
#意思決定者の選好を表す実数値関数である価値関数(もしくは効用関数)を求め, それを最適化する通常の数理計画問題を解く.
#コンピュータによるパレート最適解の導出とその解に基づく意思決定者の局所的な選好情報を用いて, 両者の対話を繰り返すことにより, 選好解を求める.

　まず, 最初のアプローチは特に目的関数の数が少ない(例えば２目的の)場合や, 実行可能解が比較的少数の有限個しか存在しないような場合であれば, 有効となる. 実際にパレート最適解を求めるには, もとの多目的計画問題を何らかのパラメータを含む通常の数理計画問題に変換するスカラー化を行う. この方法として代表的なものは次の３つである.

:*加重和最小化: 各目的関数に対する重み<math>w_i\, </math>を用いて, 問題

<center>
<math>\begin{array}{ll}
\mbox{minimize} & \displaystyle \sum _{i=1}^p w_if_i(x)\\
\mbox{subject to} & x \in X,
\end{array}\, </math>
</center>

を解く. 簡明で分かり易いが, 非凸な問題の場合には欠陥がある.

:*基準点からのノルム最小化: 基準点 <math>\bar{y}=(\bar{y}_1,\ldots , \bar{y}_p)\, </math> からのノルム(すなわち乖離度)を最小にする. すなわち, 問題

<center>
<math>\begin{array}{ll}
\mbox{minimize} & \parallel f(x)- \bar{y} \parallel\\
\mbox{subject to} & x \in X,
\end{array}\, </math>
</center>

を解く. ノルムとしては, <math>l_1\, </math> ノルム([[目標計画]]はこの場合に相当する)やチェビシェフノルムなどが考えられる. また実際にはこれを拡張したチェビシェフスカラー化関数を用いたり, 目的関数に重みを導入したりする.

:*制約変換法: 一つの目的関数(例えば <math>f_p\, </math>)を目的関数として残し, 他の目的関数に対する要求水準 <math>\varepsilon _1, \ldots , \varepsilon _{p-1}\, </math> を用いた問題

<center>
<math>\begin{array}{ll}
\mbox{minimize} & f_p(x)\\
\mbox{subject to} & f_i (x) \leq \varepsilon _i \; \; (i=1, \ldots , p-1), \;
\; x \in X,
\end{array}\, </math>
</center>

を解く.

　次に２番目のアプローチの価値関数(効用関数)の同定については, 多属性効用理論がよく知られている. この際大切なことは, 目的関数間の独立性が十分確保されていることである. 詳細については [4] に詳しい. なお, 上に挙げた加重和目的関数やノルム関数を効用関数として想定し, そのパラメータを同定するのも, このアプローチの簡略版と考えられる.

　最後のアプローチが[[対話型解法 (多目的計画における)|対話型解法]]とよばれているもので, コンピュータによる候補解の算出と意思決定者による選好情報の提示を交互に繰り返していくことにより, 選好解を探索する. 両者の情報交換の仕方によって, いくつもの方法が考えられているが, 人間が関わっているだけに, ヒューマンフレンドリーな方法であることが望まれる. 現在までに提案された主な対話型解法については [2]に詳しい. 日本語では [3]に希求水準法を中心とした説明がある.

----
'''参考文献'''

[1] Y. Sawaragi, H. Nakayama and T. Tanino, ''Theory of Multiobjective Optimization'', Academic Press, 1985.

[2] K. M. Miettinen, ''Nonlinear Multiobjective Optimization'', Kluwer Academic, 1999.

[3] 中山弘隆, 谷野哲三,『多目的計画法の理論と応用』, 計測自動制御学会, 1994.

[4] 田村坦之, 中村豊, 藤田眞一,『効用分析の数理と応用』, コロナ社, 1997.

《不変埋没原理》

2007-07-16T13:40:00Z

220.104.197.230:

'''【ふへんまいぼつげんり (principle of invariant imbedding)】'''

　ある問題を解こうとするとき, この問題を含む部分問題からなる群(族)を考えることを「埋め込み」(imbedding)という. すなわち, 与問題をある問題群の１つと見做すことである. このとき, 問題の大きさは小さい(易しい)ものから大きい(難しい)ものまであり, 一番大きい(解きたい)問題が与問題である. しかし, 問題の「構造」は不変である. さらに, 相隣る問題間の関係式を導き, これを解くことによって, 与問題の「解」を求める. このような方法で解に至るまでを, [[不変埋没原理]] (principle of invariant imbedding)による方法という [1] [4] [5].

　たとえば,「1から10までの自然数の和を求める」問題を考えてみよう. 以下ではいつも「1から」(前向きの方法で)考えることにして, この問題を <math>{\rm P}(10)\, </math> で表わし, 「解」(この場合, 和)を <math>S(10)\, </math> としよう. このとき, 「1から <math>n\, </math> までの自然数の和を求める」部分問題 <math>{\rm P}(n)\, </math> からなる群 <math>\{ {\rm P}(n); n = 1, 2, \ldots , 10\}\, </math> を考える. このこと自体が埋め込みである. 部分問題 <math>{\rm P}(n)\, </math> の解(<math>=\, </math>和)を <math>S(n)\, </math> とする. 最後の(一番大きい)問題 <math>{\rm P}(10)\, </math> の解 <math>S(10)\, </math> が求める解である. このとき, 最初の (一番易しい) 問題の解は <math>S(1) = 1\, </math> であり, 相隣る問題の解 <math>S(n)\, </math> と <math>S(n+1)\, </math> の間に漸化式

<center>
<math>S(n+1) = S(n) + n+1 \quad n = 1, 2, \ldots , 9; \quad S(1) = 1\, </math>
</center>

が成り立つ. 漸化式を <math>S(1), S(2), \ldots\, </math> の順に前向きに逐次解くことによって, <math>S(10) = 55\, </math> を得る. 他方, 「<math>n\, </math> から(いつも！)10までの自然数の和を求める」部分問題 <math>{\rm Q}(n)\, </math> の族を考えても, 上述と同様に解くことができる. これを後向きの埋め込みという.

　一般の問題では, どのような大きさの問題群に埋め込むか, 関係式が導けるか, 解けるか, 解き易いかなど, 埋め込み方に工夫を要する. たとえば, 多段階の最適化問題

<table align="center">
<tr>
<td><math>\mbox{max.} ~~ \psi(g_{1}(x_{1},x_{2}) \circ g_{2}(x_{2},x_{3}) \circ
\cdots \circ g_{N}(x_{N},x_{N+1}) \circ k(x_{N+1})) \, </math>
</td>
</tr>
<tr>
<td><math>\mbox{s. t.} ~~~ x_{n+1} \in A_{n}(x_{n}) \quad (1 \le n \le N), \, </math>
</td>
</tr>
</table>

の最大値 <math>u_{1}(x_{1})\, </math> と最大点 <math>x^{*} = (x_{1}, x_{2}^{*}, \ldots , x_{N+1}^{*})\, </math> を求めるには, 新たなパラメータ <math>\lambda_{n} (\in \Lambda_{n}(x_{n}))\, </math> を含む部分問題群 <math>{\mathcal P} = \{ {\rm P}_{n}(x_{n};\lambda_{n}) \}\, </math> :

<table align="center">
<tr>
<td><math>{\rm max.}~~ \psi(\lambda_{n} \circ g_{n}(x_{n},x_{n+1}) \circ \cdots
\circ g_{N}(x_{N},x_{N+1}) \circ k(x_{N+1})) \, </math></td>
</tr>
<tr>
<td><math>\begin{array}{l}\mbox{s. t.} ~~~ x_{m+1} \in A_{m}(x_{m}) \quad (n \le m \le N), \\
~~~~ x_{n} \in X_{n}, \; \lambda_{n} \in \Lambda_{n}(x_{n}), ~ (1 \le n \le N+1),
\end{array} \, </math></td>
</tr>
</table>

に埋め込むと, パラメータ空間列 <math>\{\Lambda_{n}(\cdot)\}\, </math> は前向きの再帰式

<table align="center">
<tr>
<td><math>\Lambda_{1}(x) = \{ \tilde{\lambda}\},~~x \in X_{1}\, </math> <math>(\tilde{\lambda}\, </math>は結合演算<math>\circ\, </math>の左単位元<math>)\, </math> </td>
</tr>
<tr>
<td><math>\begin{array}{lr}
\Lambda_{n+1}(y) = & \{\, \lambda \circ g_{n}(x,\,y) \, | \, \lambda \in \Lambda_{n}(x),~y \in A_{n}(x) \, \} \\
& y \in X_{n+1},~~ n = 1, 2, \ldots , N
\end{array}\, </math></td>
</tr>
</table>

で生成され, 最適値関数 <math>u_{n} = u_{n}(x_{n};\lambda_{n})\, </math>は次の後向き再帰式を満たす：

<table align="center">
<tr>
<td><math>u_{n}(x; \lambda) = \max_{y \in A_{n}(x)}u_{n+1}(\,y\,;
\lambda \circ g_{n}(x,\,y))\, </math></td>
</tr>
<tr>
<td align="right"><math>~~~~x \in X_{n}, ~~\lambda \in \Lambda_{n}(x),~~ n = 1, 2, \ldots , N\, </math></td>
</tr>
<tr>
<td><math>u_{N+1}(x; \lambda) = \psi(\lambda \circ k(x))~~x \in X_{N+1},~~\lambda \in \Lambda_{N+1}(x).\, </math></td>
</tr>
</table>

これを後ろから逐次解き, 最後の <math>u_{1}(x_{1};\lambda_{1})\, </math> に <math>\lambda_{1} = \tilde{\lambda}\, </math> を代入すると求める最大値が得られる： <math>u_{1}(x_{1}) = u_{1}(x_{1};\tilde{\lambda}).\, </math>

　また, [[非最適化]]問題としては, [[木の総容量]]など, 多重和 ([[多重和の解法]])

<table align="center">
<tr>
<td>[[スタイル検討#不変埋没原理 (0054-a-e-04-1)|スタイル検討]] <math>\mbox{S}_{1}(x_{1}):~~ {\sum \sum \cdots \sum}
_{(x_{2}, x_{3}, \cdots , x_{N+1}) \in P_{1}(x_{1})}
\psi(g_{1}(x_{1},x_{2}) \circ \cdots \circ
g_{N}(x_{N},x_{N+1}) \circ k(x_{N+1}))\, </math>
</td>
</tr>
<tr>
<td><math>(P_{1}(x_{1}) := \{(x_{2}, \cdots , x_{N+1})\, |\,
x_{n+1} \in A_{n}(x_{n})~~1 \le n \le N \})\, </math></td>
</tr>
</table>

を求める問題があって, やはりパラメータを含む埋め込みによって解くことができる.

　このようなパラメータを導入した埋め込みは[[非可分性 (動的計画法における)|非可分性]]に起因し, [[単一評価系 (多段決定過程における)|単一評価系]], [[複合評価系 (多段決定過程における)|複合評価系]]の最適化, 期待値最適化, 多重和, 多重積分 ([[多重積分の解法]]) などで考えられる [2] [3]. 不変埋没原理は変数の離散と連続, システムの確定や確率やファジィ, 問題の最適と非最適を問わず, 歴史的には数学(微分方程式, 偏微分方程式の応用), 物理数学などで, また近年はコンピュータサイエンスで幅広く用いられている.

----
'''参考文献'''

[1] R. E. Bellman and E. D. Denman, ''Invariant Imbedding'', Lect. Notes in Operation Research and Mathematical Systems, Vol. 52, Springer-Verlag, Berlin, 1971.

[2] S. Iwamoto and T. Fujita, "Stochastic Decision-making in a Fuzzy Environment," ''Journal of the Operations Research Society of Japan'', '''38''' (1995), 467-482.

[3] 岩本誠一,「不変埋没によるファジィ動的計画法」, 日本オペレーションズ・リサーチ学会第33回シンポジウム, 25-33, 1995.

[4] E. S. Lee, ''Quasilinearization and Invariant Imbedding'', Academic Press, 1968.

[5] 相良節夫, 杉坂政典,「Invariant Imbedding について」,『システムと制御』, '''17''' (1973), 596-601.

《多段確率決定樹表(ツリーテーブル)》

2007-07-16T13:26:37Z

220.104.197.230:

'''【ただんかくりつけっていじゅひょう (multistage stochastic decision tree-table)】'''

　[[多段確率決定樹表 (ツリーテーブル)|多段確率決定樹表]]は, いわゆる決定樹(ディシジョンツリー), 決定表(ディシジョンテーブル)をそれぞれ進化発展させ, 多段階にわたる確率決定過程の問題記述から最適解構成に至るまでを１枚に統合した図表である. 問題のデータを過程の進行状況に応じて配列し, あらゆる可能な経路とその評価値と確率を図示し, 各段における最適決定の選択を明示している. この意味では[[列挙法]]の解構成を与えている. この樹表ではあらゆる型の評価関数の[[期待値最適化 (多段決定過程における)|期待値最適化]], [[確率最適化 (多段決定過程における)|確率最適化]]が解かれる. 樹表には問題に応じて[[繰り返し法 (動的計画法における)|繰り返し法]], [[直接法 (動的計画法における)|直接法]]などいくつかの型がある[1][2][3].

　ここでは3状態2決定2段(3-2-2)モデルで加法型最適化問題：

<center>
<math>\begin{array}{ll}
\mbox{max.} & \mbox{E}[\,r_{0}(u_{0})
+ r_{1}(u_{1}) + r_G(x_2) \,] \\
\mbox{s. t.} &
p(\,\cdot \,|x_n,u_n) \sim x_{n+1} ~\, (n = 0, 1, u_{0} \in U),
\ u_{1} \in U,
\end{array}</math>
</center>

を考える. ただし, 数値は次の通り：

<center>
<math>r_{0}(a_{1}) = 0.7 \quad r_{0}(a_{2}) = 1.0; \quad r_{1}(a_{1}) = 1.0 \quad r_{1}(a_{2}) = 0.6</math>

<math>r_G(s_{1}) = 0.3 \quad r_G(s_{2}) = 1.0 \quad r_G(s_{3}) = 0.8</math>
</center>

<center>
表1：状態 <math>s_1\, </math> からの２段確率決定樹表

[[スタイル検討#多段確率決定樹表(ツリーテーブル) (0053-a-e-03-1)|スタイル検討]]

表2：状態 <math>s_1\, </math> からの２段確率決定樹表(続き)

[[スタイル検討#多段確率決定樹表(ツリーテーブル) (0053-a-e-03-2)|スタイル検討]]
</center>

:決定樹表(繰り返し法)では, 次のように簡略化している：

::履歴 = <math>x_0~~r_{0}(u_0)\,</math>／<math>u_0~~p_0~~x_1~~r_{1}(u_1)\,</math>／<math>u_1~~p_1~~x_2~~r_G(x_2)\,</math>

::ただし <math>p_0 = p(x_1 | x_0,u_0), ~p_1 = p(x_2 | x_1,u_1)\,</math>

::加法 <math>=\, </math> 評価値の和 <math>= r_{0}(u_0) + r_{1}(u_1) + r_G(x_2)\,</math>

::経路 <math>=\,</math> 経路確率 <math>= p_0 p_1\, </math>

::積 <math>=\, </math> 加法 <math>\times\,</math> 経路, 　　部期 <math>=\, </math>部分期待値, 　　全期 <math>=\, </math> 全期待値.

この樹表によって <math>s_{1}\, </math> からの(最適原始決定関数を経て)最適一般決定関数

<center>
<math>\sigma_{0}(s_{1}) = a_{2}; \quad \sigma_{1}(s_{1}, s_{1}) =
a_{2}, \quad \sigma_{1}(s_{1}, s_{2}) = a_{1}, \quad \sigma_{1}(s_{1}, s_{3}) = a_{1},a_{2}</math>
</center>

および最大値 <math>V_{1}(s_{1}) = \mathbf{2.791}</math> が得られる. さらに, <math>s_{2},\,s_{3}</math> からの樹表(省略)と合わせると, [[マルコフ政策]]<math>\pi = \{\pi_{0}, \pi_{1} \} : \, </math>

<center>
<math>\pi_{0}(s_{1}) = a_{2}, \quad \pi_{0}(s_{2}) = a_{2}, \quad \pi_{0}(s_{3}) = a_{2}</math>

<math>\pi_{1}(s_{1}) = a_{2}, \quad \pi_{1}(s_{2}) = a_{1}, \quad \pi_{1}(s_{3}) = a_{1}</math>
</center>

が最適になっていることがわかる. これは加法型特有の性質である. 一般に, 任意の評価関数に対しては, [[原始政策]], したがって[[一般政策 (逐次決定過程における)|一般政策]]が最適になる.

----
'''参考文献'''

[1] S. Iwamoto and T. Fujita, "Stochastic Decision-making in a Fuzzy Environment," ''Journal of the Operations Research Society of Japan'', '''38''' (1995), 467-482.

[2] T. Fujita and K. Tsurusaki, "Stochastic Optimization of Multiplicative Functions with Negative Value," ''Journal of the Operations Research Society of Japan'', '''41''' (1998), 351-373.

[3] S. Iwamoto, K. Tsurusaki and T. Fujita, "Conditional Decision-making in a Fuzzy Environment," ''Journal of the Operations Research Society of Japan'', '''42''' (1999), 198-218.

《両的計画》

2007-07-16T13:21:37Z

220.104.197.230:

'''【りょうてきけいかく (bynamic programming)】'''

　動的計画法は単調性 monotonicity と再帰性 recursiveness (可分性 separability) の下で適用される. この単調性は目的関数の「非減少性」を意味しているが, これを両調性 bitonicity「非減少性または非増加性のいずれか」まで拡大解釈すると, より広い逐次決定過程が考えられる. これを[[両的計画]]と呼ぶ. 特に, 確率システム上では[[マルコフ両決定過程]][3]という. これは確率的動的計画法を単にマルコフ決定過程ということに準じている.

　両的計画法によって最大化問題を解く場合, 与問題に対する部分最大化問題群ばかりでなく部分最小化問題群をも考える必要がある. このとき, 最大値関数と最小値関数の間に成り立つ連立再帰式を[[両帰式 (動的計画法における)|両帰式]]という. [[負値乗法型評価系]][1], [[負値乗加法型評価系]] [2] の最適化問題や[[最短最長ルート問題]]などは両帰式で解ける.

　さて, 逐次決定過程が次の要素で与えられるとしよう：

　
　
:<math>S\, </math> は状態空間, <math>s_{n} \in S\, </math> は第<math>n\, </math>状態, <math>A\, </math>は決定空間

:<math>A(s_{n})\, </math>は<math>s_{n}\, </math>での可能決定空間, <math>a_{n} \in A(s_{n})\, </math>は第<math>n\, </math>決定

:<math>r : S \times A \to \mathbf{R}^{1}</math>は利得関数, <math>\beta : S \times A \to (-1,\,1)\, </math>は割引き関数

:<math>k : S \to \mathbf{R}^{1}\, </math>は終端関数, <math>T : S \times A \to S\, </math>は状態変換

:<math>p = \{p(t|s,a)\}\, </math>はマルコフ推移法則, <math>\sum_{t \in S}p(t|s,a) = 1, p(t|s,a) \ge 0\, </math>

このとき, 確定系上の負値乗加法評価系の最大化または最小化は

<center>
<math>\begin{array}{lll}
{\rm max.~and~min.} & r_{1} + \beta_{1}r_{2} +
\beta_{1}\beta_{2}r_{3} + \cdots \\
& + \beta_{1}\beta_{2} \cdots \beta_{N-1}r_{N} +
\beta_{1}\beta_{2} \cdots \beta_{N}k \\
\mbox{s. t.} \; T(s_n,a_n) = & s_{n+1}, ~ a_{n} \in A(s_{n}) \quad (n = 1, 2, \ldots, N),
\end{array}\, </math>
</center>

で表わされる. ただし <math>r_{n} = r(s_{n},a_{n}),~~\beta_{n}= \beta(s_{n},a_{n})\, </math>. このとき, 第<math>n\, </math>段の状態 <math>s_{n}\, </math> から始まる部分問題

<center>
<math>\begin{array}{lll}
{\rm max.~and~min.} & r_{n} + \beta_{n}r_{n+1} +
\beta_{n}\beta_{n+1}r_{n+2} + \cdots \\
& + \beta_{n}\beta_{n+1} \cdots \beta_{N-1}r_{N} +
\beta_{n}\beta_{n+1} \cdots \beta_{N}k \\
\mbox{s. t.} \; T(s_m,a_m) = & s_{m+1}, ~ a_{m} \in A(s_{m}) \quad (m = n, n+1, \ldots, N ),
\end{array}\, </math>
</center>

の最大値を <math>U_{n}(s_{n})\, </math>, 最小値を <math>u_{n}(s_{n})\, </math> とすると, 両最適値関数は両帰式

<table align="center">
<tr>
<td>
<math>U_{n}(s) = \max_{a:-}T(s,a; u_{n+1}) \vee \max_{a:+}T(s,a; U_{n+1})\, </math>
</td>
</tr>
<tr>
<td><math>u_{n}(s) = \min_{a:-}T(s,a; U_{n+1}) \wedge \min_{a:+}T(s,a; u_{n+1})
\quad \quad \mbox{(1)}\, </math>
</td>
</tr>
<tr>
<td><math>U_{N+1}(s) = u_{N+1}(s) = k(s)\, </math> </td>
</tr>
</table>

を満たす. ここに~ <math>T(s,a; w) := r(s,a) + \beta(s,a)w(T(s,a)), ~ a:-(+)\, </math>は <math>\beta(s,a) <(\ge)\, 0\, </math> なる <math>a\, </math> である.

　また, マルコフ推移法則 <math>p = \{p(t|s,a)\}\, </math> 上での期待値最適化問題

<table align="center">
<tr>
<td><math>\begin{array}{ll}
{\rm max.~and~min.} & E[\,r_{1} + \beta_{1}r_{2} +
\beta_{1}\beta_{2}r_{3} + \cdots \\
& + \beta_{1}\beta_{2} \cdots \beta_{N-1}r_{N} +
\beta_{1}\beta_{2} \cdots \beta_{N}k\,]
\end{array}\, </math></td>
</tr>
<tr>
<td><math>\mbox{s. t.} \; \; p(\cdot|s_n,a_n) ~ \sim s_{n+1}, ~ a_{n} \in A(s_{n}) \;
(n = 1,2, \ldots ), \, </math>
</td>
</tr>
</table>

の両帰式は一次変換

<center>
<math>T(s,a; w) := r(s,a) + \beta(s,a) {\displaystyle \sum_{t \in S}w(t)p(t|s,a)}\, </math>
</center>

を用いて(1)と同じ型で与えられる[4].

----
'''参考文献'''

[1] R. Bellman, ''Dynamic Programming'', Princeton Univ. Press, 1957.

[2] S. Iwamoto, "From Dynamic Programming to Bynamic programming," ''Journal of Mathematical Analysis and Applications'', '''177''' (1993), 56-74.

[3] S. Iwamoto, "On Bidecision Processes," ''Journal of Mathematical Analysis and Applications'', '''187''' (1994), 676-699.

[4] T. Fujita and K. Tsurusaki, "Stochastic Optimization of Multiplicative Functions with Negative Value," ''Journal of the Operations Research Society of Japan'', '''41''' (1998), 351-373.

《動的計画》

2007-07-16T13:13:22Z

220.104.197.230:

'''【どうてきけいかく (dynamic programming)】'''

　多変数最適化問題の目的関数が再帰性(可分性)と単調性をもち, 制約条件に逐次性があるとき, [[再帰式 (動的計画法の)|再帰式]] を導いて, これを１変数ずつ解いて最後に与問題の最適解を求めようとする方法を, [[動的計画]](dynamic programming)と呼ぶ. 原理としては <math>\mbox{(i)}\, </math> [[最適性の原理]] (principle of optimality), <math>\mbox{(ii)}\, </math> [[不変埋没原理]](principle of invariant imbedding), <math>\mbox{(iii)}\, </math> 因果律の原理(principle of causality), の三つに基づく[1]. 最適性の原理には <math>\mbox{(1)}\, </math> オリジナル版, <math>\mbox{(2)}\, </math> シンプル版, <math>\mbox{ (3)}\, </math> "<math>\mbox{Life}\, </math>"版, <math>\mbox{(4)}\, </math> 構造解析版, <math>\mbox{(5)}\, </math> 数学版, などがある[9]. 数学的には[[マックスマックス定理 (逐次過程における)|マックスマックス定理]] に遡ることができる[2][4]. 応用面では, [[逐次決定過程]] [3][6]の基本原理として用いられ, マルコフ決定過程の政策改良法, 最短経路問題のダイクストラ法, 巡回セールスマン問題など種々の最適化問題の解法としてアルゴリズムに組み込まれている.

　一般に, 再帰型関数 <math>h : [0, \infty)^{N} \to \mathbf{R}^{1}\, </math> は

<center>
<math>h(x_{1}, x_{2}, \ldots , x_{N}) =
h_{1}(x_{1};h_{2}(x_{2};\ldots , h_{N-1}(x_{N-1};h_{N}(x_{N})) \ldots ))\, </math>
</center>

で表わされる. このとき, 部分関数 <math>h_{n} : [0, \infty)^{N-n+1} \to \mathbf{R}^{1}\, </math> を

<center>
<math>h_{n}(x_{n}, \ldots , x_{N}) := h_{n}(x_{n};\ldots ,
h_{N-1}(x_{N-1};h_{N}(x_{N})) \ldots )\, </math>
</center>

で定義する. 構成要素の１変数関数 <math>h_{n}(x;\cdot), h_{N}(\cdot)\, </math> がすべて単調な(狭義単調な)とき, 特に単調性(狭義単調性)をもつ再帰型関数という. 単調性をもつ再帰型関数 <math>f,\, g</math> を目的式と制約式にする主問題

<center>
<math>\mbox{P}(c) \quad
\begin{array}{lll}
\mbox{max.} & f(x_{1}, x_{2}, \ldots , x_{N}) \\
\mbox{s. t.}& g(x_{1}, x_{2}, \ldots , x_{N}) \le c, & x_{1},x_{2},\ldots ,x_{N} \ge 0,
\end{array}\, </math>
</center>

の解(最大値関数と最大点関数)は次のように求められる：

主問題 <math>\mbox{P}(c)\, </math> を部分問題群 <math>{\mathbf P} = \{\mbox{P}_{n}(c)\}:\, </math>

<center>
<math>\mbox{P}_{n}(c) \quad
\begin{array}{lll}
\mbox{max.} & f_{n}(x_{n}, \ldots , x_{N}) \\
\mbox{s. t.}& g_{n}(x_{n}, \ldots , x_{N}) \le c, & x_{n}, \ldots ,x_{N} \ge 0,
\end{array}\, </math>
</center>

に埋め込み, この最大値を <math>u_{n}(c)\, </math> とする. このとき, 制約式の狭義単調性と両式の連続性を仮定すると, 再帰式

<table align="center">
<tr>
<td><math>u_{n}(c) =\max_{x \ge 0} \, f_{n}(\,x\,;
u_{n+1}(g_{nx}^{-1}(c))) \quad 1 \le n \le N-1\, </math>
</td>
</tr>
<tr>
<td><math>u_{N}(c) =f_{N}(g_{N}^{-1}(c))\, </math></td>
</tr>
</table>

が成り立つ. ただし, <math>g^{-1}_{nx}(\cdot)\, </math> は <math>g_{n}(x;\cdot)\, </math> の逆関数. この再帰式を後向きに解いて, 最後に主問題の最大値 <math>u_{1}(c)\, </math> が得られる. これが動的計画法である. さらに, 主問題 <math>\mbox{P}(c)\, </math> と逆問題

<center>
<math>\mbox{I}(c) \quad
\begin{array}{lll}
\mbox{min.} & g(x_{1}, x_{2}, \ldots , x_{N}) \\
\mbox{s. t.}& f(x_{1}, x_{2}, \ldots , x_{N}) \ge c, & x_{1},x_{2},\ldots ,x_{N} \ge 0,
\end{array}\, </math>
</center>

の解(最小値関数と最小点関数)の間には互いに逆関数の関係にある([[逆定理 (動的計画法における)|逆定理]] [5]). これは線形計画における双対定理に類似して, 動的計画の双対定理と考えられる[11].

　また, 狭義単調性をもつ再帰型関数 <math>h\, </math> が終端値 <math>k\, </math> をもつときは

<center>
<math>h(x_{1}, \ldots , x_{N}, k) = h_{1}(x_{1};\ldots , h_{N-1}(x_{N-1};h_{N}(x_{N};k)) \ldots )\, </math>
</center>

で表わされる. これに対して反転関数(逐次パラメトリック逆関数) <math>h^{-1} : \mathbf{R}^{N+1} \to \mathbf{R}^{1}\, </math> を

<center>
<math>h^{-1}(x_{N}, \ldots , x_{2}, x_{1}, c)
:\;=\; h^{-1}_{N}(x_{N};\ldots , h^{-1}_{2}(x_{2};h^{-1}_{1}(x_{1};c)) \ldots
)\, </math>
</center>

で定義する. このとき, 目的式 <math>f\, </math>, 制約式 <math>g\, </math> (ただし <math>g_{N}(x_{N};l)
:= g_{N}(x_{N}) + l )\, </math>をもつ主問題の反転問題を

<center>
<math>\mbox{R}(c) \quad
\begin{array}{lll}
\mbox{min.} & f^{-1}(x_{N}, \ldots , x_{1}, u_{1}^{-1}(c)) \\
\mbox{s. t.}& g^{-1}(x_{N}, \ldots , x_{1}, c) = 0, & x_{N},\ldots ,x_{1} \ge 0,
\end{array}\, </math>
</center>

で考えると, 反転問題の最小値は主問題の終端値となる ([[反転定理]] [7]).

　さらに, 準線形化, 最大変換(共役変換)による双対理論を組み込んだ[[三面鏡理論]] [8]が制御過程上で展開されている. 逆問題, 反転問題, 双対問題は基本的に動的計画法で解くことができるが, それぞれの問題の最適解は直接解くことなく, 対応する定理によって得られる[7].

　再帰性, 単調性がない場合の最適化としては, 非可分性との関連で結合性などの下で[[事前条件付き決定過程]], [[事後条件付き決定過程]][10]が[[ファジィ動的計画]], 非加法型再帰的効用関数の経済学などで研究されている. これらの問題はマルコフ政策のクラスで再帰式が導かれる.

----
'''参考文献'''

[1] R. Bellman, ''Dynamic Programming'', Princeton Univ. Press, 1957.

[2] G. H. Hardy, J. E. littlewood and G. Pólya, ''Inequalities, 2nd ed.,'' Cambridge Univ. Press, 1952.

[3] 茨木俊秀,『組合せ最適化の理論』, 電子通信学会, 1979.

[4] 伊理正夫ほか, 座談会「最大問題最小問題をめぐって」,『数学セミナー』, 7月号 (1966), 40-48.

[5] S. Iwamoto, "Inverse Theorems in Dynamic Programming I, II, III," ''Journal of Mathematical Analysis and Applications'', '''58''' (1977), 113-134, 249-279, 439-448.

[6] 岩本誠一,「逐次決定過程としての動的計画論I,II」,『オペレーションズ・リサーチ』, '''22''' (1977), 427-434, 496-501.

[7] 岩本誠一,『動的計画論』, 九州大学出版会(経済工学シリーズ), 1987.

[8] S. Iwamoto, "A three mirror problem on dynamic programming," in ''Proceedings of the Third Bellman Continuum Workshop'', 363-382, 1989.

[9] 岩本誠一,「動的計画の最近の進歩」, 第２回ＲＡＭＰシンポジウム論文集, 129-140, 1990.

[10] S. Iwamoto, "Conditional decision processes with recursive reward function,"''Journal of Mathematical Analysis and Applications'', '''230''' (1999), 193-210.

[11] 近藤次郎,『最適化法』, コロナ社, 1984.

《ロバスト化技術》

2007-07-16T13:06:13Z

220.104.197.230:

'''【ろばすとかぎじゅつ (design of robust algorithms) 】'''

　幾何アルゴリズム理論は, 無限精度で計算ができるという前提のもとで発展してきたため, 有限精度の計算しかできない現実のコンピュータでそのまま走らせても正常に動作するとは限らない. 誤差のために対象の位置関係の判定を誤ると, 矛盾が生じてアルゴリズムが破綻してしまう. このように数値的に不安定なアルゴリズムを, 有限精度で計算を行っても破綻しないソフトウェアへ改良する技術は, [[ロバスト化技術]] (design of robust algorithms) とよばれる.

　代表的なロバスト化技術の一つは, 対象の位置関係の判定を正確に行えるだけの十分高い精度の計算を用いる方法である. これは[[厳密計算法]] (exact arithmetic method) とよばれる. 点の座標を始めとする幾何データはそもそも有限の精度でコンピュータに与えられる. したがって, それに有限回の四則演算を施した結果も離散的な値しかとりえない. 幾何的位置関係は, そのような計算結果の符号によって判定されるから, 正確な判定に必要な計算精度も有限ですむ. これが厳密計算法の原理である [1, 2].

　たとえば 2 次元平面内の点 <math>{\rm P}_i \; (i=1,2, \cdots)\, </math> の座標 <math>(x_i,y_i)\, </math>が <math>k\, </math> ビットの整数で与えられた場面で, 点 <math>{\rm P}_{2i-1}\, </math>と点 <math>{\rm P}_{2i}\, </math> を通る 3直線 <math>(i=1,2,3)\, </math> が同一の点で交わるか否かを判定したいとする. 通常の整数の表現は絶対値に <math>k-1\, </math> ビット, 符号に 1 ビットを使っているとみなすことができるので

<center>
<math>|x_i|, |y_i| \leq 2^{k-1}-1 \quad (i=1,2, \cdots )\, </math>
</center>

である. 一方, 3 直線が 1 点で交わるための必要十分条件は, 3 本の直線を表す方程式の係数行列の行列式

<center>
<math>F=\left| \begin{array}{ccc}
y_2-y_1 & x_1-x_2 & x_2y_1-x_1y_2\\
y_4-y_3 & x_3-x_4 & x_4y_3-x_3y_4\\
y_6-y_5 & x_5-x_6 & x_6y_5-x_5y_6 \end{array} \right|\, </math>
</center>

が 0 となることである. アダマールの不等式(行列式の絶対値は, その行列の列ベクトルの大きさの積より大きくない)より

<center>
<math>F < (\sqrt{3}\cdot 2^k) (\sqrt{3}\cdot 2^k) (\sqrt{3}\cdot 2^{2k-1}) =3\sqrt{3}2^{4k-1}< 2^{4k+2}-1\, </math>
</center>

である (上の不等式は, たとえば第 1 列ベクトルの大きさは

<center>
<math>\sqrt{(y_2-y_1)^2+(y_4-y_3)^2+(y_6-y_5)^2}\leq \sqrt{3 \cdot 2^{2k}}=\sqrt{3}\cdot 2^k\, </math>
</center>

であることなどから導ける). したがって <math>4k+3\, </math> ビットの長さの整数表現を用いて <math>F\, </math> を計算すれば正しく値が計算でき, その符号も正しく判定できる. このように厳密計算法では, おのおのの計算式に対して, その符号を正しく知るために必要な精度の上限を見積り, その精度を確保した上で判定のための計算を行なう. これによって, 矛盾の発生を防ぐことができる.

　厳密計算法では位置関係が厳密に判定できるために三角形の 3 頂点が一直線上に並ぶなどの退化した状況も厳密にわかる. したがって, それぞれの退化に対する例外処理を整備しないとアルゴリズムは完成しない. しかし, 例外処理のためのソフトウェア作りは苦痛の多い作業である. これを回避するための自動退化解消法が[[記号摂動]] (symbolic perturbation) とよばれる技術である. 幾何アルゴリズムの入力データとなる座標値などの数値は整数環あるいは有理数体の要素とみなせる. ここに無限小を表す記号 <math>\varepsilon\, </math>を導入し, 入力データに <math>\varepsilon</math> の多項式を加えることによって, 入力データに無限小の摂動を与える. このようにして数値の世界を<math>\varepsilon\, </math> の多項式の世界へ拡張し, この多項式の世界で計算と符号判定を行なう. このとき, 入力データに与える摂動の大きさを工夫すると計算結果が決して 0 にならないようにすることができる. 退化とは正か負かを判定すべき値が 0 になることであるから, この摂動によって退化の生じない世界を自動的に作ることができる. 記号摂動を用いると, 例外は生じないものと仮定してソフトウェア作りができ, しかもでき上がったソフトウェアは退化した入力に対しても正常に動作する. 詳しくは文献 [1, 3] などを参照されたい.

　もう一つの代表的なロバスト化技術に[[位相優先法]] (topology-oriented method) がある. これは, 厳密計算法とは逆に数値計算結果はもともと誤差を含むものであるという前提に立って, 対象の位相的構造の一貫性を保つことを数値計算結果より優先順位の高い情報とみなすことによって, 位相的矛盾の発生を防ぐ方法である. この方法は, 通常の浮動小数点計算が利用できるため処理速度が速いうえに, 例外処理がいらないという利点をもつ. ただし, 厳密計算法ほどその適用方法は機械的ではない. 扱う幾何的対象がもつべき位相的性質を抽出してそれを利用するから, 扱う問題ごとの個別の工夫が必要である. 厳密計算法は初心者用技術, 位相優先法は中級者向け技術といえよう. この手法の詳細は文献 [1] などを参照されたい.

----
'''参考文献'''

[1] 杉原厚吉, 『計算幾何工学』, 培風館, 1994.

[2] C. Yap and T. Dubé, "The Exact Computation Paradigm," in ''Computing in Euclidean Geometry, Second Edition'', D.-Z. Du and F. Hwang, eds., World Scientific, Singapore, 452-492, 1995.

[3] H. Edelsbrunner and E. P. Mücke, "Simulation of Simplicity -A Technique to Cope with Degenerate Cases in Geometric Algorithms," in ''Proceedings of the 4th Annual Symposium on Computational Geometry'', Urbana-Champaign, Illinois, 118-133, 1988.

《ランダマイゼーション》

2007-07-16T13:03:49Z

220.104.197.230:

'''【らんだまいぜーしょん (randomization) 】'''

　ランダマイゼーション(randomization)は, アルゴリズムの中にランダムな要素を導入し, それにより最悪の場合にとらわれない簡単で実際に速いアルゴリズムを構成しようという手法である. ランダマイザーションすることによって得られるアルゴリズムをランダム化アルゴリズムとよぶ. メタヒューリスティックスのシミュレーティッド・アニーリングから素数判定のランダム化数論アルゴリズムまで幅広く用いられている. ランダマイゼーションは, アルゴリズムに対する入力になんらかの確率分布を仮定して計算時間を平均的に評価するとかいうのではない. 教科書も既にあり, [2] は全般的なアルゴリズムについて, [3] は計算幾何のアルゴリズムについて詳しい.

　本項では, 計算幾何の問題に対するランダマイゼーションの代表的手法についてまとめる. 代表的手法としては次の2つのものがあり, 以下その説明をする.

'''ランダム抽出(random sampling)'''　ランダムに選ぶことにより全体を反映した部分集合を定め, その抽出した部分集合の情報をフルに活用するもの

'''ランダム順添加法(randomized incremental method)'''　アルゴリズムの構成のもっとも簡単なパラダイムである逐次添加法において, 添加順をランダム化する方法で, 添加法の実用性を示すものでもある.

'''(a) ランダム抽出'''　ランダム抽出法の目指すところは, 部分で全体を表すということである. そうできると, 部分を計算するだけで情報がある程度の得られるという計算量の観点からの利点がある.

　代表的な例で, 平面上の<math>n\, </math>個の点の集合<math>S\, </math>の<math>\epsilon\, </math>-近似<math>T\, </math>を考える. 任意の<math>\epsilon\ge0\, </math>に対して, <math>S\, </math>の部分集合<math>T\, </math>が<math>\epsilon\, </math>近似である}とは, 任意の半平面<math>h\, </math>に対して次式が成り立つことをいう.

<center>
<math>\left| {|S\cap h|\over|S|}-{|T\cap h|\over |T|}\right|
\le\epsilon\, </math>
</center>

　任意の<math>\epsilon\, </math>に対して, <math>T=S\, </math>とすればそれは<math>\epsilon\, </math>近似になっているから, このような<math>\epsilon\, </math>近似の存在は保証されるので, <math>T\, </math>のサイズをどこまで小さくできるかがポイントである. ランダム抽出の理論を適用すると, 次の定理が成り立つ( [1] 参照).

'''定理.''' 任意の<math>\epsilon,\ \delta>0\, </math>に対して, 点集合<math>S\, </math>から少なくとも

<center>
<math>m\ge{16\over\epsilon^2}\left(3\ln{48\over\epsilon^2}+\ln{4\over\delta}\right)\, </math>
</center>

なる<math>m\, </math>点をランダムかつ独立に選んで得られる集合<math>T\, </math>は, 少なくとも<math>1-\delta\, </math>の確率で<math>S\, </math>の<math>\epsilon\, </math>-近似である.

　この定理より, 任意の<math>\epsilon>0\, </math>に対して, <math>\delta\, </math>を1に近付けても, ある確率で<math>\epsilon\, </math>近似が単純なサンプリングで求められということがわかる. 確率が正ならその事象が存在するので, ほぼ定理のサイズの<math>\epsilon\, </math>-近似の存在定理も導かれる.
　このように<math>\epsilon\, </math>-近似は全体の点数に関係のない点数の部分集合で, 半平面に含まれる点数に関する近似を与えており, 部分によって全体を表現できている. このようなランダム抽出に関する定理は, アルゴリズム構成面で自然と分割統治に使えて有用である. さらに理論の観点からは, 各ニューロンが単純な線形しきい値関数である場合のニューラルネットでの学習能力と関係している.

'''(b) ランダム順添加法'''　ランダム順添加法も有用な方法である. これは, アルゴリズム設計のパラダイムの1つである逐次添加法 (incremental method)をもとにするものである. 従来の逐次添加法は, <math>n\, </math>要素の問題を解くときに, 最初は定数個(例えば2,3)の要素の部分問題に対する解から始めて, <math>i\, </math>個の要素の部分問題の解があるとき, <math>i+1\, </math>番目の要素をそこに加えて<math>i+1\, </math>個の要素の部分問題に対する解をつくり, これを<math>n\, </math>個全体に対する解が得られるまで繰り返す方法である. このとき, <math>i\, </math>個の要素の部分問題に対する解がわかっていれば, 通常それに1個加えた<math>i+1\, </math>個の部分問題に対する解は, ゼロからその<math>i+1\, </math>個の問題を解くのに比べて, はるかに効率よく求めることができるということが, 高速アルゴリズムを得るために役立つ. たとえば, 挿入ソートなどは, この典型例である.

　ランダム順添加法では, ランダマイゼーションにより要素をランダム順に並べ, その順に逐次添加を行なっていく. それによって, 最悪の場合を考えたとき, 単に与えられた順で添加していくと, たいてい逐次添加法にとっては都合の悪い順番が存在し, その場合の計算量が最悪計算時間となってしまうことが多いのに対し, ランダマイゼーションによってそれを避けることができる. これは, 入力になんらかの分布を仮定して平均計算時間を評価するのと近く, ただ複雑な問題では入力の分布として妥当なものを考えることが難しいので, 作為的な入力分布を仮定するより, アルゴリズムの中でランダマイゼーションした方がより汎用的な成果が得られる. また, ランダマイゼーションアルゴリズムといっても, もし, 入力の分布に関して, そう悪い例が出てこなさそうであれば, 実際には単に与えられた順で添加をしていけばよいのである. このランダム順添加法は, 低次元線形計画や凸包構成など幅広く適用されている.

----
'''参考文献'''

[1] 今井浩, 今井桂子, 『計算幾何学』, 共立出版, 1994.

[2] R. Motwani and P. Raghavan, ''Randomized Algorithms,'' Cambridge University Press, 1995.

[3] K. Mulmuley, ''Computational Geometry: An Introduction Through Randomized Algorithms,'' Prentice-Hall, 1994.

《双対変換》

2007-07-16T13:00:48Z

220.104.197.230:

'''【そうついへんかん (dual transformation) 】'''

　ORの様々な理論において，双対性は重要な役割を果たす．これは計算幾何でも同様で，特に双対性に対応する変換によって，ある問題を別のよりわかりやすい問題に変換して解くことができる．詳細については， [1, 2, 3]参照．

　まず，<math>d\, </math>次元空間の2次曲面の極と極面に関する[[極変換]]について述べる．<math>d\, </math>次元空間の超平面は，

<center>
<math>a_1x_1+a_2x_2+\cdots+a_dx_d+a_{d+1}=0\, </math>
</center>

で表される．<math>d\, </math>次元空間の2次曲面は，<math>(d+1)\times (d+1)\, </math>対称行列<math>A\, </math>と<math>(d+1)\, </math>次元ベクトル <math>\boldsymbol{x}=(x_1,x_2,\ldots,x_d,1)^{\top}\, </math>を用いて， <math>\boldsymbol{x}^{\top} A \boldsymbol{x}=0\, </math>と表せる．点<math>p=( \boldsymbol{p})=(p_1,p_2,\ldots,p_d)^{\top}\, </math>に対して，方程式

<center>
<math>\boldsymbol{x}^{\top} A( \boldsymbol{p},1)=(x_1,x_2,\ldots,x_d,1)A
(p_1,p_2,\ldots,p_d,1)^{\top}=0\, </math>
</center>

をみたす超平面<math>D(p)\, </math>を対応させる．逆に定数ベクトル<math>p=(p_1,p_2,\ldots,p_d)^{\top}\, </math>を用いて <math>\boldsymbol{x}^{\top} A( \boldsymbol{p},1)=0\, </math>と書ける超平面<math>h\, </math>に対して点<math>D(h)=p\, </math>を対応させる．明らかに<math>D(D(p))=p,D(D(h))=h\, </math>であり，この変換<math>D\, </math>は[[双対変換]]である．点<math>p\, </math>と超平面<math>D(p)\, </math> (点<math>D(h)\, </math>と超平面<math>h\, </math>) は，2次曲面<math> \boldsymbol{x} A \boldsymbol{x}^{\top}=0\, </math>に関する極と極面となる．2次曲面としては，円や放物線がよく用いられる．

　以下，簡単のため2次元の場合を述べる．放物線<math>y=(x^2)/2\, </math>を用いれば，点<math>p=(p_x,p_y)\, </math>に対する極線<math>D(p)\, </math>は<math>y=p_xx-p_y\, </math>となる．<math>y\, </math>軸に平行でない直線<math>h\, </math>は，傾き<math>p_x\, </math>と<math>y\, </math>切片のマイナスの<math>p_y\, </math>を用いて<math>y=p_xx-p_y\, </math>と表せ，<math>h\, </math>の極<math>D(h)\, </math>は点<math>(p_x,p_y)\, </math>となる．<math>p\, </math>が放物線上にあるとき，<math>p\, </math>での接線が<math>D(p)\, </math>となる．

　この変換は，接続関係(上下関係)を保存する．すなわち，点<math>p=(p_x,p_y)\, </math>と直線<math>h\colon y=q_xx-q_y\, </math>およびその双対変換<math>D(p)\colon y=p_xx-p_y\, </math>と<math>D(h)=(q_x,q_y)\, </math>に対して<math>p_y+q_y\, </math>と<math>p_xq_x\, </math>の大小関係に応じて以下のことが成立する．

:(a) 点<math>p\, </math>が直線<math>h\, </math>上にあるとき，およびそのときのみ，点<math>D(h)\, </math>は直線<math>D(p)\, </math>上にある<math>(p_y+q_y=p_xq_x)\, </math>．

:(b) 点<math>p\, </math>が直線<math>h\, </math>を境界とする上半平面(下半平面)にあるとき，およびそのときのみ，点<math>D(h)\, </math>は直線<math>D(p)\, </math>を境界とする上半平面(下半平面)にある．

　接続関係(上下関係)の不変性は，2次曲線として円や楕円を用いて変換を定義しても成立し，一般の<math>d\, </math>次元空間でも成立する．点の集合はそれだけで扱うとばらばらで考えにくいため，アルゴリズム的にも上下関係など関係式がわかるように，この双対変換を適用して，直線(超平面)の集合からできる平面(空間)の交差図形を利用することがしばしば行われる．このとき，双対変換で1対1に対応するとともに，この関係式が保存され，直線(超平面)が交わって空間を分割することから問題がとらえやすくなる．このような直線(超平面)による平面(空間)の交差図形を[[アレンジメント]]と呼ぶ．アレンジメントの1つのセルに対応する[[凸多面体]]についても，ファセットを含む超平面で定まる半空間の交わりとしても，端点の凸包としても表せる．これは双対性の現れで，すべての次元の構成要素であるフェイス全体がなす束でも，対応する束の上下を反転すれば同じとなる双対性が成り立つ．したがって，双対性から半空間の交わりを求めることと，点集合の凸包を求めることとは，アルゴリズムの計算量の観点からは同じである．

　2次曲線として円を用いた場合の極変換も重要である．このとき，原点以外の点<math>(p_x,p_y)\, </math>は直線<math>p_xx+p_yy-1=0\, </math>に変換される．この直線は，原点からの距離が原点と元の点<math>(p_x,p_y)\, </math>の距離の逆数になっており，原点と元の点を結ぶ直線に垂直で，原点に関して元の点と同じ側の直線となる．

　円に関する極変換の変形に反転がある．反転は，原点以外の点<math>(p_x,p_y)\, </math>を上の極変換した直線への原点からの垂線の足に対応させる．反転により，原点を通る円は直線に変換される．この変換をもう1次元高い空間で行うと，球と平面の間の変換が得られる．たとえば、<math>(0,0,1)\, </math>を中心とする半径1の球面を基本となる二次曲面として採用した場合の極変換では，<math>xy\, </math>平面は<math>(0,0,1/2)\, </math>を中心とする半径<math>1/2\, </math>の球へ変換される．この変換は[[立体射影]] (stereographic projection) と呼ばれる．

　さらなる変形として，画像処理で特に用いられている[[ハフ変換]] (Hough transformation) がある．2次元の直線を原点からこの直線への垂線の距離<math>r\, </math>と直線と<math>x\, </math>軸がなす角度<math>\theta\, </math>で表して，それを

<center>
直線　<math>x\sin\theta+y\cos\theta=r \ \mapsto\, </math>　点　<math>(r,\theta)\, </math>
</center>

と変換する．Hough変換は，画像からの直線成分やさらには楕円などを抽出することによく用いられる．

　極変換は2次曲線を核としていたが，核を一般の凸関数に拡張することもできる．この場合の双対変換は，Legendre変換と一般に呼ばれ，特に最適化の分野ではFenchelの共役性として知られている．この場合，核の凸関数の共役凸関数が定義でき，放物線<math>y=(x^2)/2\, </math>は自己共役になっている．凸関数の共役性は，凸解析の基本概念である．

----
'''参考文献'''

[1] H. Edelsbrunner, ''Algorithms in Combinatorial Geometry,'' Springer-Verlag, 1987.　邦訳(今井浩, 今井桂子訳), 『組合せ幾何学のアルゴリズム』，共立出版, 1995.

[2] F. P. Preparata and M. I. Shamos, ''Computational Geometry: An Introduction,'' Springer-Verlag, 1985. 邦訳 (浅野孝夫, 浅野哲夫訳) , 『計算幾何学入門』, 総研出版, 1992.

[3] 佐々木建昭, 今井浩, 浅野孝夫, 杉原厚吉, 『計算代数と計算幾何』, 岩波応用数学[方法9], 岩波書店, 1993.

《三角形分割》

2007-07-16T12:53:23Z

220.104.197.230:

'''【さんかくけいぶんかつ (triangulation) 】'''

　点集合の三角形分割(triangulation)とは, 2次元においてはその凸包を2-単体すなわち三角形に, 3次元では3-単体すなわち四面体に分割した構造である(四面体分割ともいう). 一般の次元の場合は単体分割あるいは簡単に三角形分割といわれる. 三角形分割は, 凸包・凸多面体とならんで基本的な幾何構造であり, 理論的に重要であるだけでなく, コンピューターグラフィクスや有限要素解析・内挿でのメッシュ生成など広く応用がある.

　<math>S=\{p_1,p_2,\ldots,p_n\}\, </math>を<math>d\, </math>次元の<math>n\, </math>点の集合, <math>\mbox{CH}(S)\, </math> を<math>S\, </math>の凸包とする. <math>S\, </math>の三角形分割<math>\tau= \{S_1,S_2, \dots ,S_m\}\, </math>とは, 次の条件を満たすものである.

:<math>\begin{array}{ll}
1. & {\rm dim}\ {\rm CH}(S_i) = d, \ |S_i| = d+1, \ S_i\subseteq S \quad (i = 1,2,\dots,m) \\
2. & \bigcup_{i=1}^m {\rm CH}(S_i) = {\rm CH}(S) \\
3. & {\rm CH}(S_i)\cap{\rm CH}(S_j)={\rm CH}(S_i\cap S_j) \ (i \neq j)
\end{array}\, </math>

　平面上の一般の位置にある点集合<math>S\, </math>と<math>S\, </math>の点をすべて用いる三角形分割を考える. <math>S\, </math>のどの三角形分割も, オイラー(L. Euler)の公式から同じ数の三角形をもつ. また, 三角形分割の個数については, 三角形分割の平面性に着目して解析することにより <math>{\rm O}(2^{{\rm O}(n)})\, </math>であることがいえる. 凸<math>n\, </math>角形の頂点の場合は, 三角形分割の個数は<math>\textstyle \frac{1}{n-1}{2n-4\choose n-2}\, </math>である. 動的計画法を用いることにより, 多角形内部の三角形分割の数を数えることは多項式時間で行えるが, 一般の点集合の三角形分割の個数を多項式時間で数えることができるかどうかは未解決の問題である. 多数の三角形分割の中から1つ選ぶ際の基準として代表的なものを上げる.

:1. (最小角最大) 三角形分割での全角度の最小のもの(最小角)を最大にする

:2. (最大角最小) 三角形分割での全角度の最大のもの(最大角)を最小にする

:3. (重み最小) 三角形分割の辺長の総和を最小にする

:4. (最大最小包含円最小) 三角形分割の各三角形の最小包含円(鈍角三角形の場合, 鈍角の対辺を直径にする円)のうち最大のものを最小にする

:5. (最大アスペクト比最小) 三角形分割の各三角形のアスペクト比(三角形の外接円半径と内接円半径の比)の最大のものを最小にする

他にも色々な評価規準が考えられる. 以下で述べるドロネー三角形分割は, このうち最小角最大, 最大包含円最小という性質を満たし(最大外接円最小も), かつ<math>{\rm O}(n\log n)\, </math>の高速の時間で求めることができる. 最大角を最小にする<math>{\rm O}(n^2\log n\, </math>)時間の動的計画法を用いたアルゴリズムも知られている. 一方, 辺長和を最小にする[[重み最小三角形分割]] 問題の複雑さについてはまだよくわかっていないが, 2次元の場合は解法が与えられている. 点集合が凸<math>n\, </math>角形の頂点集合の場合, 辺長和最小問題は動的計画法によって <math>{\rm O}(n^3)\, </math>時間で解ける. アスベクト比最適化なども含めた整数計画によるアプローチもはかられている.

　三角形分割を応用上も役立つものにしているのは, ドロネー三角形分割あるいは[[ドロネー図]]である. これはボロノイ図の双対グラフとして定義される. ここでは, アルゴリズム的にも有用な定義を与えておく. 2次元の点<math>p_i=(x_i,y_i) (i=1,\cdots,n)\, </math>に対して, 新たに<math>z\, </math>軸を考え, 3次元の点<math>p'_i=(x_i,y_i,x_i^2+y_i^2)\, </math>を対応させる. このとき, <math>p'_i (i=1,\cdots,n)\, </math>の3次元の凸包の<math>z\, </math>軸に関する下側境界を<math>(x,y)\, </math>平面に正射影したものを, <math>p_i\, </math> <math>(i=1,\ldots,n)\, </math>のドロネー図と定める.

　ドロネー三角形分割は, 各三角形の外接円が他の点を内部に含まない三角形分割として特徴づけられる. ドロネー三角形分割でないと, 点集合の中で凸四角形 <math>p_1,p_2,p_3,p_4\, </math>の三角形分割で, その三角形の外接円が他の点を含んでいるものが存在する. このとき使っている対角線をもう1つの対角線に取り換えると, 局所的に外接円に残りの1つの点は入らなくなる. 対角線を入れ換えることを対角変形といい, このように局所的にドロネー図に近付ける方向をドロネー対角変形という. 2次元では任意の三角形分割から<math>{\rm O}(n^2)\, </math>回ドロネー対角変形を行なうことで, 必ずドロネー三角形分割に変換できる.

　ドロネー三角形分割は, 上述のような様々な最適化基準を満たすが, その多くはこのドロネー対角変形によりその基準が改善されるという論法で証明される. その場合, 最小角最大を例にすると, 全ての角度を小さい順に並べたベクトルについて, ドロネー三角形分割は辞書式順序で最小なベクトルを与えることも示すことができる.

　三角形分割を2変数関数<math>f\, </math>の内挿関数<math>g\, </math>に適用した際, 曲面の三角形パッチによる近似の粗さの度合を
<math> \textstyle {\sum}_{S_i\in\tau}\int_{S_i}
\left[
\left(\partial g/\partial x\right)^2+
\left(\partial g/\partial y\right)^2
\right]{\rm d}x{\rm d}y
\, </math>
で定義すると, ドロネー対角変形は粗さ度を改善し, 最適性が導かれる. 最大最小包含円最小性は, 放物線のポテンシャル関数の性質によっている.

　高次元の三角形分割の構造は一般に難しい. 三角形(単体)の個数も一定ではなく, 一般化された高次元対角変形により任意の三角形分割間で変換できるかどうかもわかっていない. 3次元で, 非凸の多面体の内部を新しい点を導入することなく四面体に分割することができるかどうかという問題は, [[NP困難]]である.

　高次元三角形分割の性質のよい有用な部分クラスとして, 正則三角形分割(regular triangulation)がある. これは, 点集合<math>S\, </math>に対して新たなもう1次元方向を考え, その方向に各点に高さを与え, その分だけ新しい次元方向に持ち上げた点集合の凸包の下側境界を元の空間に正射影することにより得られるものである. もし, その凸包の下側境界にすべてのもち上げられた点がのっており, さらにそれらが一般の位置にあれば, 正射影されたものはまさしくこれまでの定義の三角形分割である. 正則三角形分割では与えられた点で三角形分割の頂点として使われないものもある. 2次元でも正則でない三角形分割は存在する.

　ドロネー三角形分割は正則であり, 正則三角形分割は高次元の場合も任意の2つの正則三角形分割は一般化対角変形で変換することができ, 2次元の三角形分割に通じるよい性質をもっている. さらに, 正則三角形分割は凸多面体と密接な関係をもった概念で, 数学・組合せ論で色々な展開が図られている. 詳細は [1] 参照.

----
'''参考文献'''

[1] 今井桂子, 「三角形分割全体の離散構造」, 『離散構造とアルゴリズムVI』 (藤重悟編), 近代科学社, 1999.

《ボロノイ図》

2007-07-16T12:47:49Z

220.104.197.230:

'''【ぼろのいず (Voronoi diagram) 】'''

　空間に生成元とよばれるいくつかの図形が配置されているとき, 空間の各点を最も近い生成元へ割り当てた構造を[[ボロノイ図]] (Voronoi diagram) という. 一つの生成元に割り当てられた点全体がなす領域を, その生成元のボロノイ領域または勢力圏という.

　空間 <math>E\, </math> に配置された生成元を <math>g_1, g_2, \cdots , g_n\, </math> とし, 生成元の集合を <math>G\, </math>とする. 任意の点 <math>{\rm P}\in E\, </math> から <math>g_i\, </math> までの距離を <math>d({\rm P}, g_i)\, </math> で表す. <math>g_i\, </math> のボロノイ領域 <math>R(G; g_i)\, </math> は

<center>
<math>R(G; g_i) = \{ {\rm P} \in E \mid d({\rm P}, g_i) < d({\rm P}, g_j), j \ne i\}\, </math>
</center>

と表すことができる. <math>E\, </math> は, <math>R(G; g_1), R(G; g_2), \cdots ,R(G; g_n)\, </math> とそれらの境界に分割されるが, その分割構造がボロノイ図である. 空間 <math>E\, </math> と, 生成元 <math>g_i \; (i=1, 2, \cdots , n)\, </math> と距離 <math>d\, </math> の選び方によってさまざまなボロノイ図が定義できる.

　点を生成元とし, ユークリッド距離を距離とするボロノイ図は[[点ボロノイ図]] (Voronoi diagram for points) とよばれる. 2次元では, ボロノイ領域の境界は, 両側の生成元を結ぶ線分の垂直二等分線の上にあり, 3つのボロノイ領域の境界が共有する点はまわりの 3 個の生成元を通る円の中心である.

　点ボロノイ図に対して, ボロノイ領域が隣り合う生成元を線分で結ぶことによってできる図形は[[ドロネー図]] (Delaunay diagram) とよばれる.

　互いに交差しない線分を生成元とし, ユークリッド距離を距離とするボロノイ図は[[線分ボロノイ図]] (Voronoi diagram for line segments) よばれる. 2 次元線分ボロノイ図の境界は線分と放物線の一部によって構成される.

　中心が <math>{\rm P}_i\, </math>, 半径が <math>r_i\, </math> の円を <math>c_i\, </math> とする. 点<math>{\rm P}\, </math> に対して<math>|{\rm P}-{\rm P}_i|^2-{r_i}^2\, </math>を, 点 <math>{\rm P}\, </math> と円 <math>c_i\, </math> のラゲール (Laguerre) 距離という. ただし<math>|{\rm P}-{\rm Q}|\, </math> は 2 点 <math>{\rm P}, {\rm Q}\, </math> のユークリッド距離を表す. 円 <math>c_1, c_2, \cdots , c_n\, </math> を生成元とし, ラゲール距離を距離とするボロノイ図を[[ラゲールボロノイ図]] (Laguere Voronoi diagram) またはパワー図 (power diagram) とよぶ. ラゲールボロノイ図の境界は超平面の一部である. 特に2次元では直線の一部であり, 3次元では平面の一部である.

　このほかにも <math>L_p\, </math>-距離, ハウスドルフ距離などさまざまな距離を用いてボロノイ図が定義できる. このように一般の距離に基づいて定義されるボロノイ図を[[一般距離ボロノイ図]] (Voronoi diagram based on a general distance) とよぶ.

　たとえば, 点を生成元とし, ユークリッド距離の逆数を距離とみなして定義されるボロノイ図は最遠点ボロノイ図 (farthest-point Voronoi diagram) とよばれる. このボロノイ図では, 他の生成元より自分の方が離れているという領域がそれぞれの生成元のボロノイ領域となる. 空でないボロノイ領域をもつのは, 生成元の凸包の境界上に現れる生成元のみである.

　生成元がその位置や形を時間とともに変えると, 対応するボロノイ図も時間とともに変化する. このように時間の関数となるボロノイ図は[[動的ボロノイ図]] (dynamic Voronoi diagram) とよばれる. 動的ボロノイ図は, 飛行機やロボットが互いに接近し過ぎないよう監視するときなどに役立つ.

　平面上に与えられた有限個の点の集合を <math>S\, </math> とする. <math>S\, </math> を含む最小の円を<math>S\, </math> の[[最小包含円]] (minimum enclosing circle) という. <math>S\, </math> の最小包含円は, <math>S\, </math> のちょうど 2 個の点を境界上にもつか, 3個以上の点を境界上にもつかのいずれかである. 前者の場合の最小包含円の中心は<math>S\, </math> を生成元集合とする最遠点ボロノイ図の辺上にあり, 後者の場合の最小包含円の中心はその最遠点ボロノイ図の頂点のいずれかと一致する.

　平面上の一つの多角形を <math>T\, </math> とし, <math>T\, </math> 内に指定された有限個の点の集合を <math>S\, </math> とする. <math>T\, </math> 内に中心をもち, <math>S\, </math> の要素を一つも内部に含まない円を空円といい, その中で半径が最大のものを[[最大空円]] (maximum empty circle) という. 最大空円の中心は, <math>T\, </math> の頂点か, <math>S\, </math> を生成元集合とするボロノイ図の頂点か, あるいはボロノイ図の辺と <math>T\, </math> の境界辺の交点のいずれかである.

　ボロノイ図の効率のよい構成法はたくさん知られている. たとえば 2次元では, 点ボロノイ図, 線分ボロノイ図, ラゲールボロノイ図が<math>{\rm O}(n\log n)\, </math> の計算量で構成できる. <math>d\, </math> 次元空間 (<math>d \geq 3\, </math>) における点ボロノイ図とラゲールボロノイ図は, <math>{\rm O}(n^{\lfloor (d+1)/2\rfloor})\, </math> の計算量で構成できる. ただし <math>\lfloor x \rfloor\, </math> は <math>x\, </math> 以下の最大の整数である.

　ボロノイ図に関する詳しい解説には [1, 2, 3] がある.

----
'''参考文献'''

[1] F. Aurenhammer, "Voronoi Diagrams -A Survey of a Fundamental Geometric Data Structure," ''ACM Computing Surveys'', '''23''' (1991), 345-405.

[2] A. Okabe, B. Boots, K. Sugihara and S. N. Chiu, ''Spatial Tessellations -Concepts and Applications of Voronoi Diagrams, 2nd Edition'', John Wiley and Sons, Inc., Chichester, 2000.

[3] S. Fortune, "Voronoi Diagrams and Delaunay Triangulations," in ''Computing in Euclidean Geometry, 2nd Edition'', D. -Z. Du and F. Hwang, eds., World Scientific, Singapore, 225-265, 1995.

《アレンジメント》

2007-07-16T12:44:42Z

220.104.197.230:

'''【あれんじめんと (arrangement) 】'''

　超平面のアレンジメント(hyperplane arrangement) とは, 超平面による空間の分割である. [[双対変換]]によって, 点集合は超平面集合に変換されるので, 点集合の問題にも対応する. また, 離散システムの観点からは, 線形有向マトロイドの1つの表現である. 組合せ幾何とアルゴリズムからの詳しい解説が [1] にある.

　<math>d\, </math>次元ユークリッド空間<math>{\mathbf R}^d\, </math>内の<math>n\, </math>個の超平面(<math>d=2\, \, </math>の場合は直線) の集合<math>H\, </math>を考える. この<math>H\, </math>によって, <math>{\mathbf R}^d\, </math>はいろいろな次元のフェイス (face) に分割される. 例えば, 2次元内の有限個の直線の集合は, 2次元, 1次元, 0次元のフェイス (面, 辺, 点) に平面を自然に分割する. これらのフェイスの集合とその接続関係, 各フェイスに対しそれを含む超平面の情報を合わせたものを<math>H\, </math>のアレンジメントといい, <math>{\mathcal A}(H)\, </math>と書く. フェイスの次元を明記したいときは, <math>k\, </math>次元<math>(0 \le k\le d)\, </math>のフェイスを<math>k\, </math>-フェイスと書く. <math>0\, </math>-フェイスを頂点, <math>1\, </math>-フェイスを辺, <math>(d-1)\, </math>-フェイスをファセット (facet), <math>d\, </math>-フェイスをセル (cell) とも呼ぶ.

　フェイス<math>f\, </math>がフェイス<math>g\, </math>の部分フェイスであるとは, <math>f\, </math>の次元が<math>g\, </math>の次元より1だけ小さく, <math>f\, </math>が<math>g\, </math>の境界に含まれていることである. <math>f\, </math>が<math>g\, </math>の部分フェイスならば, <math>f\, </math>と<math>g\, </math>は (互いに) 接続しているといい, この関係を接続関係という. フェイスの接続関係全体は束をなし, アレンジメントは, 各フェイスの座標など幾何情報と, このフェイスのなす束で表される.

　<math>{\mathbf R}^d\, </math>内の<math>n\ge d\, </math>個の超平面のアレンジメントが単純 (simple) であるとは, <math>H\, </math>に属する任意の<math>d\, </math>個の超平面は1点で交わり, どの<math>d+1\, </math>個の超平面も交点をもたないことである. アレンジメントの<math>k\, </math>-フェイスの最大数<math>f_k(H)\, </math>は, アレンジメントが単純であるとき達成され,

<center>
<math>f_k(H)=\sum_{i=0}^k {d-i\choose k-i}{n\choose d-i}\, </math>
</center>

で与えられる. 特に, <math>d\, </math>-フェイス, すなわちセルの数は<math>d\, </math>を定数とみなすと <math>\textstyle f_d(H) ={\sum}_{i=0}^d {n\choose d-i}={\rm O}(n^d)\, </math>となる.

　アレンジメントは逐次添加法で構成できる. 超平面を1つずつ付け加え, アレンジメントの接続関係を更新していく方法である. 2次元の場合で, 平面上の<math>n\, </math>本の直線からなる単純なアレンジメントを構成する方法を述べる. <math>n\, </math>本の直線の集合を<math>L=\{ l_1,l_2,\cdots ,l_n\}\, </math>とし, <math>(x,y)\, </math>平面上にあるとする. <math>k-1\, </math>本の直線<math>l_1,\cdots ,l_{k-1}\, </math>からなるアレンジメントに<math>k\, </math>番目の直線<math>l_k\, </math>を加えてアレンジメントを更新する. 各頂点には, この頂点に接続している4つの辺を反時計回りの順で貯えておく. 各辺には, その辺を含む直線の式と辺の両端点の頂点を覚えておく. <math>x=-\infty\, </math>で<math>l_k\, </math>のすぐ上にある直線を左から辿り, この辺の下に接続している面の境界を時計回りに回って行く. <math>l_k\, </math>と交わった時は, その交点から始めて, 今度は隣の面の境界を時計回りに辿る. これを<math>l_k\, </math>がすでにアレンジメントに存在していた <math>k-1\, </math>本の直線と交わるまで行なう. この操作により, <math>l_k\, </math>上に新たに現れる頂点もすべて列挙することができ, そこでアレンジメントを更新していくことができる. その手間は, 直線<math>l_k\, </math>と交わる面の境界上で辿る辺の数に比例する.

　<math>d\, </math>次元の<math>n\, </math>個の超平面のアレンジメントにおいて, 新たに1つ超平面<math>h\, </math>を加え, <math>h\, </math>と交わる各セルのフェイスの集合を[[ゾーン]]と定義すると, 次のゾーン定理が成り立つ.

[[ゾーン定理]]. <math>d\, </math>次元空間内の<math>n\, </math>個の超平面から成るアレンジメントにおいて, 1つの超平面のゾーンのフェイスの総数は<math>{\rm O}(n^{d-1})\, </math>である.

　このゾーン定理より, アレンジメントを逐次添加法で構成したときの計算量を <math>{\rm O}(n^d)\, </math>でおさえることができる.

　ゾーン定理の離散幾何への応用を1つ上げておく. <math>d\, </math>次元の<math>n\, </math>超平面のアレンジメントのセルの集合を <math>{\mathcal C}\, </math>, 各セル<math>c\in {\mathcal C}\, </math>のファセットの数を<math>d(c)\, </math>としたとき, <math>\textstyle {\sum}_{c\in{\mathcal C}}d(c)^2={\rm O}(n^d)\, </math>が成り立つ. <math>\textstyle {\sum}_{c\in{\mathcal C}}d(c)={\rm O}(n^d)\, </math> であるから, 各セルのファセットの数はそんなに分散が大きくないことがわかる. 2次元の場合には, このような関係から複数のセルの辺の数を評価することができる.

　<math>d\, </math>次元超平面アレンジメントにおいて, <math>x_d\, </math>軸に平行な直線で貫いたときに下から<math>k\, </math>番目となる交点をもつフェイス全体の集合を<math>k\, </math>-レベル, または単に[[レベル (計算幾何における)|レベル]] という. 2次元の場合, 高々<math>k\, </math>までのレベルのサイズは<math>{\rm O}(kn)\, </math>であり, <math>k\, </math>-レベルのサイズは<math>{\rm O}(\sqrt{k}n)\, </math>となる. 双対性より, これは平面の<math>n\, </math>点を直線で等分割する方法の数が<math>{\rm O}(n^{1.5})\, </math>であることも意味する. <math>k\, </math>-レベルを <math>{\rm O}(\sqrt{k}n(\log n)^2)\, </math>時間で求める平面走査法アルゴリズムが知られている.

　3次元の平面のアレンジメントでもレベルのサイズは<math>{\rm o}(n^3)\, </math>である. 4次元以上の場合, 全体より小さいオーダであるかどうかはわかっていない. また, 高次元の場合は, 0, 1次元フェイスの頂点, 辺で構成される[[スケルトン]]をたどるアルゴリズムも知られており, 特に3次元ではアレンジメント全体を求めるよりも効率よく計算できる. レベルや1つのセルのスケルトンも有用で, 点集合の問題を双対変換して解いている場合, スケルトンのみで十分な場合もある.

　曲線・曲面のアレンジメントも有用であり, このアレンジメントの1つのセルやゾーンの組合せ複雑度の解析は, Davenport-Schinzel列の理論としてまとめられている. 定数次数の代数曲線のアレンジメントでは, セルのフェイス数は一般次元で全体のオーダよりほぼ1つ小さな次数の数でおさえられる.

----
'''参考文献'''

[1] H. Edelsbrunner, ''Algorithms in Combinatorial Geometry,'' Springer-Verlag, 1987. 邦訳 (今井浩, 今井桂子訳), 『組合せ幾何学のアルゴリズム』, 共立出版, 1995.

《凸多面体》

2007-07-16T12:37:50Z

220.104.197.230:

'''【とつためんたい (convex polyhedron) 】'''

　<math>n\, </math>次元実ベクトル<math>a=(a_1,\cdots,a_n)^{\rm T} \in {\mathbf R}^n\, </math>と実数 <math>a_0{\in}{\mathbf R}\, </math> により定まる1次不等式 (線形不等式) <math>(a_1 x_1 + \cdots + a_n x_n \leq a_0)\, </math>を満たす点<math>x = (x_1,\cdots,x_n)^{\rm T}\, </math>全体からなる集合を閉半空間(closed halfspace)とよぶ. 有限個の閉半空間の共通部分を[[凸多面体]] (convex polyhedron) とよぶ. すなわち, <math>{\mathbf R}^n\, </math>内の凸多面体は, 適当な<math>m{\times}n\, </math>実行列<math>A\, </math>と<math>m\, </math>次元ベクトル<math>b\, </math>を用いて

<center>
<math>P = \{ x \in {\mathbf R}^n \mid Ax \leq b \}\, </math>　　　　<math>(1)\, </math>
</center>

と表現できる. 凸多面体<math>P\, </math>が, ある正の実数<math>M\, </math>に対して

<center>
<math>x \in P \;\Longrightarrow\; |x_i| \leq M \quad(i=1,\cdots,n)\, </math>
</center>

をみたすとき有界である(bounded)とよばれ, 英語では convex polytopeと区別してよばれることが多い. 凸多面体の例としては, [[線形計画]]問題での[[実行可能多面体]], [[TSP多面体]], [[基多面体]], [[ポリマトロイド]]などがある.

　凸多面体には不等式表現以外にもう一つ有益な表現方法がある. <math>v^1,\cdots,v^\ell \in {\mathbf R}^n\, </math>に対して, 適当な<math>\alpha_1,\cdots,\alpha_\ell \in {\mathbf R}\, </math>によって

<center>
<math>v = \alpha_1v^1 + \cdots + \alpha_\ell v^\ell\, </math>
</center>

と表現されるベクトル <math>v\, </math> を<math>v^1,\cdots,v^\ell\, </math>の一次結合(線形結合) (linear combination) とよぶ. 係数<math>\alpha_1,\cdots,\alpha_\ell\, </math>が非負条件

<center>
<math>\alpha_1 \geq 0, \cdots , \alpha_\ell \geq 0\, </math>　　　　<math>(2)\, </math>
</center>

をみたす場合には <math>v\, </math> は非負結合(nonnegative combination), 和が1という条件

<center>
<math>\alpha_1 + \cdots + \alpha_\ell = 1\, </math>　　　　<math>(3)\, </math>
</center>

をみたす場合には <math>v\, </math> はアフィン結合 (affine combination), さらに (2) と (3) の両方をみたすとき <math>v\, </math> は<math>v^1,\cdots,v^\ell\, </math>の凸結合 (convex combination) とよばれる. 有限個の<math>v^1,\cdots,v^\ell \in {\mathbf R}^n\, </math>と<math>r^1,\cdots,r^d \in {\mathbf R}^n\, </math>に対して, <math>v^1,\cdots,v^\ell\, </math>の凸結合と<math>r^1,\cdots,r^d\, </math>の非負結合の和として表される点全体, すなわち

<center>
<math> \left\{ x = \sum_{i=1}^\ell \alpha_iv^i + \sum_{j=1}^d \beta_jd^j
\;\; \begin{array}{|l}
\sum_{i=1}^\ell \alpha_i = 1 \\
\alpha_i \geq 0 \;(i=1,\cdots,\ell) \\
\beta_j \geq 0 \;(j=1,\cdots,d)
\end{array} \right\}
\, </math>　　　　<math>(4)\, </math>
</center>

と定義される集合は凸多面体となり, 逆に (1) で定義される凸多面体については (4) をみたす有限個の<math>v^1,\cdots,v^\ell \in {\mathbf R}^n\, </math>と<math>r^1,\cdots,r^d \in {\mathbf R}^n\, </math>が存在することが知られている. 特に, 有界な凸多面体に対しては有限個の点<math>v^1,\cdots,v^\ell \in {\mathbf R}^n\, </math>の凸結合全体, すなわち,

<center>
<math>P = \left\{ x = \sum_{i=1}^\ell \alpha_iv^i
\;\; \right| \left.
\sum_{i=1}^\ell \alpha_i = 1,\;\; \alpha_i \geq 0 \;(i=1,\cdots,\ell)
\right\}\, </math>　　　　<math>(5)\, </math>
</center>

と表現でき, (5)で定義される集合は, 点集合<math>V=\{v^1,\cdots,v^\ell\}\, </math>を含む (集合の包含関係の意味で) 最小な[[凸集合]] (convex set)として定義される<math>V\, </math>の[[凸包]] (convex hull) と一致する. 例えば, <math>{(0,0,0),(1,0,0),(0,1,0),(0,0,1)} \subset {\mathbf R}^3\, </math>の凸包である有界な凸多面体は

<center>
<math>x_1+x_2+x_3 \leq 1,\quad
x_1 \geq 0, \quad
x_2 \geq 0, \quad
x_3 \geq 0\, </math>
</center>

という４本の不等式で表現できる三角錐である.

　点集合<math>V=\{v^1,\cdots,v^\ell\} \subseteq {\mathbf R}^n\, </math>について, どの要素も他の要素たちのアフィン結合で表現できないとき, すなわち,

<center>
<math>\alpha_1v^1 + \cdots + \alpha_\ell v^\ell = 0 \;\Longrightarrow\;
\alpha_1 = \cdots = \alpha_\ell = 0\, </math>
</center>

をみたすとき, <math>V\, </math> はアフィン独立(affinely independent)であるという. <math>{\mathbf R}^n\, </math>からは高々 <math>n{+}1\, </math>個のアフィン独立な点しか取れない. 集合<math>S \subseteq {\mathbf R}^n\, </math>に含まれるアフィン独立な点集合で要素数最大のものを<math>V=\{v^1,\cdots,v^\ell\}\, </math>としたとき, <math>S\, </math>の次元は<math>\ell{-}1\, </math>と定義する(次元は<math>V\, </math>の選び方に依存しないことを付記しておく). 先の例では,<math> {(0,0,0),(1,0,0),(0,1,0),(0,0,1)}\, </math>はアフィン独立であり, この凸包である三角錐の次元は<math>3\, </math>となる. 凸多面体<math>P \subseteq {\mathbf R}^n\, </math>の次元が <math>n\, </math> であるとき全次元的(full dimensional)という.

　凸多面体<math>P \subseteq {\mathbf R}^n\, </math>に対して, 超平面(hyperplane) <math>H\, </math>, すなわち, 非ゼロベクトル<math>(a_1,\cdots,a_n)^{\rm T} \in {\mathbf R}^n\, </math>と<math>a_0 \in {\mathbf R}\, </math>を用いて

<center>
<math>H = \{x \mid a_1x_1 + \cdots + a_nx_n = a_0 \}\, </math>
</center>

と表現できる集合が

<center>
<math>P \cap H \neq \emptyset \, </math>　かつ　<math>P \subseteq \{x \mid a_1x_1 + \cdots + a_nx_n \leq a_0 \}\, </math>
</center>

をみたすとき, <math>H\, </math>は<math>P\, </math>の支持超平面 (supporting hyperplane) とよばれる. 支持超平面と凸多面体の共通部分も凸多面体である. この共通部分を凸多面体の面 (face) とよび, その次元が<math>k\, </math>であるとき<math>k\, </math>次元面(<math>k\, </math>-face, <math>k\, </math> dimensional face)とよぶ. 特に多面体より次元が<math>1\, </math>小さい面をファセット(facet), <math>1\, </math>次元面を辺 (edge), <math>0\, </math>次元面を頂点 (vertex) とよぶ. 先の三角錐を例にすると, 不等式表現の４本に対応する面は<math>2\, </math>次元面 (ファセット) であり, 他に6個の<math>1\, </math>次元面 (辺) と4個の<math>0\, </math>次元面 (頂点) を持つ. 一般に有界な凸多面体は頂点全体の凸包と一致し, 全次元的な凸多面体はファセットに対応した不等式で一意的に表現できる (不等式の両辺を正数倍しても同じものとみなす). 凸多面体自身と空集合を便宜上面とすると, 面全体は包含関係に関して束となり, 凸多面体の面束 (face lattice) とよばれる. 同型な面束を持つ凸多面体を互いに組合せ的に同型 (combinatorially equivalent) とよぶ. 束の順序関係を逆にしても束となるが, 任意の凸多面体の面束の順序関係を逆にした束と同型な面束を持つ凸多面体が常に存在し, これは, 元の凸多面体の双対多面体 (dual polytope) とよばれる.

　凸多面体は[[計算幾何学]]の重要な研究対象であるばかりでなく, [[組合せ最適化問題]]の実行可能解全体を表現あるいは近似的に表現するための有益な道具である. [[多面体理論]]の項目も参照されたい.

----
'''参考文献'''

[1] A. Brondsted, ''An Introduction to Convex Polytopes'', Springer-Verlag, 1980.

[2] G. L. Nemhauser and L. A. Wolsey, ''Integer and Combinatorial Optimization'', Wiley-Interscience, 1988.

[3] G. M. Ziegler, ''Lectures on Polytopes'', Springer, 1995.

《スケジューリング問題》

2007-07-16T12:17:20Z

220.104.197.230:

'''【すけじゅーりんぐもんだい (scheduling problem) 】'''

　[[スケジューリング問題]]は, 多くの仕事あるいは活動 (スケジューリング用語ではジョブ (job) という) を種々の制約のもとで実行しなければならないとき, 実行可能なスケジュールや, 最適なスケジュールを見出す問題である. 従って, 効率的な運用が求められるあらゆる組織においてスケジューリング問題が存在するが, ここでは基本問題の1つである[[ジョブショップ問題]] (jobshop problem) を中心に説明する.

　多数のジョブが1台以上の機械の一部または全部によって予め指定された順序 (以下では工程順序という) に従って順次処理される. ただし, どのジョブも一時に高々1機械でしか処理されないし, どの機械も一時に高々1ジョブしか処理できない. また, 特に断りのない限り, 作業 (各機械におけるジョブの処理) は, いったん開始されると, 終了まで中断されることはない. このようなシステムはジョブショップと言われ, 所与の評価基準(目的関数)を最適にするよう, 各機械でのジョブ処理順序を見出す, すなわち, 順序づけの問題はジョブショップ問題と言われる.

　ジョブショップ問題は生産スケジューリングの典型的なモデルであるが [8], コンピュータシステムのスケジューリングモデルとしてもしばしば取り上げられる [3]. また, 機械をボトルネックとなっている資源の代名詞と考えれば, ジョブショップ問題の適用範囲は極めて広い.

　ジョブショップ問題の仮定を一部変えることによって種々のモデルが考えられる. 代表的な例として, [[1機械問題]] (one-machine problem), [[並列機械問題]] (parallel-machine problem), [[フローショップ問題]] (flow shop problem), [[オープンショップ問題]] (open shop problem) などがある.

　1機械問題では, 全てのジョブがちょうど1台の機械で処理される場合に, ジョブの処理順序を決定する問題である.

　並列機械問題は, 2台以上の機械が存在し, 各ジョブはそれらのうちのいずれか1台で一度だけ処理されるとき, 各ジョブに対する機械の割当てと, 各機械に割当てられたジョブの処理順序を決定する問題である. 特に, 全機械が同一の場合を[[同一並列機械問題]] (identical parallel-machine problem), 機械によって処理速度が異なる場合を[[一様並列機械問題]] (uniform parallel-machine problem), ジョブと機械の組合せによって, 処理時間が異なる場合を[[無関連並列機械問題]] (unrelated parallel-machine problem) と言う.

　ジョブショップ問題において, 工程順序がどのジョブについても同じ場合を特にフローショップ問題という. また, ジョブの一部または全ての工程順序が任意であって, これも最適化の対象となる場合をオープンショップ問題という.

　以上のジョブショップモデルでは, 機械間のジョブ搬送や仕掛け用バッファの有限性, ジョブ間の段取時間などが考慮されていず, 必ずしも現実を反映していない. その意味ではしばしば古典的モデル [4] と言われる. これをさらに拡張したモデルとして[[FMSスケジューリング]] (flexible manufacturing system scheduling) [10], [[ロボティックセルスケジューリング]] (robotic cell scheduling) [5], [[資源制約付きスケジューリング]] (scheduling under resource constraints) [1], [[グループスケジューリング]] (group scheduling) [6] などがしばしば検討されている.

　FMSは, 1台で多種加工が可能なマシニングセンタやAGV (automated guided vehicle), ロボット, AS/RS(automated storage/retrieval system)などの自動物流機器で構成されている. 特に, 1台のロボットと少数のマシニングセンタからなる小規模のFMSはロボティックセル (またはFMC) と言われる. これらのシステムでは加工スケジューリングのみならず, 搬送などの物流のスケジューリングがシステム全体の効率化に大きな影響を及ぼす.

　ジョブショップにおいて機械以外にボトルネックとなる資源(工作機械の治工具, 計算機のメモリなど) が存在し, それらのスケジューリングも考慮されなければならない場合は資源制約付きスケジューリング問題と言われる.

　ジョブ間に段取時間が存在するとき, GT (group technology) に基づいて, 段取時間が比較的小さいジョブをグループにまとめ, グループ間で行う順序づけをグループスケジューリングと言う.

　ジョブショップ問題 (及びその拡張問題) では, ジョブまたは作業に種々の制約が課せられることが多い. 典型的な制約条件として処理順序に関するジョブ間の先行制約, 最早開始時刻または準備時間の制約などがある.

　最適化 (ここでは最小化) すべき目的関数の代表例として, 全ジョブの終了時間を表す最大完了時間 (メークスパン (makespan) と言うことがある), ジョブがシステムに滞留した時間の総和を表す滞留時間和, 納期からの遅れの指標となる最大納期遅れや遅れ和が挙げられる.

　以上に述べてきたように, ジョブショップ問題は, ショップ (工程) の構成, ジョブ処理環境及び目的関数によって分類されるので, これらを (待ち行列におけるケンドール (Kendall) 風の) [[3つ組み記法 (スケジューリング問題の)|3つ組み記法]] (<math>\alpha |\beta |\gamma\, </math>) によって記述することができる [2]. すなわち, <math>\alpha\, </math>は工程, <math>\beta\, </math>はジョブ処理環境, <math>\gamma\, </math>は目的関数である.

　表1は<math>\alpha |\beta |\gamma\, </math>による問題表規の例である.

<div align="center">
表 1: 3つ組み記法によるジョブショップ問題の分類
<table width="620" border="0" cellspacing="2" cellpadding="0">
<tr>
<td align="center" valign="top">
<table width="300" border="1" cellspacing="2" cellpadding="0">
<tr>
<td align="center">項目</td>
<td align="center">表示</td>
<td>意味</td>
</tr>
<tr>
<td rowspan="7" align="center" valign="top"><math>\alpha\, </math></td>
<td align="center"><math>1\, </math></td>
<td align="left">1機械</td>
</tr>
<tr>
<td align="center"><math>P\, </math></td>
<td align="left">同一並列機械</td>
</tr>
<tr>
<td align="center"><math>Q\, </math></td>
<td align="left">一様並列機械</td>
</tr>
<tr>
<td align="center"><math>R\, </math></td>
<td align="left">無関連並列機械</td>
</tr>
<tr>
<td align="center"><math>F\, </math></td>
<td align="left">フローショップ</td>
</tr>
<tr>
<td align="center"><math>O\, </math></td>
<td align="left">オープンショップ</td>
</tr>
<tr>
<td align="center"><math>J\, </math></td>
<td align="left">ジョブショップ</td>
</tr>
</table>
</td>
<td align="center" valign="top">
<table width="300" border="1" cellspacing="2" cellpadding="0">
<tr>
<td align="center">項目</td>
<td align="center">表示</td>
<td>意味</td>
</tr>
<tr>
<td rowspan="2" align="center" valign="top"><math>\beta\, </math></td>
<td align="center"><math>prec\, </math></td>
<td align="left">先行制約</td>
</tr>
<tr>
<td align="center"><math>r_j\, </math></td>
<td align="left">準備時間制約</td>
</tr>
<tr>
<td rowspan="4" valign="top" align="center"><math>\gamma\, </math></td>
<td align="center"><math>C_{max}\, </math></td>
<td align="left">最大完了時間</td>
</tr>
<tr>
<td align="center"><math>\Sigma c_j\, </math></td>
<td align="left">滞留時間和</td>
</tr>
<tr>
<td align="center"><math>T_{max}\, </math></td>
<td align="left">最大納期遅れ</td>
</tr>
<tr>
<td align="center"><math>\Sigma T_j\, </math></td>
<td align="left">納期遅れ和</td>
</tr>
</table>
</td>
</tr>
</table>
<p></p>
</div>

　ジョブショップ問題の理論的研究の起源は1954年のジョンソン (S.H.Johnson) の定理 [7] にまで遡る.

　'''ジョンソンの定理''': 2機械フローショップにおいて<math>A_j\, </math>, <math>B_j\, </math>をそれぞれ第1機械及び第2機械におけるジョブ<math>j(=1,2,\cdots,n)\, </math>の処理時間とする. このとき, 最大完了時間最小化問題(<math>F2 || C_{max}\, </math>)の最適順序はつぎの[[順序付け規則]]で与えられる. すなわち,

<center>
<math>\max (A_j,B_{j+1}) < \max (A_{j+1},B_j)\, </math>
</center>

　ならば, ジョブ<math>j\, </math>をジョブ(<math>j+1\, </math>)より先に処理する. 等号の場合は, どちらが先でもよい.

　これ以後この様な最適な順序づけ規則の研究が進められたが, 1970年代初期のNP完全理論の誕生と共に, 多くのスケジューリング問題が[[NP困難]]になることが証明された [2]. 例えば, <math>1 || \Sigma c_j\, </math>, <math>1 || T_{max}\, \, </math>, <math>P || \Sigma c_j, J2 || c_{max}\, </math> (J2は2機械ジョブショップを表す)などは最適順序づけ規則が存在するが, <math>1 | r_j | T_{max}\, </math>, <math>1 | prec | \Sigma c_j\, </math>, <math>p1 || c_{max}, F2 || \Sigma c_j\, </math>はNP困難となる.

　しかし, NP困難問題だからといって, 必ずしも手に負えないという訳ではない. 工夫された[[分枝限定法]]などを用いることによって (希な最悪例を除いて) かなり大きな問題例まで解くことが可能である (例えば, [9] 参照).

----
'''参考文献'''

[1] J. Blazewicz, W. Cellary, K. Slowinski, J. Weglarz, ''Scheduling under Resource Constraints : Deterministic Model,'' J. C. Balzer, Basel, 1986.

[2] P. Brucker, ''Scheduling Algorithms,'' Springer, 1995.

[3] E. G. Coffman, eds., ''Computer and Job-shop Scheduling Theory,'' John Wiley and Sons, 1976.

[4] R. W. Conway, W. L. Maxwell, L. W. Miller, ''Theory of Scheduling,'' Addison-Weseley Reading, 1967. 関根智明監訳, 『スケジューリングの理論』, 日刊工業新聞社, 1971.

[5] N. G. Hell, H. Kamoun, C. Shriskandarajah, "Scheduling in Robotic Cells : Classification, Two and Three Machine Cells," ''Operations Research,'' '''45''' (1997), 421-439.

[6] 人見勝人, 中島勝, 吉田照彦, 小島敏彦,『GTによる生産管理システム』, 日刊工業新聞社, 1981.

[7] S. H. Johnson, "Optimal Two and Three Stage Production Schedules with Setup Times Included," ''Naual Research Logistics Quartry,'' '''1''' (1954), 61-68.

[8] 木瀬洋,「生産スケジューリングの現状と動向」,『システム/制御/情報』, '''41''' (1997), 92-99.

[9] 木瀬洋,「分枝限定法で大規模問題を解く」,『オペレーションズ・リサーチ』, 39 (1994), 601--606.

[10] N. Raman, K. Stecke and E. Rachamadugu, "Forcused Review of FMS Scheduling Research," 『計測と制御』, '''33''' (1994), 680-689.

[11] 田中克己, 石井信明,『スケジューリングとシミュレーション』, 計測自動制御学会 (1995).

《スケジューリング理論》

2007-07-16T12:08:54Z

220.104.197.230:

'''【すけじゅーりんぐりろん (scheduling theory) 】'''

　スケジュールとは, 時間軸上で設備(ないし資源)に1つ以上の活動を割り当てたものをいう. スケジューリングとは, スケジュールを決めることであって, [[スケジューリング理論]] (scheduling theory) は, 広義にはスケジューリング問題のモデル化, 分析, 解法の開発・分析, スケジューリングシステム, 実際問題への応用などの分野にまたがる理論である. 1つの設備には同時に1つの活動だけを割り当てることができ, 1つの活動は同時に1つの設備にのみ割り当てることができるとするとき, 1つ以上の設備から成るシステムを''ジョブショップ'' (job shop) という. 各設備に割り当てる活動を作業 (operation) と呼び, いくつかの作業の集合をジョブ (job) と呼ぶ. ジョブショップの設備は一般に機械 (machine) と呼ばれ, 機械はその種類によって工程 (process) に分けられる. ジョブショップは機能別配置 [1] の機械加工工場のモデルと考えられるが, 機械を様々な生産資源に置き換えることによって広い応用分野に対応する. 各工程が1つの機械から成るのが基本的なジョブショップである. あるジョブを構成する作業の間の指定された順序を[[工程順序]] (routing) ないし技術的順序 (technological order) という. 各機械において処理する作業の順序をその機械におけるジョブの (あるいは同じことであるが作業の) 処理順序 (sequence) と呼ぶ.

<center><table><tr><td align=center>[[画像:0037-c-a-08+1.png|center|図１：ガントチャート]]</td></tr>
<td align=center><br>図１：ガントチャート</td></table></center>

　ジョブショップにおいて1つのスケジュールが与えられるとき, 横軸に時間をとり縦軸に機械をとって, 各機械ごとに作業を処理する期間を帯状に表示したものを機械向き (machine oriented) ガントチャート (Gantt chart), 縦軸にはジョブを取りその作業の処理期間を帯状に表示したものをジョブ向き (job oriented) [[ガントチャート]]という (図1). スケジュールは本来, 各作業の着手と完了の時刻の集合である. しかし, 各機械が同時には1つの作業しか処理できないことから, 着手順に作業を整列すれば1つの順列を得る. これは処理順序に対応する. 従って, 処理順序が決まれば各作業の着手時刻が自動的に決定されるような状況では, スケジュールと処理順序は実質的に同じ意味である. このためスケジューリング理論は狭義には順序づけ理論(sequencing theory)の意味で使われる. 以下, この狭義のスケジューリング理論の基礎概念を説明する. 関連項目としてスケジューリング問題, スケジューリング・アルゴリズムを参照されたい.

　[[順序付け]] (sequencing) の研究においては処理順序の評価基準を関数表現したものを[[順序付け関数]] (sequencing function) という。理論的には評価基準として各作業の完了時刻に関して非減少な尺度がよく利用される. このような尺度を[[正則尺度]] (regular measure) と呼ぶ。実用的には正則でない尺度も多用される。正則尺度の下では処理順序ごとに, 各作業を工程順序に違反しないでできるだけ早期に着手するただ1つのスケジュールが検討対象となる. すべてのスケジュールに対して、任意の作業をそれより遅くなることなく完了するスケジュールが少なくとも1つは含まれているようなスケジュールの集合を, スケジュールの[[優越集合 (スケジュールの)|優越集合]] (dominant set) と呼ぶ. 正則尺度の下で優越集合はすべての処理順序から上記のように生成されるスケジュールの集合であり, その中の最良のスケジュール(処理順序)が最適である. 次のような[[活性スケジュール]] (アクティブスケジュール) 全体の集合が優越集合であることは知られているが, 最小の優越集合はまだ知られていない.

　1つの処理順序が与えられるとする. この時, この処理順序に従いできるだけ早期に各作業を処理開始するスケジュールを準活性スケジュールと呼ぶ. 準活性スケジュールにおいて, 他のどの作業の処理開始時刻にも影響を与えないで他の作業を飛び越してより早く着手できる作業を順次前に移動することによって, もはや他の作業の着手を遅らせるのでなければどの作業も前に移動できないスケジュールが生成される. これが活性スケジュールである. 活性スケジュールを系統的に生成するアルゴリズム [3] は知られているが, 一般に活性スケジュールは極めて多数存在するので, これを完全列挙することによって最適処理順序を決定するのは実際上困難である.

　ジョブの処理順序に関する制約を[[先行関係]] (precedence relation) 制約という. 多くの先行関係は2項関係を用いて記述できるが, 特定のジョブを処理順序の先頭にしてはいけない, などのように, 2項関係では表現できないものもある. 着手可能時刻 (release time) あるいは最早着手可能時刻はジョブの最初の作業の処理を開始できる最早時刻をいう. 順序づけするすべてのジョブの着手可能時刻が既知の状況を静的 (static), そうでない場合を動的順序づけという. 各ジョブに納期が指定される場合もある. 各作業の処理に要する時間を処理時間 (processing time) という. 各作業にはこの他, 段取り時間 (setup time), 後始末時間 (removal time), 前後の作業の間の完了と着手の最小時間間隔である遅れ時間 (delay time) などが指定されることがある.

<center><table><tr><td align=center>[[画像:0037-c-a-08+2.png|center|図2：離接グラフ(機械3, ジョブ3)]]</td></tr>
<td align=center>図２：離接グラフ(機械3, ジョブ3)</td></table></center>

　ジョブやその作業に様々な条件が付加されることがあるが, ジョブショップにおける順序づけの基本は, 工程順序, 先行関係と整合するような処理順序の中から順序づけ関数を最適化するものを決定することである. これを表示するのに図2のような[[離接グラフ]] (disjunctive graph) が利用される. この図の両方向の矢線の各々に対して一方向を選択しアサイクリックな[[接続グラフ]] (conjunctive graph) を作成すると, 実行可能な処理順序が得られる. 順序づけとは様々な付加的条件の下で, 離接グラフから最適な接続グラフを構成することである, ということもできる. 処理順序 (接続グラフ) を生成する効率的な手続きを[[順序付け規則]] (sequencing rule) と呼び, それが所与の順序づけ関数に関して最適な接続グラフを生成するとき, 最適であるという. 順序づけ規則やスケジューリング・アルゴリズムを構成する際に, [[合成ジョブ]] (composite job) と呼ばれる架空のジョブを導入することがある。

----
'''参考文献'''

[1] 秋庭雅夫編, 『生産管理』, 日本規格協会, 1980.

[2] K. R. Baker, ''Introduction to Sequencing and Scheduling,'' Wiley, New York, 1974.

[3] B. Giffler and G. L. Thompson, "Algorithms for Solving Production Scheduling Problems," ''Operations Research,'' '''8''' (1960), 487-503.

《複雑ネットワーク》

2007-07-16T12:06:45Z

220.104.197.230:

'''【ふくざつねっとわーく (complex network) 】'''

　現実世界で観察される, 何らかの特徴的な性質を持つグラフのこと. もしくは一般にそのような性質を持つグラフのこと.

　インターネット, WWWのハイパーリンク構造, 交友・知人関係, 論文の引用関係, ニューラル・ネットワーク, たんぱく質の代謝反応など, グラフとして表現される現実の構造の多くは一見複雑な形状をしているが, 自明でない特徴的な性質を共通して持つことが近年分かってきた. そこで, 現実の大規模なグラフ構造の持つ特徴を調べ, その特徴が現れる原理を解明する研究が急速に進展している.

　なお, グラフにおいて点や辺に容量や長さなどの属性がある場合は特にネットワークと言うが, 複雑ネットワークの研究領域では, その区別は明確ではない. また, 特徴的な性質というものも明確に定まっているものではない.

　複雑ネットワークの特徴的な構造として知られる代表的なものとして, まずスケールフリー (scale-free) がある. スケールフリーとは, 次数が<math>k\, </math>である確率<math>p(k)\, </math>, つまり次数分布がべき乗則を満たすこと（<math>p(k) \propto k^{-\gamma}\, </math>, ただし<math>\gamma\, </math>は正の実数）を意味する.

　また, クラスタ係数に関しても特徴的な性質を持つことが多い. ここで, 次数<math>k\, </math>の点<math>v\, </math>のクラスタ係数は, 隣接点間の辺数を<math>k(k-1)/2\, </math> (つまり隣接点間辺数の取りうる最大値) で割ったものとして定義され, すべての点にわたるクラスタ係数の平均がそのグラフのクラスタ係数と定義される. 現実の複雑ネットワークのクラスタ係数は, 点数に関わらず比較的大きい値を取ることが知られている.

　スモールワールド (small world) とは, 点数の多さに比較して平均点間距離が小さく, クラスタ係数が大きいことを指す. 単に平均点間距離が小さいことをスモールワールドということもある. この特徴を持つ現実の複雑ネットワークも多い.

　現実の複雑ネットワークが, スケールフリーをはじめ上記で挙げたような性質を持つ原因を解明するために, 様々なモデルが検討されてきた.

　複雑ネットワークの研究の興隆以前から知られていた, ErdösとRéyniのランダム・グラフは, 点集合の任意の二点間に確率的に辺を張ることでグラフを生成するモデルである. ただ, この次数分布はポアソン分布に従うため, スケールフリーではない. また, クラスタ係数は点数<math>n\, </math>の増加にしたがって<math>0\, </math>に収束する. ただし, 平均点間距離は<math>O(\log n)\, </math>であって小さいと言える.

　WattsとStrogatzは, 大きなクラスタ係数と小さい平均点間距離を同時に実現するスモールワールド・ネットワークのモデルを提案した. これは, 正方格子の辺集合の一部をランダムにつなぎかえるというものである. ただし, このモデルで生成されるグラフはスケールフリーではない.

　BarabásiとAlbertによるBAモデルは, 時間の経過とともに点も付け加えられていく「成長」(growth) と, 新しく加わった点は次数の高い既存の点と高い確率で辺で繋がれる「優先的選択」(preferential attachment) という２つの原理を基本としており, スケールフリーであるグラフ（<math>p(k) \propto k^{-3}\, </math>）を生成する. また, 点数<math>n\, </math>の時, 直径は<math>O(\log n/\log \log n)\, </math>であり, 平均点間距離は小さい. ただし, クラスタ係数は点数の増加にしたがって0に収束するため, 現実の複雑ネットワークとは違って小さい.

　「成長」と「優先的選択」に基づいたバリエーションとして, 次数の小さい点が選択的に非活性化して新しい点からの辺を受け取れなくなる頂点非活性化モデルなどがある. モデルにはランダム性が組み込まれていることが多いが, 決定的な規則によって点や辺を追加する階層的モデルというものもある.

　「成長」と「優先的選択」とは異なる原理に基づくモデルとして閾値モデルというものがある. これは, 各点には重みが確率的に与えられており, 点<math>i\, </math>と<math>j\,</math>の間には, <math>i\,</math>と<math>j\,</math>の重みの和や積 (一般的には二点の重みの関数) に基づいて確定的もしくは確率的に辺が張られるというものである. 点の重みが従う確率分布が指数分布に従う場合などに, スケールフリーであるグラフを生成することが分かっている. また平均点間距離は小さい. クラスタ係数は, 点数が増加しても有限な値に留まるため, 大きいと言える. 点間距離の効果も考慮した空間閾値モデルへの拡張もある.

　これらのように, 現実の複雑ネットワークの持つ性質を再現する様々なモデルが提案されているが, 利用する際には, 対象とする分野に応じて適切なモデルを選ぶことが必要である.

　複雑ネットワークの性質の解明が進むにしたがって, それらの性質を持つグラフ上での相互作用やアルゴリズムに関する研究も進みつつある.

　例えば, コンピュータウィルスの拡散過程の研究がある. 伝染病の拡散の研究は古くから行われており, SISモデルなどの確率過程のモデルがあったが, それらはグラフ構造を仮定していない. しかし, コンピュータウィルスの拡散はグラフ構造に強く依存するため, グラフ上のSISモデルであるコンタクト・プロセスをはじめ, 様々なモデルが研究されている. これらは基本的に, 各点が健康・病気・回復・ウィルス潜伏などの状態の一つを取り, 異なる状態の点が隣接すると, それぞれの点の状態が確率的に他の状態に遷移するというものである. BAモデルによって生成されたグラフでは, 感染のしやすさを表す感染確率が小さくても感染が広がりやすいことが知られている.

　Webコミュニティ探索に関する研究も進展しつつある. これは, Webのハイパーリンク構造によるネットワーク (Webグラフ) 内にコミュニティを見出すことである. コミュニティの定義は様々であるが, 相互に密接にリンクを張っているページの集合, 言い換えればWebグラフ内の密な部分グラフという捉え方や, あるページ集合とそれらへリンクを張る (関心を同じくする) ページ集合のなす二部グラフという捉え方が一般的である. このようなコミュニティを発見することによって, 検索エンジンのカバー率の向上や, ディレクトリ検索型検索サイトのカテゴリの自動生成などに応用できる.

　Kleinbergによって提案された, オーソリティとハブからなる二部グラフをコミュニティと考えるものは有名である. これは, 関連するページへ多くのリンクを持つページ (ハブ) は情報の連結点として重要であり, また多くのハブページからリンクされているページ (オーソリティ) は, そのトピックについて重要な情報を持つといういう考え方をベースとしている. Webグラフ構造から各ページのオーソリティとしての価値とハブとしての価値の高いものを選び出すことによってコミュニティを抽出する.

　検索サイトのGoogleで採用されている, 検索結果の重要度を測るページランクという概念は, Webグラフ上のランダムウォークと密接に関係している. 点<math>p\, </math>のランクを<math>r(p)\, </math>, 次数を<math>d(p)\, </math>とした時, <math>\textstyle r(p) = {\sum}_{s \in} \{\ p\, </math>を終点とする有向辺の始点集合<math>S\}\ r(s)/d(s)\, </math>を満たすものとして, 各点のランクが定義される（ただし, すべての点のランクの和が1であるように正規化される）. あるページのランクは, そこへリンクを張るページが多いほど, そしてリンク元のランクが高いほど高くなる. ただし, リンク元のページから外部へのリンクが多いと, それからの寄与は小さくなる. ページランクは, 有向グラフの遷移確率行列に基づくマルコフ過程にしたがうランダムウォークにおいて, 定常状態における各点での滞在確率に等しい.

　上記に挙げたものの他にも, うわさやデマの広がり, マーケティングにおける広告戦略, パケット制御・カスケード故障などの振る舞いや性能は, グラフ構造に強く依存しており, 現在も精力的に研究が進められている.

----
'''参考文献'''

[1] 増田直紀, 今野紀雄, 『複雑ネットワークの科学』, 産業図書, 2005.

[2] A. -L. バラバシ,『新ネットワーク思考 -世界のしくみを読み解く』, NHK出版, 2002.

[3] D. J. Watts, ''Small Worlds'', Princeton University Press, 1999.

[4] M. E. J. Newman, "The structure and function of complex networks," ''SIAM Review'' '''45''' (2003), 167-256.

[5] R. Albert, A. -L. Barabási, "Statistical mechanics of complex networks," ''Review of Modern Physics'' '''74''' (2002), 47-97.

《離散凸解析》

2007-07-16T12:00:49Z

220.104.197.230:

'''【りさんとつかいせき (discrete convex analysis) 】'''

　離散的な集合(例えば整数格子点の集合)の上で定義された関数の構造を，凸解析 ([6]) とマトロイド理論 ([1, 7, 8]) の両方の視点から考察する方法論を，[[離散凸解析]] (discrete convex analysis) ([4, 5])と呼ぶ．より一般的には，解析的な視点と組合せ論的な視点の両方から「組合せ論的な凸性」という構造を考察する方法論を指す．離散最適化 ([2])，システム解析 ([3])，数理経済学などへの応用がある．

　整数格子点上で定義され整数値をとる関数<math>f: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ \pm\infty \}\, </math>を考える(<math>V\, </math>は有限集合である)．<math>{{\rm dom\,}} f = \{ x \in {\mathbf Z}^{V} \mid -\infty < f(x) < +\infty \}\, </math>を<math>f\, </math>の実効定義域と呼び，以下では，<math>{{\rm dom\,}} f \not= \emptyset\, </math>であるような関数だけを考える．<math>i \in V\, </math>に対してその特性ベクトルを<math>\chi_{i} \ (\in \{ 0,1 \}^{V})\, </math> と表わす．ベクトル<math>x \in {\mathbf Z}^{V}\, </math>に対して，<math>{{\rm supp}^{+}}(x) = \{ i \in V \mid x_{i} > 0 \}\, </math>, <math>{{\rm supp}^{-}}(x) = \{ i \in V \mid x_{i} < 0 \}\, </math>とおく．関数<math>f: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ +\infty \}\, </math>が交換公理:

<table align="center">
<tr>
<td>任意の <math>x, y \in {{\rm dom\,}} f\, </math> と任意の <math>i \in {{\rm supp}^{+}}(x-y)\, </math> に対して, ある<br> <math>j \in {{\rm supp}^{-}}(x-y)\, </math> が存在して
</td>
</tr>
</table>

<center>
<math>f(x)+f(y) \geq f(x-\chi_{i}+\chi_{j}) + f(y+\chi_{i}-\chi_{j})\, </math>
</center>

を満たすとき，[[M凸関数]] (M-convex function) という．M凸関数<math>f\, </math>の実効定義域<math>{{\rm dom\,}} f\, </math>は整基多面体(に含まれる整数格子点)である．

　関数g:<math> {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ +\infty \}\, </math>が2条件:
　

<table align="center">
<tr>
<td><math>g(p) + g(q) \geq g(p \vee q) + g(p \wedge q)
\qquad ( p, q \in {\mathbf Z}^{V}) ,\, </math>
</td>
</tr>
<tr>
<td><math>\exists r \in {\mathbf Z}, \forall p \in {\mathbf Z}^{V}: \
g(p+{\mathbf 1}) = g(p) + r ,\, </math>
</td>
</tr>
</table>

を満たすとき，[[L凸関数]] (L-convex function) という．ここで，<math>p \vee q, p \wedge q\, </math>は，それぞれ，成分毎に最大値, 最小値をとって得られるベクトル(すなわち，<math>(p \vee q)_{i} = \max(p_{i}, q_{i})\, </math>, <math>(p \wedge q)_{i} = \min(p_{i}, q_{i}))\, </math>を表し，<math>{\mathbf 1}=(1,1,\ldots,1) \in {\mathbf Z}^{V}\, </math>である．L凸関数<math>g\, </math>の実効定義域<math>{{\rm dom\,}} g\, </math>は<math>\vee\, </math>, <math>\wedge\, </math>に関して<math>{\mathbf Z}^{V}\, </math>の部分束を成す．また，正斉次L凸関数は，劣モジュラ集合関数と同一視することができる．

　一般に関数<math>h: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ \pm\infty \}\, </math> の凸共役<math>h^{\bullet}\, </math>，凹共役<math>h^{\circ}\, </math>を

<center>
<math>\begin{array}{lll}
h^{\bullet}(p)
&=& \sup\{ \langle p, x \rangle - h(x) \mid x \in {\mathbf Z}^{V} \}
\qquad ( p \in {\mathbf Z}^{V}) ,
\\
h^{\circ}(p)
&=& \inf\{ \langle p, x \rangle - h(x) \mid x \in {\mathbf Z}^{V} \}
\qquad ( p \in {\mathbf Z}^{V})
\end{array}
\, </math>
</center>

と定義する．ここで，<math>\textstyle \langle p, x \rangle = \sum_{i \in V} p_{i}x_{i}\, </math>である．この対応<math>h \mapsto h^{\bullet}\, </math>, <math>h \mapsto h^{\circ}\, </math> を(凸，凹)離散フェンシェル・ルジャンドル(Fenchel-Legendre)変換と呼ぶ．M凸関数とL凸関数は離散フェンシェル・ルジャンドル変換に関して共役関係にあり，対応<math>f \mapsto f^{\bullet}\, </math>, <math>g \mapsto g^{\bullet}\, </math>はM凸関数<math>f\, </math>とL凸関数<math>g\, </math>の間の１対１対応を与える．すなわち，M凸関数<math>f\, </math>とL凸関数<math>g\, </math>に対して，<math>f^{\bullet}\, </math>はL凸関数, <math>g^{\bullet}\, </math>はM凸関数で，<math>(f^{\bullet})^{\bullet}=f\, </math>, <math>(g^{\bullet})^{\bullet}=g\, </math>が成り立つ(共役性定理)．

　M凸関数やL凸関数に対して，[[離散分離定理]] (discrete separation theorem) や[[フェンシェル型双対定理]] (Fenchel-type duality theorem) に象徴されるような離散双対性が成り立つ．

　M凸関数に関する離散分離定理(M分離定理)を述べる:

:[M分離定理] <math>f: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ +\infty \}\, </math> をM凸関数，<math>g: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ -\infty \}\, </math>をM凹関数とし, <math>{{\rm dom\,}} f \cap {{\rm dom\,}} g \not= \emptyset\, </math>または<math>{{\rm dom\,}} f^{\bullet} \cap {{\rm dom\,}} g^{\circ} \not= \emptyset\, </math>であると仮定する．このとき, <math>f(x) \geq g(x)\, </math> <math>(\forall \ x \in {\mathbf Z}^{V})\, </math>ならば, ある<math>\alpha \in {\mathbf Z}\, </math>, <math>p \in {\mathbf Z}^{V}\, </math>が存在して

<center>
<math>f(x) \geq \alpha + \langle p, x \rangle \geq g(x) \qquad (\forall \ x \in {\mathbf Z}^{V})\, </math>
</center>

　が成り立つ(<math>g\, </math>がM凹関数とは<math>-g\, </math>がM凸関数のことである)．

ここで，<math>p\, </math>が整数ベクトルに選べることが離散性の反映である．上の主張で，<math>f\, </math>をL凸関数，<math>g\, </math>をL凹関数に置き換えたものも成立する(L分離定理)．L分離定理は，その特殊ケースとして，劣モジュラ集合関数に関するA. Frankの離散分離定理 ([1] 参照) を含んでいる．

　M分離定理とL分離定理は互いに共役の関係にあるが，次に述べるフェンシェル(フェンケル)型双対定理は自己共役の形になっている．

:[フェンシェル型双対定理] <math>f: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ +\infty \}\, </math> をM凸関数，<math>g: {\mathbf Z}^{V} \to {\mathbf Z} \cup \{ -\infty \}\, </math>をM凹関数とし, <math>{{\rm dom\,}} f \cap {{\rm dom\,}} g \not= \emptyset\, </math>または<math>{{\rm dom\,}} f^{\bullet} \cap {{\rm dom\,}} g^{\circ} \not= \emptyset\, </math>であると仮定する．このとき,

<center>
<math>\inf\{ f(x) - g(x) \mid x \in {\mathbf Z}^{V} \}
= \sup\{ g^{\circ}(p) - f^{\bullet}(p) \mid p \in {\mathbf Z}^{V} \}\, </math>
</center>

　が成り立つ．さらに，この両辺が有限値なら，<math>\inf\, </math>を達成する<math>x \in {{\rm dom\,}} f \cap {{\rm dom\,}} g</math>と<math>\sup\, </math>を達成する<math>p \in {{\rm dom\,}} f^{\bullet} \cap {{\rm dom\,}} g^{\circ}\, </math>が存在する．

上の定理は，非線形整数計画に関する強双対性を主張しており，その本質的な部分は，<math>\inf\, </math>と<math>\sup\, </math>をとる範囲をそれぞれ整数ベクトルに限ってよいという主張にある．

　M凸関数，L凸関数に関する種々の問題に対して効率的なアルゴリズムが開発されている．これに関しては [5] の参考文献を参照されたい．

----
'''参考文献'''

[1] S. Fujishige, ''Submodular Functions and Optimization'', North-Holland, 1991.

[2] N. Katoh and T. Ibaraki, "Resource allocation problems," in ''Handbook of Combinatorial Optimization, Vol.2'', D. -Z. Du and P. M. Pardalos, eds., Kluwer, 159-260, 1998.

[3] 室田一雄, 「離散凸解析」, 『応用数理』，'''6''' (1996), 259-269.

[4] K. Murota, Discrete convex analysis, ''Mathematical Programming'', '''83''' (1998), 313-371.

[5] 室田一雄,「離散凸解析」, 藤重悟編『離散構造とアルゴリズムV』, 近代科学社, 第2章，51-100, 1998.

[6] R. T. Rockafellar, ''Convex Analysis'', Princeton University Press, 1970.

[7] D. J. A. Welsh, ''Matroid Theory''，Academic Press, 1976.

[8] N. White, ed., ''Theory of Matroids'', Cambridge University Press, 1986.

《劣モジュラ最適化》

2007-07-16T11:36:00Z

220.104.197.230:

'''【れつもじゅらさいてきか (submodular optimization) 】'''

　[[劣モジュラ最適化]] (submodular optimization) とは, [[劣モジュラ関数]] (submodular function) を制約条件または目的関数に含んだ離散最適化を指す. 劣モジュラ最適化は, 非線型最適化における凸最適化のように, 離散最適化における基本的な位置を占めている.

　有限集合 <math>N\, </math> の部分集合族 <math>\mathcal {D}\subseteq 2^N\, </math> が, <math>\emptyset\, </math> と <math>N\, </math> を共に含み, 任意の <math>X,Y\in\mathcal {D}\, </math> に対して <math>X\cup Y, X\cap Y\in\mathcal {D}\, </math> を満たすものとする. このとき, <math>\mathcal {D}\, </math> は分配束をなす. 関数 <math>f:\mathcal {D}\to\mathbf {R}\, </math> が, 任意の <math>X,Y\in\mathcal {D}\, </math> に対して

<center>
<math>f(X)+f(Y)\geq f(X\cup Y)+f(X\cap Y)\, </math>
</center>

を満たすとき, <math>f\, </math> は劣モジュラ関数と呼ばれる. 不等号が常に等号で成立する場合には, <math>f\, </math> をモジュラ関数という. 分配束 <math>\mathcal {D}\, </math> と劣モジュラ関数 <math>f\, </math> の組 <math>(\mathcal {D},f)\, </math> は, <math>f(\emptyset)=0\, </math> のとき, [[劣モジュラシステム]] (submodular system) と呼ばれる. さらに, <math>\mathcal {D}=2^N\, </math> であり, <math>f\, </math> が単調性を有するとき, すなわち任意の <math>X,Y\subseteq N\, </math> に対して <math>X\subseteq Y \Rightarrow f(X)\leq f(Y)\, </math> が成り立つとき, <math>(N,f)\, </math> を[[ポリマトロイド]] (polymatroid)という.

　オペレーションズ・リサーチにおいて重要な劣モジュラ関数の代表的な例を以下に挙げる.

'''カット容量関数'''　有向グラフ <math>G=(N,A)\, </math> において, 各枝 <math>a\in A\, </math> に非負の容量 <math>c(a)\, </math> が与えられているとき, <math>\textstyle \kappa(X)=\sum\{c(a)\mid a\in \Delta^+X\}\, </math> で定義される容量関数 <math>\kappa:2^N\to\mathbf {R}\, </math> は, 劣モジュラ関数となる. ここで, <math>\Delta^+X\, </math> は, <math>X\subseteq N\, </math> から出る枝の集合を表す.

'''マトロイド階数関数'''　マトロイド <math>\mathcal {M}=(N,\mathcal {I})\, </math> において, 階数関数 <math>\rho:2^N\to\mathbf {Z}\, </math> を <math>\rho(X)=\max\{|I|\mid I\subseteq X,\,I\in \mathcal {I}\}\, </math> で定めると, <math>(N,\rho)\, </math> はポリマトロイドとなる.

'''エントロピー関数'''　有限アルファベットの離散確率変数の集合 <math>N\, </math> に関して, 空でない部分集合 <math>X\subseteq N\, </math> のエントロピーを <math>\eta(X)\, </math> と書き, <math>\eta(\emptyset)=0\, </math> と定めると, <math>(N,\eta)\, </math> はポリマトロイドとなる.

　有限集合 <math>N\, </math> 上の実数値関数全体のなす線型空間を <math>\mathbf {R}^N\, </math> と表す. ベクトル <math>x\in\mathbf {R}^N\, </math> は, 部分集合 <math>X\subseteq N\, </math> に対して <math>\textstyle x(X)=\sum\{x(i)\mid i\in X\}\, </math> と定義することによって, <math>x(\emptyset)=0\, </math> であるようなモジュラ関数 <math>x\, </math> と同一視される.劣モジュラシステム <math>(\mathcal {D},f)\, </math> は, <math>\mathbf {R}^N\, </math> 中の[[基多面体]]　(base polyhedron)

<center>
<math>\mbox{B}(f)=\{x\mid x\in\mathbf {R}^N,\;x(N)=f(N),\;\forall X\in\mathcal {D}: x(X)\leq f(X)\} \, </math>
</center>

を定める. 基 <math>x\in\mbox{B}(f)\, </math> と相異なる <math>i,j\in N\, </math> に対して,

<center>
<math>\tilde{c}(x,i,j)=\min\{f(X)-x(X)\mid i\in X\in\mathcal {D}, j\notin X\}\, </math>
</center>

で定義される量を交換容量と呼ぶ.

　基多面体上では, 貪欲アルゴリズムによって, 線型目的関数の最適化が可能である. 一般に, 楕円体法を通じて, 最適化問題と分離問題とが計算量の多項式性という観点からは等価であるという原理に基づいて, 強多項式時間で劣モジュラ関数の最小化が可能であることが示されている [3] . しかし, 楕円体法は実際上効率的とは言い難く, 組合せ的な多項式時間アルゴリズムの開発が望まれている. (ごく最近, Iwata-Fleischer-FujishigeとSchrijverによって独立に解決された. )

　有向グラフ <math>G=(N,A)\, </math> と, <math>f(N)=0\, </math> を満たす <math>N\, </math> 上の劣モジュラシステム <math>(\mathcal {D},f)\, </math> を考える. 各枝 <math>a\, </math> の始点を <math>\partial^+a\, </math>, 終点を <math>\partial^-a\, </math> と書き, <math>X\subseteq N\, </math> から出る枝の集合を <math>\Delta^+X\, </math>, 入る枝の集合を <math>\Delta^-X\, </math> と表す. 任意の <math>\varphi\in\mathbf {R}^A\, </math> に対して, 境界 <math>\partial\varphi\in\mathbf {R}^N\, </math> を <math>\partial\varphi(X)=\varphi(\Delta^+X)-\varphi(\Delta^-X)\, </math> で定める. [[劣モジュラフロー問題]] (submodular flow problem) とは, 枝流量の上下限 <math>\bar {c},\underline {c}\in\mathbf {R}^A\, </math> と費用 <math>d\in\mathbf {R}^A\, </math> が与えられたとき,

<center>
<math>\min\{\sum_{a\in A}d(a)\varphi(a)\mid\partial\varphi\in\mbox{B}(f),\;
\forall a\in A: \underline {c}(a)\leq\varphi(a)\leq\bar {c}(a)\}\, </math>
</center>

を求める問題である [1] . 特に, <math>f\, </math> がモジュラ関数の場合には, 最小費用フロー問題となることに注意する.

　劣モジュラフロー問題は, 任意の <math>X\in\mathcal {D}\, </math> に対して<math>\underline {c}(\Delta^+X)-\bar {c}(\Delta^-X)\leq f(X)\, </math> が成立するとき, かつそのときに限り, 実行可能解を有する. さらに, <math>\bar {c},\underline {c},f\, </math> が整数値関数であれば, 整数実行可能解が存在する.

　実行可能解 <math>\varphi\, </math> は, 以下の条件を満たす <math>p\in\mathbf {R}^N\, </math> が存在するとき, かつそのときに限り, 最適解である. ただし, 各枝 <math>a\in A\, </math> に対して<math>d_p(a)=d(a)+p(\partial^+a)-p(\partial^-a)\, </math> と定める.

*任意の <math>a\in A\, </math> に対して, <math>d_p(a)>0\Rightarrow\varphi(a)=\underline {c}(a)\, \, </math>, および<math>d_p(a)<0 \Rightarrow \varphi(a)=\bar {c}(a)\, </math>.

*任意の相異なる <math>i,j\in N\, </math> に対して, <math>p(j)<p(i)\Rightarrow \tilde{c}(\partial\varphi,i,j)=0\, </math>.

さらに, <math>d\, </math> が整数値関数の場合には, <math>p\, </math> を整数値関数に限ることができる.

　最小費用フロー問題の解法を一般化することによって, 劣モジュラフロー問題を解くアルゴリズムが提案されている [5] . これらの組合せ的なアルゴリズムは, いずれも劣モジュラシステム <math>(\mathcal {D},f)\, </math> に関する交換容量を計算する手続きの存在を仮定している. 交換容量の計算は, 定義より明らかなように, 劣モジュラ関数の最小化になっており, 楕円体法を用いれば強多項式時間で可能なことが知られている. しかし, 劣モジュラフロー問題の応用に際しては, 問題の特殊性を活かした組合せ的な手続きが設計できる場合が少なくない.

　劣モジュラ関数 <math>f\, </math> の最小値を達成する <math>X\in\mathcal {D}\, </math> の全体は, <math>\mathcal {D}\, </math> の部分分配束をなす. バーコフ(G. Birkhoff)の表現定理より, この部分分配束は <math>N\, </math> の適当な部分集合への分割と各成分間の半順序関係によって表すことができる. この原理に基づいて劣モジュラ関数で記述された離散システムを分解する手法を総称して[[基本分割]] (principal partition) と呼ぶ.

----
'''参考文献'''

[1] J. Edmonds and R. Giles, "A min-max relation for submodular functions on graphs," in ''Studies in Integer Programming''}, P. L. Hammer, E. L. Johnson, and B. H. Korte, eds., North-Holland, 185-204, 1977.

[2] S. Fujishige, ''Submodular Functions and Optimization'', North-Holland, 1991.

[3] M. Grötschel, L. Lov\'asz and A. Schrijver, ''Geometric Algorithms and Combinatorial Optimization'', Springer-Verlag, 1988.

[4] 伊理正夫, 藤重悟, 大山逹雄, 『グラフ・ネットワーク・マトロイド』, 産業図書, 1986.

[5] 岩田覚, 「劣モジュラ流問題」, 藤重悟編　『離散構造とアルゴリズム Ⅵ』, 近代科学社, 第4章，127-170, 1999.

《マトロイド》

2007-07-16T11:30:48Z

220.104.197.230:

'''【まとろいど (matroid) 】'''

　[[マトロイド]] (matroid) は, 線型空間内のベクトル集合の一次独立・従属といった概念の組合せ論的な側面を抽象化して得られる公理系を満たすものとして定義されている. 有限集合 <math>N\, </math> とその部分集合族 <math>\mathcal I\, </math> が以下の (I0)-(I2) を満たすとき, <math>(N,\mathcal I)\, </math> はマトロイドと呼ばれる.

<math>\mathbf{(I0)} \quad \emptyset \in \mathcal I., </math>

<math>\mathbf{(I1)} \quad I\subseteq J \in \mathcal I\Rightarrow I \in \mathcal I.\, </math>

<math>\mathbf{(I2)} \quad I,J \in \mathcal I, |I|<|J|\Rightarrow\exists j \in J \setminus I: I\cup\{j\} \in \mathcal I.\, </math>

マトロイド <math>\mathbf{M}=(N,\mathcal I)\, </math> において, <math>N\, </math> を <math>\mathbf{M}\, </math> の台集合, <math>\mathcal I\, </math> を[[独立集合族]] (independent set family) という.部分集合 <math>I \in \mathcal I\, </math> は, <math>\mathbf{M}\, </math> の独立集合と呼ばれる.

　マトロイド <math>\mathbf{M}\, </math> の基とは, 極大な独立集合のことである. 公理 (I2) から明らかなように, 基の要素数は全て等しい. この数をマトロイド <math>\mathbf{M}\, </math> の階数という. 基の全体を<math>\mathcal{B}\, </math> と書き, <math>\mathbf{M}\, </math> の[[基族]] (base family) と呼ぶ. 基族 <math>\mathcal{B}\, </math> は以下の (B0)-(B1) を満たす.

<math>\mathbf{(B0)} \quad \mathcal{B}\neq\emptyset.\, </math>

<math>\mathbf{(B1)} \quad B,F \in \mathcal{B}, i \in B\setminus F\Rightarrow\exists j \in F\setminus B: (B\setminus\{i\})\cup\{j\} \in \mathcal{B}.\, </math>

　マトロイド <math>\mathbf{M}\, </math> の[[階数関数]] (rank function) <math>\rho\, </math> は,

<center><math>\rho(X)=\max\{|I|\mid I\subseteq X,\, I \in \mathcal I\}
\quad\quad\quad(X\subseteq N)\, </math>
</center>

と定義される. 階数関数 <math>\rho\, </math> は以下の (R0)-(R3) を満たしている.

<math>\mathbf{(R0)} \quad \rho(\emptyset)=0\, </math>.

<math>\mathbf{(R1)} \quad \forall X\subseteq N: \rho(X)\leq |X|\, </math>.

<math>\mathbf{(R2)} \quad X\subseteq Y \Rightarrow \rho(X)\leq\rho(Y)\, </math>.

<math>\mathbf{(R3)} \quad \forall X,Y\subseteq N: \rho(X)+\rho(Y)\geq\rho(X\cap Y)+\rho(X\cup Y)\, </math>.

特に, (R3) は <math>\rho\, </math> が[[劣モジュラ関数]] (submodular function) であることを示している.

　ここでは, (I0)-(I2) によってマトロイドを定義したが, (B0)-(B1) を満たす基族 <math>\mathcal{B}\, </math> からマトロイドを定義することもできる. この場合, 独立集合は基の部分集合として定義される. 同様に, (R0)-(R3) を満たす階数関数によってマトロイドを定義することもできる. この場合, 独立集合族は <math>\mathcal I=\{I\mid \rho(I)=|I|\}\, </math> によって定められる.

　離散最適化に現れるマトロイドの代表的な例を以下に挙げる.

'''グラフ的マトロイド'''　点集合 <math>V\, </math>, 枝集合 <math>E\, </math> を持つ無向グラフ <math>G=(V,E)\, </math> を考える. 枝集合の部分集合のうち, 閉路を含まないものの全体を <math>\mathcal I\, </math> とすると, <math>(E,\mathcal I)\, </math> は (I0)-(I2) を満たし, マトロイドになる. このようにして得られるマトロイドをグラフ的マトロイドと呼ぶ.

'''横断マトロイド'''　点集合 <math>U\, </math>, <math>V\, </math>, 枝集合 <math>E\, </math> からなる2部グラフ <math>H=(U,V;E)\, </math> を考える. 枝部分集合 <math>M\subseteq E\, </math> で端点を共有しないものを <math>H\, </math> のマッチングという. 点集合 <math>U\, </math> の部分集合で, <math>H\, </math> のマッチングの <math>U\, </math> における端点集合となり得るものの全体を <math>\mathcal I\, </math> とする. このとき, <math>(U,\mathcal I)\, </math> は (I0)-(I2) を満たし, マトロイドになる. このようにして得られるマトロイド <math>(U,\mathcal I)\, </math> を横断マトロイドと呼ぶ.

　マトロイド <math>\mathbf{M}=(N,\mathcal I)\, </math> の各要素 <math>i \in N\, </math> に重み <math>w(i)\, </math> が与えられたとき, 以下の様な[[貪欲アルゴリズム]]　(greedy algorithm)　を適用して最終的に得られる <math>I\, </math> が, 重み最小の基, すなわち, <math>\textstyle w(B)=\sum\{w(i)\mid i \in B\}\, </math> を最小にする基 <math>B \in \mathcal{B}\, </math> となる.

*<math>I\leftarrow\emptyset; S\leftarrow N; \, </math>

*<math>S=\emptyset\, </math> となるまで, 以下を繰り返す.
::<math>- \; S\, </math> の中で, 重み最小の要素を <math>j\, </math> とする; <math>S\leftarrow S-\{j\};\, </math>
:: <math>-\, </math>もし <math>I\cup\{j\} \in \mathcal I\, </math> であれば, <math>I\leftarrow I\cup \{j\}.\, </math>

全く同様のアルゴリズムによって, 重みの最大化も可能である.

　離散最適化におけるマトロイドの重要性は, 貪欲アルゴリズムのみならず, [[共通マトロイド問題]] (matroid intersection problem)　に負うところが大きい. 共通マトロイド問題とは, 台集合を共有するマトロイド <math>\mathbf{M}^+=(N,\mathcal I^+)\, </math> と <math>\mathbf{M}^-=(N,\mathcal I^-)\, </math> における共通独立集合のうちで, 要素数最大のものを求める問題である. この問題の最適値は, <math>\mathbf{M}^+\, </math> の階数関数 <math>\rho^+\, </math> と <math>\mathbf{M}^-\, </math> の階数関数 <math>\rho^-\, </math> を用いて,

<center>
<math>\max\{|I|\mid I \in \mathcal I^+\cap\mathcal I^-\}=\min\{\rho^+(X)+\rho^-(N-X)\mid X\subseteq N\}\, </math>
</center>

と特徴付けられる [1] . 共通マトロイド問題は, 回路理論やシステム解析においても本質的な役割を果たしている [2, 3, 5] .

　マトロイドが, 行列における一次独立性を抽象化して得られたのに対し, 対称行列や歪対称行列の正則主小行列の組合せ的な性質を抽象化した[[デルタマトロイド]] (delta-matroid) が提案された. デルタマトロイドは, マトロイドの一般化であり, 貪欲アルゴリズムが適用可能であると同時に, 一般グラフ上のマッチングの端点集合族をも包含する枠組として注目されている.

　また, 多項式行列の小行列式の次数の抽象化として[[付値マトロイド]] (valuated matroid) が提案された. 付値マトロイドの研究は, 劣モジュラ関数の凸性に関する理論と結び付いて, 離散凸解析と呼ばれる分野に発展している.

----
'''参考文献'''

[1] J. Edmonds, "Submodular functions, matroids, and certain polyhedra," in ''Combinatorial Structures and Their Applications'', R. Guy, H. Hanani, N. Sauer, and J. Schönheim, eds., Gordon and Breach, 69-87, 1970.

[2] 室田一雄, 「マトロイドとシステム解析」, 藤重悟編『離散構造とアルゴリズムⅠ』, 近代科学社, 第2章，57-109, 1992.

[3] K. Murota, ''Matrices and Matroids for Systems Analysis'', Springer-Verlag, 1999.

[4] J. G. Oxley, ''Matroid Theory'', Oxford University Press, 1992.

[5] A. Recski, ''Matroid Theory and Its Applications in Electric Network Theory and in Statics'', Springer-Verlag, 1989.

[6] D. J. A. Welsh, ''Matroid Theory'', Academic Press, 1976.

《マッチング問題》

2007-07-15T05:40:28Z

220.104.197.230:

'''【まっちんぐもんだい (matching problems)】'''

　<math>G = (V, A)\, </math> を無向グラフとする. <math>G\, </math> の[[マッチング]] (matching) とは, 端点を共有しない枝の集合 <math>M \subseteq A\, </math> のことである. <math>k\, </math> 本の枝からなるマッチングを <math>k\, </math>-マッチングと呼び, 特に <math>k = |V|/2\, </math> のときは完全マッチングと呼ぶ. 与えられた目的に従ってマッチングを選ぶ問題のことを, [[マッチング問題]]という. 以下, 幾つかのマッチング問題について簡単に説明する.

'''(a) 最大マッチング問題'''　枝数が最大のマッチングを求める問題を, 最大マッチング問題という. マッチング <math>M\, </math> に対し, 長さが奇数の道 <math>P =(a_1, a_2, \cdots, a_{2k+1})\, </math> が, 条件 <math>a_i \in A\setminus M\, </math> <math>(\forall i:\, </math> 奇数), <math>a_i \in M\, </math>　<math>(\forall i:\, </math> 偶数<math>)\, </math> を満たし、道<math>P\, </math>の始点と終点が<math>M\, </math>の端点でないとき, <math>P\, </math> は <math>M\, </math> に関する増加道と呼ばれる. 増加道に関して, 以下の性質が成り立つ:

*マッチング <math>M\, </math> 及び <math>M\, </math> に関する増加道 <math>P\, </math> に対し, 枝集合 <math>(M \setminus P) \cup (P \setminus M)\, </math> は枝数 <math>|M| + 1\, </math> のマッチングである.

*<math>M\, </math> は最大マッチング <math>\iff M\, </math> に関する増加道が存在しない.

　従って, 枝数 0 のマッチングからはじめ, 各反復では, 増加道を求めてマッチングの枝数を増やしていくことで, 最大マッチングが求められる. <math>G\, </math> が2部グラフの場合には, 増加道の存在判定及び検出が容易に実行できるのに対し, 一般のグラフの場合には多少工夫を要する．いずれの場合も多項式時間で最大マッチングを求めることができる.

　点集合 <math>U \subseteq V\, </math> に対して, 任意の枝 <math>a \in A\, </math> の端点のうち少なくとも一方が <math>U\, </math> に含まれるとき, <math>U\, </math> は <math>G\, </math> の[[被覆 (グラフ理論における)|被覆]] と呼ばれる. 任意のマッチング <math>M \subseteq A\, </math> と任意の被覆 <math>U \subseteq V\, </math> に対して, 不等式 <math>|M| \leq |U|\, </math> が成り立つ. 特に, <math>G\, </math> が2部グラフならば, 最大マッチングの枝数と最小被覆の点数は等しい:

<center>
<math>\max\{|M| \mid M: G\, </math> のマッチング<math>\} = \min\{|U| \mid U: G\, </math> の被覆<math>\}.\, </math>　　<math>(1)\, </math>
</center>

これを, 2部グラフに関する[[最大マッチング最小被覆定理]]という.

　一般のグラフの場合, 式(1)は成り立つとは限らないが，成り立つようにその右辺を修正することができる．奇数個の点からなる点集合の族を <math>{\mathcal U} = \{U_1, U_2, \cdots, U_k\}\, </math> とする. 任意の枝 <math>a \in A\, </math> に対して, 以下の条件 (i) または (ii) が成り立つとき, <math>\mathcal U\, </math> を <math>G\, </math> の奇被覆と呼ぶ:

:<math>\mbox{(i)} \quad |U_i| = 1\, </math> なる <math>U_i\, </math> が存在して, <math>a\, </math> の一方の端点が <math>U_i\, </math> に含まれる.

:<math>\mbox{(ii)} \quad|U_i| > 1\, </math> なる <math>U_i\, </math> が存在して, <math>a\, </math> の両端点が <math>U_i\, </math> に含まれる.

各 <math>U \in \mathcal U\, </math> に対し, <math>c(U)\, </math> を, <math>|U| = 1\, </math> ならば <math>c(U) = 1, |U| > 1\, </math> ならば <math>c(U) = (|U| - 1)/2\, </math>, と定める. このとき, 次の最大・最小定理が成り立つ:

:<math>\textstyle \max\{|M| \mid M: G\, </math> のマッチング <math>\textstyle \} = \min\{{\sum}_{U \in {\mathcal U}} c(U) \mid {\mathcal U}: G\, </math> の奇被覆<math>\}.\, </math>

　2部グラフ <math>G = (V^+, V^-; A)\, </math> において, <math>|M| = |V^+|\, </math>であるマッチング <math>M\, </math> を, 左側端点集合 <math>V^+\, </math> に関する完全マッチングという. 左側端点集合 <math>V^+\, </math> に関する完全マッチングが存在するための必要十分条件は次のように書ける:

<center>
<math>|U^+| \leq |\{v \in V^- \mid \ u \in U^+, (u, v) \in A\}| \qquad
(\forall U^+ \subseteq V^+).
\, </math>
</center>

これを, [[ホールの定理]] (Hall's theorem) と呼ぶ.

　最小被覆族の構造に基づいた2部グラフの分解として[[ダルメジ・メンデルゾーン分解]] (Dulmage-Mendelsohn decomposition) が知られている. 略してDM分解と呼ばれる. この分解は, 与えられた2部グラフを, 半順序構造を有する部分グラフの族へと一意的に分解する. DM 分解は, 連立一次方程式を解く際にも有用である. 係数行列に関連する2部グラフのDM分解を用いて係数行列のブロック三角化が出来, これにより計算時間を削減することができる.

'''(b) 最大重みマッチング問題'''　無向グラフ <math>G = (V, A)\, </math> 及び各枝 <math>a \in A\, </math> の重み <math>w(a) \in \mathbf{R}\, </math>が与えられたとき, 枝重みの和 <math>\textstyle {\sum}_{a \in M}w(a)\, </math> を最大にするマッチング <math>M \subseteq A\, </math> を求める問題を最大重みマッチング問題と呼ぶ. 最大重み<math>k\, </math>-マッチング問題, 最大重み完全マッチング問題も同様に定義される. ２部グラフにおける最大重み完全マッチング問題は[[割当問題]]　(assignment problem)　とも呼ばれる.

　最大重みマッチングを求めるときも, 最大マッチングと同様に増加道を用いて繰り返しマッチングの枝数を増やしていき, 最終的に所望のマッチングを求めることができる. その際, 各反復でのマッチングがある種の最適性を満たすように, 増加道をうまく選ぶ必要がある.

　一般のグラフの場合には, まず最大重みマッチング問題を線形計画問題として定式化し, そこから現れる相補性条件を考え,その条件が満たされるように増加道を選ぶ. 特に, <math>G\, </math> が2部グラフの場合は, マッチングの重みの増加量が最大となるように, 各反復において増加道を選べば良い. いずれの場合も, 多項式時間で最大重みマッチングを求めることが出来る. 以上のような主双対算法の他に多くの解法が提案されている．

'''(c) 安定結婚問題'''　2部グラフでのマッチング問題の一種として, [[安定結婚問題]]が挙げられる. 同じ人数の男性と女性が存在して, 各々が異性に対して結婚相手としての選好順序をもつと仮定する. ここで, 男女を全て結婚させること, すなわち男女間の完全マッチングについて考える. 男女間の完全マッチングが与えられたとき, それが安定であるとは, 結婚していない男性と女性の任意の対 <math>(m, f)\, </math> に対して, <math>m\, </math> が <math>f\, </math> より現在の結婚相手を好むか, または <math>f\, </math> が <math>m\, </math> より現在の結婚相手を好むことである. 男女間の安定な完全マッチングを求める問題を安定結婚問題と呼ぶ.

　安定な完全マッチングは常に存在し, ゲイル・シャプレー(Gale-Shapley) の解法により多項式時間で求められる. この解法では, 各々の男性は1番目に好きな女性から, 2番目に好きな女性, ...と順に, 拒否されたら順位を１つ下げて, 求婚する. 一方, 各々の女性は求婚してきた男性のうち, 最も好きな人との結婚を仮受託し, それ以外の求婚してきた男性を拒否する. この手順を繰り返し, すべての女性が仮受託したら終了であり, 安定な完全マッチングが求められる.

----
'''参考文献'''

[1] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, ''Network Flows: Theory, Algorithms, and Applications'', Prentice Hall, 1993.

[2] W. J. Cook, W. H. Cunningham, W. R. Pulleyblank and A. Schrijver, ''Combinatorial Optimization'', John Wiley & Sons, 1998.

[3] 藤重悟,『離散数学』, 岩波講座応用数学基礎12, 岩波書店, 1993.

[4] D. Gusfield and R. W. Irving, ''The Stable Marriage Problem: Structure and Algorithms'', MIT Press, 1989.

[5] 伊理正夫, 藤重悟, 大山達雄,『グラフ・ネットワーク・マトロイド』, 産業図書, 1986.

[6] E. L. Lawler, ''Combinatorial Optimization: Networks and Matroids'', Holt, Rinehart and Winston, 1976.

[7] L. Lovász and M. D. Plummer, ''Matching Theory'', North-Holland, 1986.

[8] C. H. Papadimitriou and K. Steiglitz, ''Combinatorial Optimization: Algorithms and Complexity'', Prentice-Hall, 1982.

[9] W. R. Pullyblank, "Matchings and Extensions," in ''Handbook of Combinatorics, Vol. I'', R. L. Graham, M. Grötschel and L. Lovász, eds., North-Holland, 1995.

《ネットワーク・フロー問題》

2007-07-15T05:34:56Z

220.104.197.230:

'''【ねっとわーくふろーもんだい (network flow problem) 】'''

　ネットワーク上のモノの流れを扱う．モノは与えられた有向グラフ<math>G=(V, A)\, </math>の各枝に沿って流れ，点で分岐や合流をする．ただし，各枝<math>a\, </math>の容量<math>c(a)\, </math>を超えず，各点<math>v\, </math>から出る正味の流量が，与えられた供給量<math>d(v)\, </math>と等しくなるようにする．枝aを流れる量を<math>\varphi(a)\, </math>としたとき，

'''容量制約'''　<math>0 \leq \varphi(a) \leq c(a) \; \; (a \in A)\, </math>

'''流量保存則'''　<math>{\sum}_{a \in \delta^+v} \varphi(a)-{\sum}_{a \in \delta^-v}
\varphi(a)=d(v)
\; \; (v \in V)\, </math>

を満たす<math>\varphi\, </math>をフローといい，フローを扱った最適化問題を[[ネットワークフロー問題]]という [1] ．ただし，<math>\delta^+v (\delta^-v)\, </math>は点<math>v\, </math>から出る (へ入る) 枝の全体を表す．
　代表的なネットワーク・フロー問題に最大フロー問題がある．最大フロー問題とは，特別な点として入口<math>s\, </math>と出口<math>t\, </math>があり，<math>s, t\, </math>以外での供給量<math>d(v)\, </math>が0であるとき，<math>s\, </math>から入る量 (フロー値) を最大にするようなフロー (最大フロー) を求める問題であり，以下のように定式化できる．

<center>
<math>\begin{array}{lll}
\mbox{maximize} & {\sum}_{a \in \delta^+ s} \varphi(a)-{\sum}_{a \in \delta^-
s}\varphi(a) \\
\mbox{subject to}& 0 \leq \varphi(a) \leq c(a) & (a \in A), \\
& {\sum}_{e \in \delta^+v} \varphi(a)-{\sum}_{e \in \delta^-v}
\varphi(a)=0 &
(v \in V \setminus\{s, t \}).
\end{array}\, </math>
</center>

　点の部分集合<math>X\, </math>が<math>s\, </math>を含み，<math>t\, </math>を含まないとき，<math>X\, </math>を<math>s-t\, </math>カットという．始点が<math>X\, </math>にあり終点が<math>X\, </math>にない枝の容量の和を<math>X\, </math>の容量といい，容量最小の<math>s-t\, </math>カットを最小カットという．任意のフローのフロー値は任意の<math>s-t\, </math>カットの容量よりも大きくなり得ない．この値が一致するようなフローと<math>s-t\, </math>カットが存在することを示したのが，[[最大フロー最小カット定理]] [2] である．実際，ある<math>s-t\, </math>カットの容量に一致するフロー値をもつフローが以下の操作で得られる．

　まず，任意のフロー<math>\varphi\, </math>に対し，補助ネットワーク<math>{\mathcal N}_\varphi=(G_\varphi=(V, A_\varphi), c_\varphi)\, </math>を定義する．<math>G_\varphi\, </math>は，与えられたグラフと同じ点集合<math>V\, </math>をもち，枝集合が<math>A_\varphi=\{a \mid a \in A, \varphi(a) < c(a) \}\cup \{\bar{a} \mid a \in A, \varphi(a)>0 \}\, </math>のグラフとする．ただし，<math>\bar{a}\, </math>は，枝<math>a\, </math>の向きを逆にした枝である．<math>c_\varphi\, </math>は，<math>A_\varphi\, </math>の枝に定義される残余容量であり，

<center>
<math>c_\varphi(a)=\left\{ \begin{array}{ll}
c(a)-\varphi(a) & (a \in A) \\ \varphi(\bar{a}) & (\bar{a} \in A)
\end{array} \right.\, </math>
</center>

で与えられる．補助ネットワーク上の<math>s\, </math>から<math>t\, </math>への有向道を増加道という．増加道に沿ってフローの更新を繰り返し，フロー値を増加させる方法を増加道法という．任意のフローから始め，以下の手順を繰り返す．

'''手順1:''' <math>{\mathcal N}_\varphi\, </math>を作成し，増加道<math>P\, </math>をみつける．増加道がなければ終了．

'''手順2:''' <math>\varepsilon=\min\{c_\varphi(a) \mid a\, </math>は<math>P\, </math>上の枝<math>\}\, </math>を求め，<math>P\, </math>上のすべての枝<math>a\, </math>に関して，<math>a \in A\, </math>ならば，<math>\varphi(a)\, </math>を<math>\varepsilon\, </math>増加し，<math>\bar{a} \in A\, </math>ならば，<math>\varphi(a)\, </math>を<math>\varepsilon\, </math>減少させる．

　増加道が存在しなくなったとき，<math>{\mathcal N}_\varphi\, </math>上で<math>s\, </math>から到達可能な点集合を<math>X\, </math>とすると，<math>X\, </math>は<math>s-t\, </math>カットであり，その容量はフロー値と一致する．よって，増加道法が終了したときのフローが最大フローであり，<math>X\, </math>が最小カットである．

　増加道の選択を，枝数最小や，<math>\varepsilon\, </math>最小の基準で行うと，多項式時間の[[最大フローアルゴリズム]]となる．一方，流量保存則を緩和したプリフローを用い，増加道が存在しないようなプリフローを維持しながら，最大フローを求めるプッシュ・再ラベル法も効率よい最大フロー・アルゴリズムである．

　[[最小費用フロー問題]]もネットワーク・フロー問題の一つである．各枝<math>a\, </math>のフロー1単位あたりの費用<math>\gamma(a)\, </math>が与えられているとき，総費用<math>\textstyle {\sum}_{a \in A}\gamma(a)\varphi(a)\, </math>を最小にするフローを求める問題である．特に，すべての点で供給量<math>d(v)=0\, </math>のとき，[[循環フロー]]という．また，[[輸送問題]]も最小費用フロー問題の特殊ケースである．複数の供給地と需要地があり，各々の供給/需要量と，各供給地と需要地間の輸送費用がわかっているとき，供給/需要を満たし，輸送にかかる総費用を最小とする輸送方法とその輸送量を決定する輸送問題は，容量制約のない2部グラフ上の最小費用フロー問題である．
　最小費用フロー・アルゴリズムも多数ある．補助ネットワーク<math>{\mathcal N}_\varphi\, </math>上の費用を

<center>
<math>\gamma_\varphi(a)=\left\{ \begin{array}{ll}
\gamma(a) & (a \in A) \\ -\gamma(\bar{a}) & (\bar{a} \in A)
\end{array} \right.
\, </math>
</center>

で定義すると，フローが最小費用である必要十分条件は，その補助ネットワーク上に負の費用の閉路が存在しないことである．補助ネットワーク上の負の費用の閉路を繰り返し除去することによって最適フローを求めるのが負閉路消去法である．この他にも，点に対応する双対変数を与え，相補スラック条件を満たす枝からなるネットワーク上で最大フロー問題を繰り返し解く方法，最短路問題を繰り返し解く方法，単体法を用いたネットワーク単体法などがある．いずれの方法も強多項式時間アルゴリズムが存在する．

　最大フロー問題，最小費用フロー問題ともに，容量，供給量が整数で与えられているときには，整数値の最適フローが存在することが知られている．また，ネットワークの構造を用いた効率よいアルゴリズムがいくつか存在する．一方，１つのネットワーク上に複数品種を流す[[多品種フロー]]問題は，品種ごとに流量保存則が満たされており，かつすべての品種をあわせて容量制約が満たされている多品種フローを扱う．多くのアルゴリズムは線形計画法の手法に基づいている．整数値の多品種フローを求める問題はNP完全である．

----
'''参考文献'''

[1] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, ''Network Flows: Theory, Algorithms, and Applications'', Prentice Hall, 1993.

[2] L. R. Ford, Jr. and D. R. Fulkerson, ''Flows in Networks'', Princeton University Press, 1962.

《最小木問題》

2007-07-15T05:31:51Z

220.104.197.230:

'''【さいしょうきもんだい (minimum spanning tree problem) 】'''

　[[無向グラフ]]<math>G=(V,E)\, </math>の各枝<math>e\in E\, </math>に実数の重み<math>w(e)\, </math>が与えられているとする. グラフ<math>G\, </math>上において全点<math>V\, </math>を点集合とし[[木]]になっている部分グラフを全張木あるいは全域木(spanning tree)と呼ぶ. グラフ<math>G\, </math>上の全張木<math>T=(V,E_T)\, </math>の重みは, <math>T\, </math>上の枝の重みの総和<math>\textstyle {\sum}_{e\in E_T}w(e)\, </math>で定める. グラフ<math>G\, </math>上において重み最小の全張木を最小木 (minimum spaninng tree) といい, 最小木を求める問題を[[最小木問題]] (minimum spaninng tree problem) という.

　最小木問題は, [[クラスター分析]]やネットワーク・デザインなどの分野で利用されているが, より複雑な問題の子問題として活用されることの多い基本的な問題である([2]).

　グラフ上の問題として基本的である最小木問題がいつ頃から考えられたのかは明らかではない. 分かっている範囲では, 1926年に<math>{Bor\breve{u}vka}\, </math>が,またそれとは独立に, 1930年にJarníkがそれぞれ最小木問題を定式化しそのアルゴリズムを発表している（最小木問題に関する歴史は [4] が詳しい). その後,最小木問題に対する基本的なアルゴリズムとして[[クラスカル法]](Kruskal's algorithm) と[[プリム法]](Prim's algorithm) などが提案された. 現在までに提案されている主な効率的なアルゴリズムはこれらの二つのアルゴリズムのどちらかを基にデータ構造を工夫することによって構築されている([1]).

　クラスカル法は, 1956年に J. B. Kruskal [6] により, またそれとは独立に1957年にH. LobermanとA. Weinbergerにより提案された[[多項式時間アルゴリズム]]である. アルゴリズムの概要は以下のとおりである. クラスカル法では，まず, 枝のない点集合<math>V\, </math>のみからなる森<math>F=(V,\emptyset\, </math>)を考え，次に, 閉路が発生しない限り枝の重みが小さい順に一本ずつ森<math>F\, </math>に枝を加えるという操作を繰り返す. 森<math>F\, </math>が全張木になった時点で繰り返しは終了し, 得られた<math>F\, </math>が一つの最小木である.

　一方, プリム法は, 1957年, R. C. Prim [7] によって提案された多項式時間アルゴリズムである(Jarník法と同じ). プリム法では, まず, 任意の１点<math>v\, </math>のみからなる木<math>T=(\{v\},\emptyset)\, </math>を考え, 次に, グラフ<math>G\, </math>において現在の木<math>T\, </math>の点集合と木以外の点集合を接続する枝集合の中から枝の重みが最も小さい枝とその端点を新たに木<math>T\, </math>に加えるという操作を繰り返す. 木<math>T\, </math>がグラフ<math>G\, </math>の全張木になった時点で繰り返しは終了し, 得られた<math>T\, </math>が一つの最小木である.

　どちらのアルゴリズムも候補の枝集合から最小の重みの枝を選びながら最小木を構成していくという点から[[貪欲アルゴリズム]] (greedy algorithm) という種類に分類されるアルゴリズムである. クラスカル法とプリム法の違いは候補の枝集合の構成法にある. プリム法は与えられたグラフの点と枝の接続関係に強く依存したアルゴリズムであって, そのアルゴリズムの構造は最短路問題のダイクストラ法と全く同じである．一方, クラスカル法は，グラフの[[マトロイド]]構造にのみ依存したアルゴリズムであって, マトロイドの最小基問題に対する[[貪欲アルゴリズム]]へと一般化されている．逆に, このような貪欲アルゴリズムが最適解を見出す問題はマトロイド構造を持つことも知られている．

　クラスカル法やプリム法のような貪欲アルゴリズムの考え方を用いたアルゴリズムは[[組合せ最適化]]の分野において数多く見受けられる. この貪欲アルゴリズムの考え方で解ける抽象的な組合せ最適化問題のクラスは[[マトロイド]]最適化問題と呼ばれ, そのクラスが持つ性質はマトロイド理論として組合せ最適化における多くの有用な知見を提供している.

　最小木問題は無向グラフ上において定義された問題であるが, 枝の向きに依存した[[有向グラフ]]上の問題も考えられる. 有向グラフ上での全張木は，根と呼ばれる１点から他の点への有向道がその全張木上に存在するとき有向木 (directed tree) あるいは根つき木 (rooted tree) と呼ばれる. 枝の重みの総和が最小となる有向木を求める問題は無向グラフ上の最小木を求めるほど簡単ではないが, 多項式時間アルゴリズムが存在する.

　最小木問題は重み最小の全張木を求める問題であるが, 「全張木」を「ある与えられた点集合<math>S \subseteq V\, </math>を連結化する木」と変更してみる. この変更された問題を[[シュタイナー最小木]]問題 (または, シュタイナー木問題) と呼び, その最適解をシュタイナー最小木と呼ぶ. 与えられた無向グラフ<math>G\, </math>の各枝の重みがすべて正である時, シュタイナー木の葉は点集合<math>S\, </math>に属する点となり, 内点は点集合<math>S\, </math>に属さない点（シュタイナー点と呼ばれる）をいくつか含む.

　シュタイナー最小木問題は, <math>S=V\, </math>の時に最小木問題と同一になり, また, <math>|S|=2\, </math>かつ<math>w(e)>0\, </math>の時は[[最短路問題]]と同一になるので, これらの基本的な問題の一般化として捉えることができる. 最小木問題や最短路問題には多項式時間アルゴリズムが存在するが, シュタイナー木問題は[[NP困難]]であることが示され, 多項式時間アルゴリズムの存在は絶望視されている. 問題を解く困難性は[[平面グラフ]]に限定した場合でも, また各枝の重みが等しい場合でも変わらない [3].

　問題を解く困難性はあるが, シュタイナー最小木問題は通信ネットワーク, 電力供給網において顧客を結ぶネットワーク上の問題や施設配置問題などの子問題として多くの応用例を有する. その必要性からシュタイナー最小木問題に対して多くの近似解法が提案されてきている [5].

----
'''参考文献'''

[1] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, ''Network Flows: Theory, Algorithms, and Applications'', Prentice Hall, New Jersey, 1993.

[2] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, "Applications of Network Optimization," in ''Network Models'', M. O, Ball, T. L. Magnanti, C. L. Monma and G. L. Nemhauser, eds., North-Holland, 1995.

[3] M. R. Garey and D. S. Johnson, ''Computers and Intractability: A Guide to the Theory of NP-completeness'', Freeman, San Francisco,1979.

[4] R. L. Graham and P. Hell, "On the history of minimum spanning tree problem," ''Annals of the History of Computing'', '''7''' (1985), 43-57.

[5] F. W. Hwang, D. S. Richards and P. Winter, ''The Steiner Tree problem'', Annals of Discrete Mathematics 53, North-Holland, Amsterdam,1992.

[6] J. B. Kruskal, "On the shortest spanning tree of a graph and the traveling salesman problem," ''Proceedings of the American Mathematical Society'', '''7''' (1956), 48-50.

[7] R. C. Prim, "Shortest connection networks and some generalizations," ''Bell System Technical Journal'', '''36''' (1957), 1389-1401.

《最短路問題》

2007-07-15T05:30:44Z

220.104.197.230:

'''【さいたんろもんだい (shortest path problem) 】'''

　[[有向グラフ]]<math>G=(V,A)\, </math>の各[[枝]]<math>a\in A\, </math>に長さ<math>l(a)\in \mathbf{R}\, </math>が付与されている[[ネットワーク]]<math>N=(G=(V,A),l)\, </math>が与えられているとする. 有向グラフ<math>G\, </math>の任意の2点<math>s,t\in V\, </math>に対して, 点<math>s\, </math>を始点とし点<math>t\, </math>を終点とする有向道<math>P\, </math>の長さ<math>l(P)\, </math>は<math>P\, </math>上の枝の長さの総和, <math>\textstyle l(P)={\sum}_{a\in P}l(a)\, </math>, と定める. 始点<math>s\, </math>から終点<math>t\, </math>への有向道<math>P\, </math>のなかで, その長さを最小にするもの(が存在すれば, それ)を点<math>s\, </math>から点<math>t\, </math>への最短路(shortest path)といい, 最短路を求める問題を[[最短路問題]] (shortest path problem) という. 与えられたネットワークにおいて負の長さの有向閉路(負閉路と呼ぶ)が存在する場合には一般に最短路は存在しなくなる. ただし，負閉路を持つネットワーク上でも，初等的な（点を繰り返さない）道で最短なものを求める問題を考えることもあるが，一般的には解くことが難しい問題となる．

　最短路問題は[[組合せ最適化問題]]の中での最も基本的かつ重要な問題の一つである. 例えば, [[ナップサック問題]], [[PERT]], [[巡回セールスマン問題]]など様々な組合せ最適化問題が最短路問題とも関係し, 最短路問題において得られた知識はそれらの組合せ最適化問題の解法にも影響を与えている. また, 交通計画や通信ネットワークの分野などでは最短路問題を利用し解析に必要な基本データを算出している. さらに, [[ネットワークフロー問題]], [[配送計画問題]]やネットワークデザインなどのより複雑な問題に対するアルゴリズムにおいて，子問題として最短路問題を解くことがしばしば要求され, その応用は広範囲におよぶ ([2]).

　最短路問題に対して様々なアルゴリズムが提案されている ([1]). それらのアルゴリズムは, それが適用できるネットワークの種類から大きく二つに分類できる. 一つは, 負の長さの枝が存在しても適用できるアルゴリズムで, もう一つは, 負の長さの枝が存在しない時にのみ適用できるアルゴリズムである.

　前者のタイプのアルゴリズムとしては, L. R. Ford [5] とR. E. Bellman [3] によって独立に示された[[ベルマン・フォード法]](Bellman-Ford algorithm)（フォード・ベルマン法ともいう）が良く知られている. この方法では, <math>p(s)=0, p(v)=+\infty\, </math> <math>(v\in V)\, </math>なる点のラベル<math>p\, </math>を用意して, 枝<math>(u,v)\, </math>に対して<math>l(u,v)+p(u)<p(v)\, </math>ならば<math>p(v)\leftarrow l(u,v)+p(u)\, </math>とおく．ここで，すべての枝に対して１回ずつこの操作を行うことを基本操作として，ラベルの減少が起る限り高々<math>|V|\, </math>回基本操作を繰り返す．基本操作が<math>|V|\, </math>回繰り返された場合には負閉路が検出される．そうでない場合には, 終了時に得られたラベル<math>p\, </math>によって，<math>l(u,v)+p(u)-p(v)=0\, </math>を満たす枝の全体からなる<math>G\, </math>の部分グラフ中の点<math>s\, </math>から各点<math>v\, </math>への有向道が最短路を与える．なお，ベルマン・フォード法の変種で隣接２点間の距離行列のべき乗と同等と見做される行列演算によって理解されるアルゴリズムとして，べき乗法(power method)も知られている. これらは<math>{\rm O}(|V||A|)\, </math>時間のアルゴリズムである．

　一方, すべての枝の長さが非負の時に，より高速に最短路を見出すタイプの代表的なアルゴリズムとして, E. W. Dijkstra [4] によって提案された[[ダイクストラ法]] (Dijkstra's algorithm) が知られている.この方法では，出発点<math>s\, </math>からの(最短)距離が小さい順に最短路および(最短)距離が確定していく．初期ラベル<math>P\, </math>はベルマン・フォード法と同じで, アルゴリズム実行中に最短路が確定した点集合を<math>W\, </math>とすると，<math>p(v)\, </math> <math>(v\in W)\, </math>は点<math>s\, </math>から点<math>v\, </math>への(最短)距離に等しく, <math>l(u,v)+p(u)-p(v)=0\, </math>である枝<math>(u,v)\, </math>を通って<math>W\, </math>内において点<math>s\, </math>から点<math>v\, </math>へ行く有向道が点<math>s\, </math>から点<math>v\, </math>への最短路である．<math>W\, </math>内で最後に(最短)距離が確定した点を<math>u\, </math>として, <math>l(u,v)+p(u)<p(v)\, </math>なる各点<math>v\in V-W\, </math>に対し<math>p(v)\leftarrow l(u,v)+p(u)\, </math>とおき，<math>V-W\, </math>中でラベルの最小な点<math>v\, </math>を見つけて<math>W\leftarrow W\cup\{v\}\, </math>とおく．初期には<math>W=\{s\}\, </math>である．ダイクストラ法は<math>{\rm O}(|A|+|V|\log|V|)\, </math>時間のアルゴリズムとして実現可能である．

　ベルマン・フォード法やダイクストラ法など現在提案されている最短路問題に対するアルゴリズムは本質的に始点<math>s\, </math>から全点までの最短路を同時に求める. 全点間の最短路を求めたい場合には, １点から全点への最短路を求めるアルゴリズムを繰り返し適用し求めればよい．この場合, 負の長さの枝が存在する場合には１点からの最短路問題を１回解いてすべての枝の長さを非負に等価変換することが可能であり, 基本的にダイクストラ法を<math>|V|\, </math>回適用する手間で解くことができる．なお，全点間最短路問題の<math>{\rm O}((|V|^3)\, </math>時間のアルゴリズムであるワーシャル・フロイド法 (Warshall-Floyd algorithm) も知られている.

　最短路問題は有向グラフ上で定義されているが, [[無向グラフ]]上の最短路問題を考えたい場合には, 各枝をそれと同じ長さの互いに逆向きの有向枝で置き換えることにより, 有向グラフの場合に帰着することができる．ただし，負の長さの枝が存在する場合は, この帰着によって負閉路が含まれるので, 通常の最短路問題には帰着されない．

----
'''参考文献'''

[1] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, ''Network Flows:Theory, Algorithms, and Applications'', Prentice Hall, New Jersey, 1993.

[2] R. K. Ahuja, T. L. Magnanti and J. B. Orlin, "Applications of Network Optimization," in ''Network Models'', M. O, Ball, T. L. Magnanti, C. L. Monma and G. L. Nemhauser, eds., North-Holland, 1995.

[3] R. E. Bellman, "On a Routing Problem," ''Quarterly of Applied Mathematics'', '''16''' (1958), 87-90.

[4] E. W. Dijkstra, "A note on two problems in connexion with graphs," ''Numerische Mathematik'', '''1''' (1959), 268-271.

[5] L. R. Ford, Jr., "Network Flow Theory," Report P-923, Rand Corp., Santa Monica,1956.

《パーフェクトグラフ》

2007-07-15T05:28:47Z

220.104.197.230:

'''【ぱーふぇくとぐらふ (perfect graph) 】'''

　1960年代初頭にベルジュ (C. Berge) は, [[パーフェクトグラフ]] (perfect graph) の概念やそれに関する予想を提案した. 予想の一つ「パーフェクトグラフの補グラフもパーフェクトである」は, 1972年にロバース(L. Lovász) によって解かれた. それよりも強い予想である[[パーフェクトグラフ予想]] (perfect graph conjecture) (後述) は近年ついに証明された [3]. パーフェクトグラフは半正定値計画問題の研究の源流の一つでもあり, 計算の複雑さの観点からも興味深いグラフのクラスである. パーフェクトグラフに関しては参考文献にあげた図書 [1, 4] が詳しい.

　与えられたグラフ<math>G=(V,E)\, </math>に対して, 集合 <math>K \subseteq V\, </math>の任意の2頂点が隣接しているとき, <math>K\, </math> を <math>G\, </math> のクリーク (clique) とよぶ. 要素数最大のクリークを求める問題を <math>G\, </math> に対する[[最大クリーク問題]] (maximum clique problem) とよぶ. 最大クリークの大きさをクリーク数 (clique number) といい, <math>\omega(G)\, </math>とかく. さらに, 頂点集合上の整数値重み<math>w = (w_i \mid i \in V) \in Z^V\, </math>も導入し, 重みの総和を最大とするクリークを求める問題は次のような0-1整数計画問題

<center><math>
\begin{array}{llll}
\mbox{max.} & \sum_{i \in V} w_ix_i \\
\mbox{s. t.} & x_i + x_j \leq 1 & ((i,j) \not\in E), & \qquad (1)\\
& x_i \in \{0,1\} & (i \in V),
\end{array}\, </math></center>

に定式化でき, この最適目的関数値を <math>\omega(G,w)\, </math> とかく. 明かに <math>\omega(G) = \omega(G,1)\, </math> である. クリークと対称的な性質, 任意の2要素が互いに隣接しない集合 <math>S \subseteq V\, </math> を <math>G\, </math> の安定集合 (stable set), あるいは独立集合 (independent set) という. 任意のクリークと安定集合の共通部分は高々1頂点であることを利用すると問題(1)は安定集合全体のなす族<math>{\mathcal S}\, </math>を用いて次のようにかける.

<center><math>\begin{array}{llll}
\mbox{max.} & \sum_{i \in V} w_ix_i \\
\mbox{s. t.} & \sum_{i\in S}x_i \leq 1 & (S \in {\mathcal S}), & \qquad (2)\\
& x_i \in \{0,1\} & (i \in V).
\end{array}\, </math></center>

　グラフ<math>G=(V,E)\, </math>に対して, 隣接する頂点同士が異なる色になるような彩色の仕方を頂点彩色 (vertex coloring) あるいは単に彩色(coloring)とよぶ. 最小色数の頂点彩色を求める問題を[[グラフ彩色問題]] (graph coloring problem) の一種である頂点彩色問題(vertex coloring problem) とよび, このときの最小色数を彩色数 (coloring number) といい, <math>\chi(G)\, </math>とかく. 彩色において同色の頂点の集合は安定集合であり, 頂点彩色問題は, <math>V \subseteq S_1 \cup \cdots \cup S_\ell\, </math>となる安定集合の族<math>\{S_1,\cdots,S_\ell\}\, </math>で最小のものを求める問題とみなせる. さらに, 頂点集合上の重み<math>w = (w_i \mid i \in V) \in Z^V\, </math>も導入し

<center><math> \begin{array}{llll}
\mbox{min.} & \sum_{S \in {\mathcal S}} y_S \\
\mbox{s. t.} & \sum_{S \ni i}y_S \geq w_i & (i \in V), & \qquad (3)\\
& y_S \in Z_+ & (S \in {\mathcal S}),
\end{array}\, </math></center>

という問題の最適目的関数値を <math>\chi(G,w)\, </math> とかく(ただし<math>{\mathcal S}\, </math>は<math>G\, </math>の安定集合全体のなす族, <math>Z_+\, </math>は非負整数全体を表す). 明かに <math>\chi(G,1)\, </math> は彩色数 <math>\chi(G)\, </math> と一致する. 問題 (3) の整数条件<math>y_S \in Z_+\, </math>を非負条件<math>y_S \geq 0\, </math>に置き換えた線形計画問題は, 問題 (2) の整数条件<math>x_i \in \{0,1\}\, </math>を非負条件 <math>x_i \geq 0\, </math> で置き換えた線形計画問題の双対問題である. このことから次の関係が示せる.

<center>
<math>\omega(G,w) \leq \chi(G,w), \quad\, </math> <math>(\, </math>特別な場合として<math>)\, </math> <math>\quad \omega(G) \leq \chi(G). \qquad (4)\, </math>
</center>

<math>\omega(G) \leq \chi(G)\, </math> は任意の彩色でクリークの各頂点は異なる色に塗られることより明かであろう.

　一般のグラフに対する最大クリーク問題や頂点彩色問題のNP困難性が知られている. すなわち, 多くの研究者はこれらの問題に対する多項式時間解法は存在しないと信じている. 不等式 (4) の間に入る量で多項式時間で計算出来るものに[[ロバース数]] (Lovász number)がある. (本来の定義とは異なるが) ロバース数<math>\vartheta(G,w)\, </math>は

<table align="center">
<tr>
<td>

<table>
<tr>
<td rowspan="3"><math>\vartheta(G,w) = \max \left\{
\begin{array}{l}
\\
\\
\\
\\
\end{array}\right.</math></td>
<td rowspan="3"><math>\bar{w}^{\top} B \bar{w} \;
\begin{array}{|l}
\mbox{B:} \\
B_{ij} \\
\sum_i
\end{array} \quad</math></td>
<td>対称半正定値行列</td>
<td rowspan="3"><math> \left.
\begin{array}{l}
\\
\\
\\
\\
\end{array} \right\}, </math></td>
<td rowspan="3"><math>\bar{w}= \left( \begin{array}{c}\sqrt{w_1}\\ \vdots\\ \sqrt{w_n}
\end{array} \right)\, </math></td>
<td rowspan="3"><math>\quad (5)\, </math></td>
</tr>
<tr>
<td><math>= 0 \;((i,j) \in E)\, </math></td>
</tr>
<tr>
<td><math>B_{ii}= 1\, </math></td>
</tr>
</table>

</td>
</tr>
</table>

と定義される. <math>G\, </math>の補グラフを<math>\overline{G}\, </math>と表すと,

<center>
<math>\omega(G,w) \leq \vartheta(\overline{G},w) \leq \chi(G,w) \qquad (6)\, </math>
</center>

が成立する. グレッチェル (M. Grötschel), ロバースとシュライバー (A. Schrijver) は楕円体法でロバース数を多項式時間で求められることを示した. また (5) は半正定値計画問題なので, 半正定値計画問題に対する多項式時間解法でロバース数を求めることができる.

　グラフ<math>G=(V,E)\, </math>と<math>U \subseteq V\, </math>に対して, 頂点集合を<math>U\, </math>とし, 両端点が<math>U\, </math>に含まれる辺全体を辺集合とする<math>G\, </math>の部分グラフを, <math>U\, </math>に誘導される頂点誘導部分グラフとよぶ. <math>G\, </math>のすべての頂点誘導部分グラフ<math>G'\, </math>に対して <math>\omega(G') = \chi(G')\, </math> を満たすグラフを[[パーフェクトグラフ]] (perfect graph) という. パーフェクトグラフを特徴付ける性質として次のようなものがある.

(a) 補グラフがパーフェクト,

(b) 任意の重みベクトル<math>w=(w_i \in Z_+ \mid i \in V)\, </math>に対して <math>\omega(G,w) = \chi(G,w)\, </math>,

(c) <math>G\, </math>のクリークの特性ベクトル全体の凸包が, 非負条件と問題 (2) の安定集合による不等式で表現できる,

(d) <math>G\, </math>の任意の頂点誘導部分グラフ<math>G'\, </math>に対して <math>\alpha(G')\cdot\omega(G') \geq |V(G')|\, </math> が成立する, ただし<math>\alpha(G')\, </math>は<math>G'\, </math>の最大安定集合の要素数, <math>V(G')\, </math>は<math>G'\, </math>の頂点集合を表す,

(e) 頂点誘導部分グラフとして長さ5以上の奇ホールもその補グラフも含まない.

　(a) と (b) よりパーフェクトグラフに対して (6) は等号で成り立ち, 補グラフのロバース数を求めることで最大クリーク問題や頂点彩色問題が多項式時間で解けることが分かる. (c) は凸多面体を用いた特徴付けを与えている. (d) はロバースの与えた特徴付けで, この特徴付けより, 与えられたグラフがパーフェクトであるかの判定問題はco-NPに属する事が導かれる. この判定問題は多項式時間で解くことができる [2] (e) がパーフェクトグラフ予想と呼ばれていたものであり, 論文 [3] において証明され, 現在は強パーフェクトグラフ定理 (Strong Perfect Graph Theorem) と呼ばれる.

----
'''参考文献'''

[1] J. L. Ramírez-Alfonsín and B. A. Reed, eds., ''Perfect Graphs'', John Wiley & Sons, 2001.

[2] M. Chudnovsky, G. Cornuéjols, X. Liu, P. Seymour and K. Vuskovic, "Recognizing Berge Graphs," ''Combinatorica'', '''25''' (2005), 143-186.

[3] M. Chudnovsky, N. Robertson, P. Seymour and R. Thomas, "The Strong Perfect Graph Theorem," ''Ann. of Math''., '''164''' (2006), 51-229.

[4] M. Grötschel, L. Lovász and A. Schrijver, ''Geometric Algorithms and Combinatorial Optimization'', Springer-Verlag, 1988.

《多面体理論》

2007-07-15T05:00:18Z

220.104.197.230:

'''【ためんたいりろん (polyhedral theory) 】'''

　[[多面体理論]] (polyhedral theory) には, 見方, 切り口によって様々な理論体系が存在する. 第一に, 古代ギリシャ時代より研究されているプラトンの正多面体, アルキメデスの準正多面体などを代表例として挙げられる古典的正多面体理論. これらの多面体は, 見た目が美しいだけでなく, 群論, 整数論, 組合せ理論など諸々の美しい数学的構造をも内包している. 詳しい内容については, 文献 [2, 1] を参照されたい.

　上述の多面体理論は, 2次元或いは3次元に限定されたものである. 近年の3次元多面体に関する新たな成果として, 3次元多面体の展開図に関するものがある. 多くの読者が, 立方体 (さいころ)の展開図を厚紙に描いて切り取り, 組み立てた経験があろう. このように紙一枚に描いて切り取り, 組み立てが可能な (面どうしが重なり合わない) 図形を展開図, 英語表記では net という. 3次元正多面体には net が存在することが知られているが, 任意の3次元多面体については, 必ず net が存在するかどうかは, 未解決問題の一つである. この未解決問題に対して, 理論的, 実験的に考察を与えている文献が [7] である. 3次元多面体の辺をどのように切ったら net ができるのかを多くの種類の3次元多面体に関して考察した興味ある文献であり, また, net of polyhedron に関する参考文献リストも充実しているので, 興味ある読者は是非参照されたい.

　さて, オペレーションズ・リサーチの分野において, 多大な貢献をしている多面体理論は, より一般的 (正多面体に限らないという意) かつ高次元の凸多面体 (covex polyhedron) に関するものである.

　<math>d\, </math>次元ユークリッド空間の閉半空間 (closed half space) とは, 与えられた <math>\boldsymbol{a} \in \mathbf{R}^d, b \in \mathbf{R}\, </math> に対して

<center>
<math>\{\boldsymbol{x} \in \mathbf{R}^d \mid
\boldsymbol{a}\boldsymbol{x} \leq b \}\, </math>
</center>

で表される集合のことである. 凸多面体 (convex polyhedron) <math>P\, </math>とは, 有限個の閉半空間の共通部分, すなわち<math>m \times d\, </math>行列<math>\boldsymbol{A}\, </math>および, <math>m\, </math>次元ベクトル<math>\boldsymbol{b}\, </math>を用いて, 次のような線形不等式システムを満たすベクトルの集合として定義される.

<center>
<math>P = \{ \boldsymbol{x} \in \mathbf{R}^d \mid
\boldsymbol{A} \boldsymbol{x} \leq \boldsymbol{b}\}\, </math>
</center>

また, 凸多面体 <math>P\, </math> の別の表現として, 次のものが挙げられる.

<center>
<math>P = \{\boldsymbol{x} + \boldsymbol{y} \mid
\boldsymbol{x} \in \mbox{conv}\{\boldsymbol{x}^1,
\boldsymbol{x}^2, \ldots , \boldsymbol{x}^k\}, \;
\boldsymbol{y} \in \mbox{cone}\{\boldsymbol{y}^1,
\boldsymbol{y}^2, \ldots , \boldsymbol{y}^l\} \}\, </math>
</center>

但し, <math>\mbox{conv}\{\cdots\}\, </math>は有限個の点集合からなる凸包, <math>\mbox{cone}\{\cdots\}\, </math>は有限個のベクトルからなる凸錘を表し, 数学的には以下のように記述される.

<center>
<math>\displaystyle \mbox{conv}\{\boldsymbol{x}^1,
\boldsymbol{x}^2,\ldots,\boldsymbol{x}^k\}
= \{\boldsymbol{x} \mid \boldsymbol{x}
= \alpha_1 \boldsymbol{x}^1 + \alpha_2 \boldsymbol{x}^2
+ \cdots + \alpha_k \boldsymbol{x}^k, \;
\sum_{i=1}^{k}{\alpha_i} = 1, \alpha_i \geq 0\}</math>

<math>\mbox{cone}\{\boldsymbol{y}^1,\boldsymbol{y}^2,
\ldots,\boldsymbol{y}^l\}
= \{\boldsymbol{y} \mid \boldsymbol{y}
= \beta_1 \boldsymbol{y}^1 + \beta_2 \boldsymbol{y}^2
+ \cdots + \beta_l \boldsymbol{y}^l,
\beta_i \geq 0\}\, </math>
</center>

凸錘の部分が空集合であるような多面体を有界凸多面体といい, 英語では convex polytope と区別する. 重要なことは, 同じ凸多面体<math>P\, </math>を記述するのに2通りあり, 一方は可算有限個の線形不等式の共通部分と表せ, 他方は加算有限個の点の凸包内の点と可算有限個のベクトルによる凸錘内のベクトルの和として表せることである. 可算有限個という条件を除けば, 2次元平面上の円や3次元空間内の球でさえ凸多面体として定義されうることを注意しておきたい.

　上述のように定義された一般の凸多面体の構造は, 記述が単純でありながら解析が非常に困難であるため, 特殊な凸多面体である[[整数多面体]]や, 凸多面体を特徴付ける[[全ユニモジュラ性]], [[全双対整数性]] ([[TDI性]]) 等の性質が研究されており, 整数計画, 組合せ最適化問題の解法等に大きく貢献している [8].

　<math>P\, </math>を<math>d\, </math>次元凸多面体, <math>\boldsymbol{a} \in \mathbf{R}^d\, </math>, <math>b \in \mathbf{R}\, </math>とする. 任意の<math>\boldsymbol{x} \in P\, </math>に対して, <math>\boldsymbol{a x} \leq b\, </math>が成り立つとき, <math>\boldsymbol{a x} \leq b\, </math>を凸多面体<math>P\, </math>の妥当不等式 (valid inequality) という. 凸多面体<math>P\, </math>の部分集合<math>F\, </math>が<math>P\, </math>のフェイス (face) であるとは, 妥当不等式<math>\boldsymbol{a x} \leq b\, </math>が存在し,

<center>
<math>F = P \cap \{\boldsymbol{x} \in \mathbf{R}^d \mid
\boldsymbol{a} \boldsymbol{x} = b\}\, </math>
</center>

が成り立つことである. <math>X =\{\boldsymbol{x}^1,\ldots,\boldsymbol{x}^m\} (\subseteq \mathbf{R}^d)\, </math>を<math>d\, </math>次元空間の<math>m\, </math>個の点集合としたとき, <math>X\, </math>がアフィン独立 (affinely independent) であるとは,

<center>
<math>\displaystyle
\sum_{i=1}^{m}\lambda_i \boldsymbol{x}^i = 0,
\sum_{i=1}^{m}\lambda_i =0
\Longrightarrow \lambda_i = 0 \mbox{ for } i=1,\ldots,m\, </math>
</center>

が成り立つことである. このようにアフィン独立性を定義すると, 多面体のフェイス<math>F\, </math>の次元<math>\mbox{dim}(F)\, </math>が次のように定義できる.

<center>
<math>\mbox{dim}(F) := (F\, </math>に含まれる極大なアフィン独立の点集合の数<math>)-1\, </math>
</center>

次元<math>0,1, \mbox{dim}(P)-1\, </math>のフェイスをそれぞれ頂点 (vertex) 或いは端点 (extreme point), 辺 (edge), ファセット (facet) とよぶ. 凸多面体<math>P\, </math>のファセットを構成する妥当不等式を, [[ファセット制約]] (facet constraints) という.

　2つの端点が一つの辺を共有しているときその端点は隣接しているという. 有界な<math>d\, </math>次元凸多面体<math>P\, </math>の端点とその隣接関係を表すグラフ構造を, 多面体グラフという. 2つの端点の最短路とは, 辺の長さを1とした場合のグラフ上で最短路をいう. <math>P\, </math>の直径 (diameter) とは, 最短路が最も長くなるような2端点間の最短路の長さのことである. この有界凸多面体の直径に関する研究は, 端点を逐一探索していく線形計画問題における単体法の計算効率を考える意味でも重要である. 以下, 証明はされていないが凸多面体の直径<math>\delta\, </math>に関する有名な予想を記しておこう.

:任意の<math>d\, </math>次元, 有界凸多面体<math>P\, </math>において, ファセットの数を<math>f\, </math>とすると<math>P\, </math>の直径 <math>\delta\, </math> は,

<center><math>\delta \leq f - d\, </math></center>

:である.

これは Hirsch の予想と呼ばれ, 一部特殊な多面体では証明されているが [5], 多面体理論における大きな未解決問題の一つである. より一般の場合に関する研究は, 文献 [4] を参照されたい.

----
'''参考文献'''

[1] 一松信, 「正多面体を解く」, 東海大学出版会, 1983.

[2] H. S. M. Coxeter, ''Regular Polytopes'', Dover, 1973.

[3] B. Grunbaum, ''Convex Polytopes''}, Wiley, New York, 1967.

[4] G. Kalai, "Liner programming, the simplex algorithm and simple polytopes," ''Mathematical Programming, Series B'', Lectures on Mathematical Programming ISMP97, T. M. Liebling and D. de Werra, eds., '''79''' (1997), 217-234.

[5] D. Naddef, "The Hirsch conjecture is true for (0,1)-polytopes," ''Mathematical Programming'', '''45''' (1989), 109-110.

[6] W. R. Pulleyblank, "Polyhedral Combinatorics," in ''Optimization'', G.L. Nemhauser, A.H.G. Rinnooy Kan and M.J.Todd, eds., North-Holland, 1989. 伊理正夫, 今野浩, 刀根薫監訳,『最適化ハンドブック』, 朝倉書店, 1995.

[7] W. Schlickenrieder, ''Nets of Polyhedra'', Ph.D. thesis, Technische Universität Berlin, Germany, 1997.

[8] A. Schrijver, ''Theory of Linear and Integer Programming'', John Wiley & Sons Ltd., 1986.

[9] J. Stoera and C. Witzgall, ''Convexity and Optimization in Finite Dimensions'', Springer, 1970.

[10] G. M. Ziegler, ''Lectures on Polytopes'', Springer-Verlag, New York, 1995.

《組合せ最適化問題》

2007-07-15T04:57:40Z

220.104.197.230:

'''【くみあわせさいてきかもんだい (combinatorial optimization problem)】'''

　ある計画を遂行するとき, 様々な条件を満足させながら, 最適な順序を決めたり, 複数の選択肢からいくつかを選んだり, 仕事と機械とを割り当て ([[一般化割当問題]]) たり, 施設の配置場所を決め ([[施設配置問題]]) たりする問題は現実の中でもよく当面する. これらの問題, あるいは論理代数学にみられる[[充足可能性問題]] (satisfability problem) などのように, 解集合が順列, 組合せなどで表される[[離散最適化問題]] (discrete optimization problem) を総称して[[組合せ最適化問題]] (combinatorial optimization problem) という.

　ほとんどの組合せ最適化問題は, 変数に整数性を含む形式で数学的に表現できるため, 整数計画問題と明確な区別はできない. 慣例的には, [[巡回セールスマン問題]] (traveling salesman problem), [[ナップサック問題]] (knapsack problem), [[集合被覆問題]] (set covering problem)などのように,問題や解の構造に何等かの特徴のある離散最適化問題を, より一般的な整数計画問題と区別して, 組合せ最適化問題と呼ぶこともある.

　組合せ最適化問題の難しさは, 一般に問題のサイズが大きくなるにつれ, 解集合を構成する要素の数が組合せ的に増加 ([[組合せ的爆発]]) することにある. したがって, たとえ有限ではあっても, すべての解を列挙して最適な解を得ることは事実上不可能となる. また, それらの多くがNP困難なクラスに属するため,単純なアルゴリズムや貪欲的な解法だけでは, 最悪の場合,最適とはかけ離れた (問題のサイズの増大に従って急速に悪くなるような) 解が得られることさえもある.

　組合せ最適化問題を厳密に解くアプローチとしては,それらが (0-1) 整数計画問題に定式化できることから, そこで研究・開発されている解法のほとんど全てが, 組合せ最適化問題にも適用可能であるため, 一般的な整数計画問題を解くパッケージなどを利用するのも一法ではある. しかしながら, 組合せ最適化問題は,制約式の表現形式そのものが組合せ的に増大してしまうこともあるため, 単にソフトウェア任せでは, 問題の入力時点ですでに行き詰まってしまうことも少なくない.

　例えば<math>n\, </math>都市の巡回セールスマン問題の場合, <math>V\, </math>をグラフの点集合とし, <math>c_{ij}\, </math>を枝<math>(i,j)\, </math>の重み,<math>x_{ij}\, </math>を枝<math>(i,j)\, </math>が解に含まれるとき1, そうでないとき0の値をとる0-1変数とするとき, 次のように定式化することができる.

<center>
<math>\begin{array}{rll}
\mbox{min.} & \sum_{i \in V} \sum_{j \in V}c_{ij} x_{ij}& \\
\mbox{s. t.} & \sum_{j=1}^n x_{ij} = 1 & (\forall i \in V), \\
& \sum_{i=1}^n x_{ij} = 1 & (\forall j \in V), \\
& \sum_{i \in S} \sum_{j \in V \setminus S} x_{ij} \geq 1
& (\forall S \subset V, S \neq \emptyset),\\
& x_{ij} \in \{ 0, 1 \}& (\forall i, j \in V).
\end{array}\, </math>
</center>

この定式化では, 変数の数は<math>n^2\, </math>であり, 制約式の1, 2番目は各<math>n\, </math>本で割当問題と同じ形をしているが, 部分巡回路除去制約と呼ばれている第3番目の制約は, 式の数が組合せ的に増大するため, 一般的な整数計画問題のパッケージを使うことは難しい. もちろん, 1つの問題に対する定式化の方法は一意ではなく, 巡回セールスマン問題を[[2次割当問題]] (quadratic assignment problem) や 3部グラフにおける割当問題に帰着して定式化すれば, パッケージの利用は可能になるが, それによって解きやすくなることは期待できない.

　定式化における規模の増大を克服する試みもなされている. たとえば, [[板取り問題]] (cutting-stock problem) は, 変数の数が非常に多くなる形で定式化できるが, 列生成法によって必要な変数 (取り出しパターン) を生成しながら解くことで成功をおさめている. また, 巡回セールスマン問題のように制約式が非常に多くなる問題については, 必要な制約を随時加え, 解領域を次第に狭くしていきながら解く [[切除平面法]] (cutting plane method) が適用できる.

　切除平面法は, 組合せ最適化問題を研究する上で, 歴史的にも理論的にも重要な位置を占めている. この方法の基本的な考え方は, まず問題の整数条件を連続緩和した問題を考える. このとき, さらに制約式の一部を除去してもよい. 例えば, 巡回セールスマン問題の場合, 第3番目の制約式を除いて緩和した問題は割当問題と等価になる. この緩和問題を解くと, 一般に元問題にとっては実行不可能な解が得られる. ここで, その解は切除するが, 元問題の実行可能解は切除しないような制約を生成し, それらを逐次加えていきながら, 連続緩和問題を解き続ける. その結果, 最初に出た実行可能解が最適解となる.

　切除平面法の正当性は理論的に裏付けられているが, 単独利用だけでは収束性や計算機の精度などにおいて難があり, 1970-80年代にはより実用的な分枝限定法に軍配があがっていた. しかし近年では分枝限定法の中に切除平面法を組み込む手法 (分枝切除法) が様々な問題で成功をおさめ, 再び注目を浴びつつある.

　[[分枝限定法]] (branch-and-bound method) は, 分割統治法の一種であり, そのままの問題では規模が大きすぎて解きにくいものを, 変数などを固定することにより解領域を解ける程度にまで小さな問題 (子問題) に分割し, 各子問題, あるいはその緩和問題を解いて得られる情報をまとめて, 元の問題の最適解を得ようという考えに基づいている.

　分枝限定法の基本的な枠組みは以下のように記述できる. ただし, ここでは最小化問題について説明しており, 上界値というのは, 最適値以上であることが分かっている値で, 通常近似解法などで得られる値をさす. また, 下界値というのは, 最適値以下であることが分かっている値で, 緩和問題などを解いて得られる値のことをいう. 最大化問題の場合は, 上界値・下界値の意味が逆転することに注意されたい. 以下では, 未探査の子問題の集合を<math>{\mathcal N}\, </math>とする.

:<math>\mathbf{step1}\, </math> <math>\boldsymbol{x}:=\, </math>初期実行可能解, <math>z:=\, </math>初期上界値, <math>{\mathcal N}:=\{ P_0 \}\, </math>(元問題).

:<math>\mathbf{step2}\, </math> <math>{\mathcal N}=\emptyset\, </math>ならば現在の<math>\boldsymbol{x}\, </math>が最適解で終了. そうでなければ, <math>{\mathcal N}\, </math>から適当な子問題<math>P'\, </math>を選び<math>{\mathcal N} := {\mathcal N} \setminus \{P'\}\, </math>とする.

:<math>\mathbf{step3}\, </math> <math>P'\, </math>の緩和問題を解き, その最適解を<math>\bar{\boldsymbol{x}}'\, </math>, 最適値を<math>\bar{z'}\, </math> (この値は<math>P'\, </math>の下界値となる) とする. 緩和問題が実行不可能であればstep2へ戻る.

:<math>\mathbf{step4}\, </math> <math>\bar{\boldsymbol{x}}'\, </math>が元問題の実行可能解ならばstep2へ戻る. その際, <math>z > \bar z'\, </math>ならよりよい上界値が得られたので, <math>\boldsymbol{x} := \bar{\boldsymbol{x}}'\, </math>, <math>z := \bar z'\, </math>として更新する.

:<math>\mathbf{step5}\, </math> <math>\bar z' \geq z\, </math>ならば子問題<math>P'\, </math>の最適解を求めたとしても, <math>\boldsymbol{x}\, </math>以上のよい解が得られないので, step2へ戻る.

:<math>\mathbf{step6}\, </math> <math>P'\, </math>の実行可能領域を分割した子問題を生成し, それらを<math>{\mathcal N}\, </math>に加え, step2 へ戻る.

　分枝限定法は基本的に列挙法であり, 最悪の場合を考えれば全ての解を列挙してしまうこともあり得るが, 多くの場合極めて効果的に働き, 無駄な列挙を削除することで, かなり大規模な問題であっても最適解を得ることに成功している.

　無駄な列挙を削除できる場合というのは, 緩和問題が実行不可能のとき(step3), 緩和問題の解が実行可能のとき(step4), 緩和問題の最適値が上界値と等しいか悪い (大きい) とき (step5) であるが,その中でも特にstep5の果たす役割は非常に大きい. これをうまく働かせるためには, より大きな下界値を得ることと, 近似解法などを用いてよりよい上界値を得ること (step1) が必要不可欠である. その他にも, 探索する子問題の選択 (step2) や子問題の分割法 (step6) も重要な役割を果たす.

　以下では, 下界値を改善する代表的な方法として[[ラグランジュ緩和法]] (Lagrangian relaxation method) と切除平面法について説明する.

　ラグランジュ緩和は, 問題の緩和のため, 除去した制約にラグランジュ乗数というスカラーを掛けて目的関数に加えて作成する. ラグランジュ緩和の作り方は, どの制約を目的関数に組込むかでいく通りも考えられるが, 一般的に残った制約式が解きやすい問題となるものを選ぶ. 例えば巡回セールスマン問題の場合には, 第3番目の制約をラグランジュ緩和すると, 次の割当問題となり, この最適値は巡回セールスマン問題の下界値を与える. ただし, <math>\boldsymbol{\mu}\, </math>はラグランジュ乗数ベクトル, 各要素は<math>\mu_S \geq 0 (S \subset V, S \neq \emptyset)\, </math>である. 等式制約をラグランジュ緩和するときには, ラグランジュ乗数に符号の制約は付かない.

<center>
<math>\mbox{min.} \quad L(\boldsymbol{\mu}) = \sum_{(i,j) \in E} c_{ij} x_{ij} + \sum_S
\mu_S \cdot (1-\sum_{i \in S}\sum_{j \in V \setminus S} x_{ij})\, </math>
</center>

このとき, できるだけ大きな下界値を得るような<math>\boldsymbol{\mu}\, </math>を定めることが大切であり, それをラグランジュ最適化問題 (ラグランジュ双対問題) という. つまり, <math>L (\boldsymbol{\mu})\, </math>の最適値を<math>L^*(\boldsymbol{\mu})\, </math>とするとき,

<center>
<math>L = \max_{\boldsymbol{\mu} \geq 0} \{L^*(\boldsymbol{\mu}) \}\, </math>
</center>

と表現される問題である. この問題を解くために, 微分不可能な区分線形関数における非線型最適化手法のひとつである [[劣勾配法]] (subgradient method) と呼ばれる逐次反復法が用いられることが多い. 劣勾配法による反復は, かなり少ない回数で打ち切っても, 十分良い下界値が求まることが様々な問題において報告されている.

　効果的な下界値を算出するもう1つの方法として, 切除平面法を分枝限定法に組込む[[分枝切除法]] (branch-and-cut method)が, 大規模な組合せ最適化問題を効果的に解く方法として注目を浴びつつある. これは, 切除平面法が解領域を徐々に狭くしていくことから, よりよい緩和問題を解いていると捉えるものである. 特に元の問題にとっての実行不可能な解をできるだけ大きく切り落とすような, (極大面) カットとよばれる不等式の様々な生成法が研究されている.

　組合せ最適化問題の厳密解法において, 分枝限定法は布の縦糸のようなもので, それに横糸であるラグランジュ緩和法, 劣勾配法, 切除平面法,近似解法などを絡めることにより, 優れた解法が開発されている. 分枝限定法は, 非凸領域をもつ数理計画問題や, 大域最適化問題などの解法としても注目を浴びつつある.

　組合せ最適化問題に関する文献は, 理論的なもの, 実験的なもの, 実例的なもの, 近似解法など様々な視点から, それぞれ膨大な数の優れた論文や著書がある. 近年, ハンドブック的な書籍 [2, 3] 等が出ており,邦訳されたもの [4, 5] もある. 特に [1] は, 文献の書評集であり, 適切な文献を探すのに有用である.

----
'''参考文献'''

[1] M. Dell'Amico, F. Maffioli and S. Martello, eds., ''Annotated Bibliographies in Combinatorial Optimization'', John Wiley & Sons, 1997.

[2] D.-Z. Du and P.M. Pardalos, eds.,''Handbook of Combinatorial Optimization, 3 vols.'', Kluwer, 1998.

[3] R.L. Graham, M. Grötschel and L. Lovász,
eds.,''Handbook of Combinatorics, 2 vols.'', North-Holland, 1995.

[4] B. Korte and J. Vygen, ''Combinatorial Optimization: Theory and Algorithms'', Springer, 2002. 浅野孝夫, 平田富夫, 小野孝男, 浅野泰仁訳, 『組み合わせ最適化 - 理論とアルゴリズム』, シュプリンガー・フェアラーク, 2005.

[5] G.L. Nemhauser, A.H.G. Rinnooy Kan and M.J.Todd, eds.,''Optimization'', North-Holland, 1989. 伊理正夫, 今野浩, 刀根薫監訳, 『最適化ハンドブック』, 朝倉書店, 1995.

《整数計画》

2007-07-15T04:55:00Z

220.104.197.230:

'''【せいすうけいかく (integer programming)】'''

　最適化問題において, 変数が整数値を取るという制約がいくつかの変数に付いているとき, これを[[整数計画]](integer programming)(整数計画法, 整数計画問題)と呼ぶ. 特に, 全ての変数が0または1の値を取るものを, [[0-1整数計画問題]] (0-1 integer programming problem)と呼ぶ. また, 全ての変数が整数値をとるものを, [[全整数計画問題]] (all integer programming problem) と呼ぶ．整数値を取る変数と, 実数値を取る変数が混じっている問題は, [[混合整数計画]](mixed integer programming problem)と呼ばれるが, MIP（ミップ)と省略して呼ばれる事も多い.

　例えば, 目的関数を最大化するような 0-1 整数計画問題は, 以下のように記述される.

<center>
<math>\begin{array}{lll}
\mbox{max.} & f(x_1,x_2,\ldots ,x_n) \\
\mbox{s. t.}& g_i (x_1,x_2,\ldots ,x_n)\geq b_i
& (i=1,2,\ldots ,m), \\
& x_1,x_2,\ldots ,x_n \in \{0,1\}. \\
\end{array}</math>
</center>

整数値を取る変数は, 整数変数と呼ばれ, 0または1の値を取る変数は, 0-1変数と呼ばれる.

　整数計画問題は, NP困難と呼ばれる問題クラスに属しており, 厳密解をいつでも効率的に求める算法の存在は, 理論的に絶望視されている. しかしながら, 様々な技法の開発と計算機の高性能化に伴い, 実用的に十分短い計算時間で解ける問題のクラスとサイズは, いまも広がり続けている.

　上記の3つの問題の厳密解を求めるのは, 経験的に, 0-1整数計画問題が最も解きやすく, 次に全整数計画問題, そして混合整数計画問題が最も難しいと言われる.しかしながら, 発見的解法の作り易さは, 必ずしもこの順ではない.

　上に記述した0-1整数計画問題において，目的関数と制約式中の関数が全て線形関数であるような問題は, 数多くの研究がなされており, また市販のソフトウェアもそのような問題を解くものがほとんどである．0-1整数計画問題を解く解法は, 「0または1の値を取る」という制約を, 「0以上1以下の値を取る」という制約に緩和した問題 (線形緩和問題)を手がかりにした分枝限定法, あるいは分枝切除法を用いる事が多い.

　全整数計画問題は, 整数値を表すのに, 複数の0-1変数を使う事によって, 0-1整数計画問題に変形することができるが, このような変形は一般に解法の効率を落とす事が多い. 全整数計画問題も, 整数値をとる変数を連続変数に緩和した線形緩和問題を手がかりにした分枝限定法を用いて解くことが多い.

　混合整数計画問題は, 問題を連続変数部分と整数変数部分に分解する手続きを繰り返しながら解く Benders の分解法と, 分枝限定法を組み合わせて解かれる事が多い.

　実用的な計算時間である程度良い解を求める発見的解法の研究も数多くなされている. しかしながら, 高性能な発見的解法は, 問題の特質に着目している事が多く, 高性能の発見的解法の構築法を一般的に議論する事は困難である.

----
'''参考文献'''

[1] 今野浩, 鈴木久敏編著,『整数計画法と組合せ最適化問題』, 日科技連出版社, 1978.

[2] 茨木俊秀,『組合せ最適化分枝限定法を中心として』,産業図書, 1983.

[3] 久保幹雄, 田村明久, 松井知己編, 『応用数理計画ハンドブック』, 朝倉書店, 2002.

[4] G. L. Nemhauser and L. A. Wolsey, ''Integer and Combinatorial Optimization'', Wiley, New York, 1988.

《多項式最適化問題》

2007-07-14T15:25:40Z

220.104.197.230:

'''【たこうしきさいてきかもんだい (polynomial optimization problem)】'''

　変数 <math>x = (x_1, \ldots, x_n)</math> に関する多項式<math>f, <math>g_i\, (i=1,\ldots,m), h_j (j=1,\ldots,l)</math> を用いて記述される非線形計画問題

<center><math>\begin{array}{ll}
\mbox{min.} & f(x) \\
\mbox{s. t. } & g_i(x) \geq 0 \ (i=1,\ldots,m), \\
& h_j(x) = 0 \ (j=1,\ldots,l)
\end{array}</math>
</center>

を[[多項式最適化問題]](polynomial optimization problem)と呼ぶ. 多項式計画問題は一般に非凸計画問題であり, NP 困難な最適化問題である. 変数が0または1という制約は2次の多項式で表現できるので, 多項式計画問題は 0-1 整数計画問題を特殊ケースとして含む.

　通常の非線形計画問題においては局所的最適解を求めることが目標であるが, 多項式計画問題においては, 凸計画を用いてその大域的最適値を求める方法が存在する. そのため, 多項式計画問題に対しては大域的最適化が前提となる.

　多項式最適化問題の最適値は半正定値計画(SDP)による緩和問題を解くことにより求められる. その概要は次のとおりである. 多項式計画問題に現れる多項式の次数のうち, 最大のものを<math>d\,</math>とし, <math>R = \{ r\in N \ | \ r \geq \lceil d/2\rceil \}</math> とおく. 各 <math>r \in R</math> に対し, （多項式計画問題にコンパクトな実行可能領域が存在するなどの比較的緩やかな条件の元で）次の性質を持つSDP 緩和問題 <math>\mbox{SDP}(r)</math> を生成できる [1]:

:*<math>\mbox{SDP}(r)</math> の最適値 <math>\theta_r</math> は多項式計画問題の最適値<math>\theta_\ast</math>以下である.

:*任意の <math>r\in R</math> に対して <math>\theta_{r+1} \geq \theta_r</math> が成り立つ.

:*<math>\mbox{lim}_{r\rightarrow\infty} \theta_r = \theta_\ast</math>.

SDP 緩和問題を決定する正整数 <math>r\in R</math> を緩和次数と呼ぶ. このような性質を持つ SDP 緩和問題を構成できるという事実の背後には, ２乗和多項式（Sums Of Squares; SOS）の理論が存在する. このため, 上記で説明した SDP 緩和を SOS 緩和と呼ぶこともある.

　後述するように <math>r\,</math> を一つ上げると <math>\mbox{SDP}(r)</math> のサイズは急激に大きくなり, その結果解けなくなる場合も多い. 従って通常は最も小さな <math>r=\lceil d/2 \rceil</math> から始め, 一つずつ緩和次数を大きくしながら SDP 緩和問題の列を解いていく. 理論上は緩和次数を無限に大きくしなければ最適値は得られないが, 実際には有限の（しかもそれほど大きくない）緩和次数で最適値が達成される場合が多い. 特に実行可能解が有限個しか無い場合には, 有限の緩和次数で最適解が求められることを理論的に保証できることがある. 例えば <math>n\,</math> 変数の<math>0-1\,</math> 整数計画問題（を多項式計画問題に変換したもの）に対し, ある大きさの緩和次数の SDP を解けば必ずその最適解が求められることが知られている[2]. ただしその大きさの緩和次数を用いたとき, SDP 緩和問題の変数の数は <math>2^n-1</math> 個必要となる.

　多項式計画問題の最適値だけでなく, 最適解を求める方法も研究されている. 多項式計画問題の最適解が1個のときには, <math>\theta_r = \theta_\ast</math> が成り立っていれば, 多くの場合に<math>\mbox{SDP}(r)</math> の最適解から多項式最適化問題の最適解を簡単に抽出できる. 多項式最適化問題の最適解が複数個（ただし有限個）ある場合でも, 適当な仮定の元では<math>\mbox{SDP}(r)</math> の最適解からすべての最適解を抽出することが可能である [3].

　多項式計画問題の変数の数を <math>n\,</math> としたとき, <math>\mbox{SDP}(r)</math> で用いられる行列の大きさの下限と使用される変数の数はそれぞれ

<center>
<math>\left( \begin{array}{c} n+r \\ r \end{array}\right)\times \left( \begin{array}{c} n+r \\ r \end{array}\right)</math>　および　<math>\left( \begin{array}{c} n+2r \\ 2r \end{array}\right)</math>
</center>

である. これより, SDP緩和問題のサイズは<math>n\,</math>, <math>r\,</math> の増大とともに急激に大きくなることがわかる. このため, 10変数程度の問題でも緩和次数を <math>4\,</math>, <math>5\,</math> 程度以上に大きくすることは困難な場合が多い. この状況を打開するため「通常の多項式計画問題で使われる多項式には, 非常に少ない数の項しか現れない」という性質（多項式の疎性という）を利用してSDP のサイズを縮小する方法が提案されている [5]. この方法を用いると, 適切な疎性構造を持った問題であれば数百変数の問題も解くことが可能となる. 現実に現れる多項式計画問題はほとんど疎性を持っており, これをうまく利用することが多項式計画問題を解く鍵であると考えられている.

　多くの多項式計画問題の SDP 緩和問題は極めて悪条件であることが, 数値実験により知られている. これには様々な理由が考えられる. 一つの原因としては, 多項式計画問題においては必然的に冪乗を計算することになるため, 数値の大小の幅が大きいことが挙げられる. 変数の範囲を <math>[0,1]\,</math> に正規化することは, 数値的安定性を得るのにしばしば大きな効果を上げることが知られている. また, 最適解の近傍で変数行列（の部分行列）が Hankel 行列に近づくことも悪条件の原因の一つと推測されている. Hankel 行列は悪条件な行列で知られているが、主双対内点法においてはこの変数行列の逆行列を計算する必要があり, それが数値的に破綻する. この問題は未だ本質的には克服されていない.

　線形計画を半正定値計画や等質自己双対錐上の線形計画に拡張したのと同様の方法により, 多項式計画問題における不等式制約を, 半正定値制約や等質自己双対錐に含まれるという制約に拡張した問題も考えられている. これらの拡張された問題に対し, 一般の場合と同様に SDP 緩和問題を構成でき, その最適値が元の問題の最適値へ収束することが示されている [4]. しかしながら, 扱う SDP 緩和問題は一般にさらに巨大になる. このため, この場合にも多項式の疎性を利用する研究が進んでいる.

----
'''参考文献'''

[1] J.B. Lasserre, Global optimization with polynomials and the problems of moments. ''SIAM Journal on Optimization'', '''11''' (2001) 796-817.

[2] J.B. Lasserre, An Explicit Equivalent Positive Semidefinite Program for Nonlinear 0-1 Programs. ''SIAM Journal on Optimization'', '''12''' (2002) 756-769.

[3] D.Henrion and J.B.Lasserre, Detecting global optimality and extracting solutions in GloptiPoly, D. Henrion, A. Garulli(Editors). ''Positive polynomials in control''. Lecture Notes on Control and Information Sciences, Springer Verlag (2005).

[4] M. Kojima and M. Muramatsu, An Extension of Sums of Squares Relaxations to
Polynomial Optimization Problems over Symmetric Cones. ''Mathematical Programming'', to appear.

[5] H. Waki, S. Kim, M. Kojima and M. Muramatsu, Sums of Squares and Semidefinite Programming Relaxations for Polynomial Optimization Problems with Structured Sparsity, ''SIAM Journal on Optimization'', '''17''' (2006) 218-242.

《高速微分法》

2007-07-14T15:23:21Z

220.104.197.230:

'''【こうそくびぶんほう (fast differentiation)】'''

　非線形関数の[[勾配]], [[ヤコビ行列]], [[ヘッセ行列]]等の値を数値的に計算する方法のひとつ. 高速自動微分法(fast automatic differentiation), 計算微分法(computational differentiation), 単純に自動微分(automatic differentiation; 以下 AD)ともいう. 主なアルゴリズムは2種あり, ボトムアップ(前進)自動微分(bottom-up AD, forward AD; 以下 BUAD) と, トップダウン(逆行)自動微分(top-down AD, reverse AD, backward AD; 以下 TDAD) という [1, 2]. 高速微分法は狭義には, TDADを指す. AD は「関数の値を計算するプログラム」から「偏導関数の値を計算するプログラム」を生成する手順を与え, 生成物を(コンパイルし)実行すれば, 差分商近似のような打ち切り誤差無しで, 正確な偏導関数の値を計算できる. 大規模システムの数学モデル等の大規模プログラム(数千行以上)により表現される関数の偏導関数を計算できるのが特長. <math>n\,</math>変数関数の勾配の<math>n\,</math>個の値を関数計算の手間の定数倍で計算できる点が「高速」微分の由来である.

　以下，BUAD と TDAD による計算法を説明する．例として，2変数関数 <math>f(x,y)=x/\sqrt{x^2+y}</math> について, <math>f(3,4)\,</math> の値を計算する代入文の列(プログラム), <math>x=3, y=4, v_1=x, v_2=y, v_3=v_1*v_1, v_4=v_3+v_2, v_5=\sqrt{v_4}, v_6=v_1/v_5</math> を考えよう. ただし, 各代入文の右辺には, 演算(基本演算とよぶ)が高々1回だけ現れるとする. <math>v_1\,</math>, <math>v_2\,</math> が <math>x\,</math>, <math>y\,</math> に対応し, <math>v_6\,</math> に <math>f(x,y)\,</math> の値が計算される. 一般には, <math>n\,</math>変数関数 <math>f(x_1,\cdots,x_n)</math> について, <math>k\,</math>回目の代入文には, <math>k-1\,</math>回目までに計算される変数が現れうるから, 延べ <math>r\,</math> 回の演算を行なう代入文の列は<math>\{v_k=\varphi_k(v_1,\cdots,v_{k-1})\}_{k=1}^r</math>と表される. これを計算過程といい, <math>v_k\,</math> を中間変数という. <math>k\leq n</math> のとき <math>\varphi_k</math> は<math>v_k=x_k</math> という入力定数の代入演算に相当する.

　BUADは, 補助変数 <math>\{s_k\}_{k=1}^r</math> を導入し, 任意に <math>j\,</math> <math>(1\leq j\leq n)</math>を固定して, 合成関数の<math>x_j\,</math> に関する偏微分則 <math>\textstyle {\partial v_k}/{\partial x_j} = \sum_{i=1}^{k-1}({\partial \varphi_k}/{\partial v_i})\cdot({\partial v_i}/{\partial x_j})</math> に基づき, <math>s_k\,</math> を計算する式を導出する. 基本演算 <math>\varphi_k</math> を四則演算や初等関数などの2項・単項の演算に限れば, 表1により, <math>{\partial \varphi_k}/{\partial v_i}</math> (これを要素的偏導関数という)を導出できる. <math>s_j=1\,</math>, <math>s_\ell=0</math> <math>(1\leq\ell\leq n, \ell\not=j)</math> と初期設定すれば, <math>k=n+1\,, n+2\,, \cdots</math> について<math>s_i=\partial v_i/\partial x_j</math> <math>(i=1,\cdots,k-1)</math>を計算済みとみなすことができ, <math>\textstyle s_k=\sum_{i=1}^{k-1}({\partial \varphi_k}/{\partial v_i})\cdot s_i</math> の値を計算できる. 最終的に <math>s_r=\partial f/\partial x_j</math> となる.

<div align="center">
<table width="600" border="0" cellspacing="0" cellpadding="0">
<tr>
<td colspan="2" align="center">表１：基本演算と要素的偏導関数<br>
</td>
</tr>
<tr>
<td align="center"><table width="200" border="1" cellspacing="2" cellpadding="2">
<tr>
<td align="center" valign="middle"><math>\varphi_k</math></td>
<td align="center" valign="middle"><math>\partial \varphi_k/ v_\alpha</math></td>
<td align="center" valign="middle"><math>\partial \varphi_k/ v_\beta</math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=v_\alpha \pm v_\beta\, </math></td>
<td align="center" valign="middle"><math>1\, </math></td>
<td align="center" valign="middle"><math>\pm1</math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=v_\alpha * v_\beta\, </math></td>
<td align="center" valign="middle"><math>v_\beta\, </math></td>
<td align="center" valign="middle"><math>v_\alpha\, </math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=v_\alpha / v_\beta\, </math></td>
<td align="center" valign="middle"><math>1/v_\beta\, </math></td>
<td align="center" valign="middle"><math>-v_\alpha/({v_\beta}^2)\, </math><br>
<p><math>(=-v_k/v_\beta)\, </math><br>
</p>
</td></tr></table>
</td>
<td align="center"><table width="200" border="1" cellspacing="2" cellpadding="2">
<tr>
<td align="center" valign="middle"><math>\varphi_k\, </math></td>
<td align="center" valign="middle"><math>\partial \varphi_k/ v_\alpha\, </math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=\exp(v_\alpha)\, </math></td>
<td align="center" valign="middle"><math>\exp(v_\alpha)\,\,(=v_k)</math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=\log(v_\alpha)\, </math></td>
<td align="center" valign="middle"><math>1/v_\alpha\, </math></td>
</tr>
<tr>
<td align="center" valign="middle"><math>v_k=\sqrt{v_\alpha}\, </math></td>
<td align="center" valign="middle"><math>1/(2\sqrt{v_\alpha})\, </math><br>
<p><math>(=0.5/v_k)\, </math><br>
</p>
</td>
</tr>
</table>
</td>
</tr>
</table></div>

　先の例では, <math>\partial v_1/\partial x=1, \partial v_2/\partial x=0</math> に注意して, <math>s_1=1\,</math>, <math>s_2=0\,</math>, <math>s_3=2*v_1*s_1\, </math>, <math>s_4=s_3+s_2\, </math>, <math>s_5=0.5/v_5*s_4\, </math>, <math>s_6=(1/v_5)*s_1+(-v_6/v_5)*s_5\, </math> という代入文の列を生成する. これを実行すると <math>s_6\,</math> には <math>(\partial f/\partial x)(3,4)\, </math> の値が計算される(<math>v_k\,</math> の計算の直後に <math>s_k\,</math> を計算してもよい). 高々2項までの基本演算だけ使用するという条件の下では, BUADの手間は <math>\mbox{O}(r)\, </math> である. <math>s_1=0\, </math>, <math>s_2=1\, </math> と一部変更し, もう一度計算すれば, <math>s_6\,</math> には, <math>(\partial f/\partial y)(3,4)</math> の値が計算される. <math>n\,</math>変数関数の勾配を計算するには, 同様の計算を <math>n\, </math>回繰り返す必要がある.

　TDADはこれとは異なり, 先の計算過程を <math>\{-v_k+\varphi_k(v_1,\cdots,v_{k-1})=0\}_{k=1}^r</math> と書き直し, これらを <math>v_1, \cdots, v_r</math> に関する制約式とみなす. この制約の下で, <math>v_r\,</math> (<math>f\,</math>の値) の停留点を考える. ラグランジュ関数<math>\textstyle L(v_1,\cdots,v_r; \lambda_1,\cdots,\lambda_r)=v_r+\sum_{k=1}^r\lambda_k(-v_k+\varphi_k(v_1,\cdots,v_{k-1}))</math> の停留点(<math>\partial L/\partial \lambda_k=0</math> かつ<math>\partial L/\partial v_k=0</math> が成立する点)では, ラグランジュ乗数 <math>\lambda_k\, </math> は, <math>k\,</math>番目の制約式の摂動に対する関数値 <math>v_r\,</math> の感度を与えるが, <math>j=1,\cdots, n</math> については<math>\lambda_j\, </math> は <math>\partial f/\partial x_i</math> に等しい. 入力 <math>x_1, \cdots, x_n</math> を定めると<math>v_{1}, \cdots, v_r</math> は一意に定まるが, <math>\lambda_k\, </math> は連立一次方程式<math>\textstyle (\partial L/\partial v_r=)1+\lambda_r\cdot (-1)=0,(\partial L/\partial v_k=)\sum_{j=k+1}^r\lambda_j\cdot(\partial\varphi_j/\partial v_k) + \lambda_k\cdot(-1)=0 (k=r-1,\cdots,1)</math>を満たす. これを解くには, <math>\varphi_k</math> が実質的に単項・2項演算であることを考慮すると, <math>\lambda_r\gets 1, \lambda_{r-1}\gets 0,\cdots, \lambda_1\gets 0</math> と初期化しておき, <math>k=r-1,r-2,\cdots,1</math> の順に <math>\lambda_i\gets\lambda_i+\lambda_k\cdot(\partial \varphi_k/\partial v_i)(i=1,\cdots,k-1)</math> を計算する. 各 <math>k\,</math> について高々2個の <math>i\,</math> についてだけ計算すればよい.

　先の例では, <math>v_1, \cdots, v_6</math> を計算し, <math>\lambda_6=1, \lambda_5=0, \cdots, \lambda_1=0</math> と初期化した後, <math>\lambda_1\gets\lambda_1+\lambda_6\cdot(1/v_5),</math><math>\lambda_5\gets\lambda_5+\lambda_6\cdot(-v_6/v_5),</math><math>\lambda_4\gets\lambda_4+\lambda_5\cdot(0.5/v_5),</math><math>\lambda_3\gets\lambda_3+\lambda_4\cdot1,\lambda_2\gets\lambda_2+\lambda_4\cdot1</math>, <math>\lambda_1\gets\lambda_1+\lambda_3\cdot(2v_1)</math> となる. 最終的に <math>\lambda_1, \lambda_2\, </math> に <math>(\partial f/\partial x)(3,4), (\partial f/\partial y)(3,4)</math> の値が計算される. 同じ条件の下で, TDADの手間は <math>\mbox{O}(r)\, </math>である. 1回の計算で勾配の値は全て計算できることに注意.

　<math>n\,</math> 変数 <math>m\,</math> 値関数 <math>[f_1(x_1,\cdots,x_n),\cdots,f_m(x_1,\cdots,x_n)]^{\top}</math> について, 全成分の値を計算するのに延べ <math>r\,</math> 回の基本演算を実行したとする. ヤコビ行列 <math>J=(\partial f_i/\partial x_j)\, </math> の列の線形結合はBUADで, 行についてはTDADで <math>\mbox{O}(r)\, </math>の手間で計算できる. 全成分については BUADでは <math>\mbox{O}(nr)\, </math>, TDAD では <math>\mbox{O}(mr)\, </math> である.

　実際には, 基本演算は表1に限らず, 代入文(やその列)を一つの基本演算とみなしてよい. また, プログラム中に条件分岐があっても, 与えられた入力値に関する関数の合成は上記の形で書けるから, ADを適用できる. ただし, 分岐の境目では, ADの結果は, 真の偏導関数値と異なることがある. たとえば, <math>\mbox{if(x=1.0)}\{\mbox{y=x*x}\}\mbox{else}\{\mbox{y=1.0}\}\, </math>の様なプログラムを自動微分すると, <math>x\,</math> の値が1.0 のときには不具合が起こりうるので注意が必要である.

----
'''参考文献'''

[1] M. Berz, C. Bischof, G. Corliss and A. Griewank, ''Computational Differentiation: Techniques, Applications, and Tools'', SIAM, 1996.

[2]久保田光一, 伊理正夫, 『アルゴリズムの自動微分と応用』, コロナ社, 1998.

《凸解析》

2007-07-14T15:18:29Z

220.104.197.230:

'''【とつかいせき (convex analysis)】'''

　[[凸解析]] (convex analysis) は，ベクトル空間における凸集合あるいはベクトル空間上で定義された凸関数に関する諸性質を取り扱うものであり，数理計画の基礎理論として非常に重要な役割を果たしている．

　次の性質をもつ空間 <math>\mathbf{R}^n\, </math> の部分集合 <math>S \subseteq \mathbf{R}^n\, </math> を[[凸集合]] (convex set) と呼ぶ．

<table align="center">
<tr>
<td><math>x, \, y \in S, \ \alpha \in (0,1)
\ \Longrightarrow \ \alpha x + (1-\alpha) y \in S\, </math>
</td>
</tr>
</table>

特に，有限個の半空間の共通部分として表される凸集合を凸多面体と呼ぶ．

　空間 <math>\mathbf{R}^n\, </math> 上で定義された拡張実数値関数 <math>f : \mathbf{R}^n \to [-\infty,+\infty]\, </math> に対して，そのエピグラフを<math>\mbox{epi}\, f := \{ (x,\mu) \in \mathbf{R}^{n+1} \, | \,f(x) \le \mu \}\, </math>と定義し，<math>\mbox{epi}\, f\, </math> が凸集合であるような関数 <math>f\, </math> を[[凸関数]] (convex function) と呼ぶ．ここで，関数 <math>f\, </math> の値域に <math>\pm \infty\, </math> が含まれていることは重要である．考察の対象とする関数をこのように拡張することにより，最適化問題に関連する諸性質を統一的に記述することが可能となる．例えば，実数値凸関数 <math>h : \mathbf{R}^n \to \mathbf{R}\, </math> を凸集合 <math>S \subseteq \mathbf{R}^n\, </math> 上で最小化する制約つき最適化問題は，拡張実数値関数 <math>\hat h : \mathbf{R}^n \to (-\infty,+\infty]\, </math> を <math>\hat h(x) = h(x) \ (x \in S\, </math> のとき<math>)\, </math>, <math>\ = + \infty \ (x \not\in S\, </math> のとき<math>)\, </math> と定義することにより，見かけ上，凸関数 <math>\hat h\, </math> を制約なしで最小化する問題として表すことができる．また，<math>f(x) = -\infty\, </math> となる点 <math>x\, </math> が存在せず，さらに恒等的に <math>f(x) \equiv +\infty\, </math> ではないようなものを，特に真凸関数といい，集合 <math>\mbox{dom}\, f := \{ x \, | \, f(x) < +\infty \}\, </math> を <math>f\, </math> の実効定義域あるいは単に定義域と呼ぶ．真凸関数は理論的にも実際的にも意味のある凸関数のクラスと考えることができる．なお，<math>f(x) = -\infty\, </math> となる <math>x\, </math> が存在しないような関数 <math>f\, </math> に対しては

<table align="center">
<tr>
<td><math>x, \, y \in \mbox{dom} \, f, \ \alpha \in (0,1)
\ \Longrightarrow \ f(\alpha x + (1-\alpha)y)
\le \alpha f(x) + (1-\alpha) f(y)\, </math>
</td>
</tr>
</table>

を凸関数の定義とすることもできる．さらに，

<table align="center">
<tr>
<td><math>x, \, y \in \mbox{dom} \, f,
\ x \ne y, \ \alpha \in (0,1)
\ \Longrightarrow \ f(\alpha x + (1-\alpha)y)
< \alpha f(x) + (1-\alpha) f(y)\, </math>
</td>
</tr>
</table>

であるとき，<math>f\, </math> を狭義凸関数という．明らかに，狭義凸関数は凸関数である．文献 [1,2,3,4] に凸関数や凸集合の様々な性質に関する詳しい説明がある．

　次の性質をもつ集合 <math>C \subseteq \mathbf{R}^n\, </math> を錐と呼ぶ．

<table align="center">
<tr>
<td><math>x \in C, \ \alpha \ge 0 \ \Longrightarrow \ \alpha x \in C\, </math></td>
</tr>
</table>

特に，凸集合であるような錐を[[凸錐]] (convex cone) という．最適化理論においては，凸錐はしばしば方向ベクトルの集合を表し，特に最適性条件の導出に際して重要である [4]．凸錐 <math>C \subseteq \mathbf{R}^n\, </math> に対して，集合 <math>\{ y \in \mathbf{R}^n \, | \,x^{\top}y \le 0 \ \forall x \in C \}\, </math> を <math>C\, </math> の極錐と呼び，<math>C^*\, </math> と表す．与えられたベクトル <math>a^1, \dots, a^m \in \mathbf{R}^n\, </math> に対して定義される凸錐 <math>\textstyle C = \{ x \in \mathbf{R}^n \, | \, x={\sum}_{i=1}^m \gamma_i a^i,\ \gamma_i \ge 0, \ i=1,\dots,m \}\, </math> の極錐は <math>C^* = \{ y \in \mathbf{R}^n \, | \, y^{\top}a^i \le 0, \, i=1,\dots,m \}\, </math> で与えられ，さらに <math>C = (C^*)^*\, </math> が成り立つ．これは，<math>b \in C\, </math>，すなわち <math>\textstyle \sum_{i=1}^m \gamma_i a^i = b\, </math> を満たす <math>\gamma_i \ge 0, \, i=1,\dots,m,\, </math> が存在することと，<math>b \not\in C\, </math>，すなわち <math>y^{\top} b > 0\, </math> を満たすベクトル <math>y \in C^*\, </math> が存在することの，どちらか一方のみが成立することを意味している．これはファーカスの定理と呼ばれている．このように，２つの条件の一方のみが必ず成り立つことを保証する定理は，一般に[[二者択一定理]] (theorem of the alternative) と呼ばれ，最適性条件の導出に有用である [2]．

　真凸関数 <math>f\, </math> に対して，次式を満足するベクトル <math>\xi \in \mathbf{R}^n\, </math> を <math>f\, </math> の <math>x\, </math> における[[劣勾配]] (subgradient) と呼ぶ．

<table align="center">
<tr>
<td><math>f(y) \ge f(x) + \xi^{\top}(y-x) \quad\quad \forall \, y \in \mathbf{R}^n\, </math>
</td>
<td width="100" align="right"><math>(1) \,</math> </td>
</tr>
</table>

真凸関数はその実効定義域 <math>\mbox{dom} \, f\, </math> の任意の相対的内点において，少なくとも１つの劣勾配をもつ．特に，凸関数 <math>f\, </math> が点 <math>x\, </math> において微分可能ならば，<math>f\, </math> の <math>x\, </math> における劣勾配は唯一存在し，通常の勾配 <math>\nabla f(x)\, </math> に等しい．しかし，<math>f\, </math> が点 <math>x\, </math> において微分可能でないときには劣勾配は無数に存在する．一般に，<math>f\, </math> の <math>x\, </math> における劣勾配全体の集合は <math>\partial f(x)\, </math> と表される．劣勾配の定義 (1) より，<math>0 \in \partial f(x)\, </math> は点 <math>x\, </math> が凸関数の最小点であるための必要十分条件であることは容易に確かめられる．劣勾配の概念は非凸関数に対しても拡張され，微分不可能最適化において基本的な役割を果たしている [1,3,4]．

　真凸関数 <math>f\, </math> に対して，次式で定義される真凸関数 <math>f^*\, </math> を <math>f\, </math> の[[共役関数]] (conjugate function) という．

<table align="center">
<tr>
<td><math>f^*(\xi) := \sup_{x \in \mathbf{R}^n} \{ \, \xi^{\top} x - f(x) \, \}\, </math>
</td>
<td width="100" align="right"><math>(2) \,</math> </td>
</tr>
</table>

いま，<math>\partial f\, </math> と <math>\partial f^*\, </math> を点-集合写像とみなせば，<math>\partial f\, </math> と <math>\partial f^*\, </math> は互いに逆写像の関係にあり，さらに，<math>\partial f^*(\xi)\, </math> の任意の要素 <math>x\, </math> は共役関数 <math>f^*\, </math> の定義 (2) の右辺の最大を与える．すなわち，次の関係が成立する．

<table align="center">
<tr>
<td><math>\xi \in \partial f(x) \quad \Longleftrightarrow \quad
x \in \partial f^*(\xi) \quad \Longleftrightarrow \quad
f(x) + f^*(\xi) = \xi^{\top} x\, </math>
</td>
</tr>
</table>

共役関数の概念は最適化問題に対する双対理論において特に重要である [3,4].

----
'''参考文献'''

[1] 福島雅夫,『非線形最適化の基礎』, 朝倉書店, 2001.

[2] O.L. Mangasarian, ''Nonlinear Programming'', McGraw-Hill, 1969; (reprint, SIAM, 1994).

[3] R.T. Rockafellar, ''Convex Analysis'', Princeton University Press, 1970.

[4] R.T. Rockafellar and R.J.B. Wets, ''Variational Analysis'', Springer, 1998.

《大規模問題の分解法》

2007-07-14T15:06:48Z

220.104.197.230:

'''【だいきぼもんだいのぶんかいほう (decomposition method for large-scale problems)】'''

　現実世界で発生する複雑な問題を最適化問題としてモデル化すると，非常に多くの変数や制約条件をもつ大規模問題になることが多い．計算機を用いてその解を求める場合，目的関数や制約条件式がすべて線形であっても，変数や制約条件の数が増えるとともに計算時間は急激に増加する．また，それらの一部に非線形の項が含まれると，問題の解きにくさは飛躍的に増大する．そこで，大規模問題を直接解くのではなく，一部の変数や制約条件だけから成る小規模な，または，解きやすい部分問題を逐次解くことにより，もとの問題の解を得ようとするアルゴリズムが提案されている．それらを一般に[[大規模問題の分解法]] (decomposition method for large-scale problems) と呼ぶ [3]．

　現実の大規模問題は，しばしば特徴的なブロック構造をもつ．たとえば，<math>n\, </math>個の比較的独立な部分から成るシステムが共通の変数 <math>x_{0}\, </math>を含む場合は，

<table align="center">
<tr>
<td><math>\begin{array}{llrll}
\mbox{min.} & f_{0}(x_{0}) + & \sum_{j=1}^{n} f_{j}(x_{j})\\
\mbox{s. t.} & g_{0}(x_{0}) & & \leq 0, \\
& g_{j}(x_{0}) + & h_{j}(x_{j}) & \leq 0 &
(j = 1, \ldots, n),
\end{array}\, </math></td>
<td width="100" align="right"><math>(1) \,</math> </td>
</tr>
</table>

という最適化問題が得られる．この問題は，変数 <math>x_{0}\, </math> を一時的に固定すると，

<table align="center">
<tr>
<td><math>
\mbox{min.} \quad f_{j}(x_{j}) \quad
\mbox{s. t.} \quad g_{j}(x_{0}) + h_{j}(x_{j}) \leq 0,
\, </math>
</td>
<td width="100" align="right"><math>(2) \,</math> </td>
</tr>
</table>

という <math>n\, </math> 個の部分問題に分解される．[[ベンダース分解法]] (Benders decomposition method) はこのような性質を利用しており，関数 <math>f_{j}\, </math>, <math>h_{j}\, </math> が線形ならば，有限回の反復でもとの問題の解に到達できることが知られている．さらに，分解された部分問題はたがいに独立であり，それらは比較的大きい（粒度が粗い）問題となるため， MIMD (multiple instruction stream multiple data stream) 型の並列計算機で効率よく実行できる．

　また，システム全体にまたがる付加的な制約条件が存在する場合は，

<table align="center">
<tr>
<td><math>\begin{array}{lrll}
\mbox{min.} & f_{0}(x_{0}) + \sum_{j=1}^{n} f_{j}(x_{j}) & & \\
\mbox{s. t.} & g_{0}(x_{0}) + \sum_{j=1}^{n} g_{j}(x_{j}) & \leq 0, \\
& h_{j}(x_{j}) & \leq 0 & (j = 1, \ldots, n),
\end{array}\, </math>
</td>
<td width="100" align="right"><math>(3) \,</math> </td>
</tr>
</table>

という最適化問題が得られるが，<math>g_{j}\, </math> を含む制約条件をラグランジュ緩和により目的関数に組み込み, さらに変数 <math>x_0\, </math> を一時的に固定すると, 問題 (2) に類似した<math>n\, </math> 個の独立な部分問題に分解される．とくにすべての関数が線形ならば，問題 (3) は部分問題の解を用いて効率的に解けることが知られており，[[ダイツィク・ウルフ分解法]] (Dantzig-Wolfe decomposition method) と呼ばれている．

　一方，大規模で複雑な問題から取り扱いやすい構造をもつ部分のみを抽出して部分問題を構成し，これを逐次解くことによりもとの問題の解を得ようとする方法は，分割法 (splitting method) と呼ばれている．分割法は，問題 (1) や (3) のようなブロック構造をもたない問題にも適用可能である．また，並列処理可能な部分問題を構成すれば，それらはしばしば小規模な（粒度の細かい）問題となり，SIMD (single instruction stream multiple data stream) 型の大規模並列計算機を用いて効率的に実行できる．

　分割法は，線形方程式に対する反復法として，線形代数の分野において古くから研究されている．行列 <math>M\, </math> とベクトル <math>q\, </math> により定義される線形方程式

<table align="center">
<tr>
<td><math>M x + q = 0\, </math>
</td>
</tr>
</table>

に対して，条件 <math>M = B + C\, </math> を満たす行列 <math>B\, </math>, <math>C\, </math> を選び，方程式

<table align="center">
<tr>
<td><math>
B x + C x^{(k)} + q = 0
\, </math>
</td>
<td width="100" align="right"><math>(4) \,</math> </td>
</tr>
</table>

の解を <math>x^{(k+1)}\, </math> とおくことにより点列 <math>\{ x^{(k)} \}\, </math> を生成する方法は，[[行列分割法]] (matrix splitting method) と呼ばれる．行列 <math>B\, </math> を (ブロック) 対角行列に選べば方程式 (4) は並列的に解けるので，大規模問題に対する効率的な解法を得る．行列分割法は，線形相補性問題や線形変分不等式問題にも拡張できる．

　一般の凸計画問題に対しても，分割法に基づくアルゴリズムを構成できる．凸計画問題は，最適性条件を考慮すると，ある写像 <math>F: \mathbf{R}^{n} \rightarrow \mathbf{R}^{n}\, </math> を用いて

<table align="center">
<tr>
<td><math>
\mbox{find} \quad x \in \mathbf{R}^{n} \quad
\mbox{s. t.} \quad 0 \in F(x),
\, </math>
</td>
<td width="100" align="right"><math>(5) \,</math> </td>
</tr>
</table>

と記述される．条件 <math>F = G + H\, </math> を満たす写像 <math>G\, </math>, <math>H\, </math> を選び，部分問題

<table align="center">
<tr>
<td><math>
\mbox{find} \quad x \in \mathbf{R}^{n} \quad
\mbox{s. t.} \quad 0 \in G(x) + H(x^{(k)}),
\, </math>
</td>
<td width="100" align="right"><math>(6) \,</math> </td>
</tr>
</table>

の解を <math>x^{(k+1)}\, </math> とする反復法は，[[作用素分割法]] (operator splitting method) と呼ばれる．写像 <math>G\, </math> が分離可能ならば部分問題 (6) は並列的に解けるので，大規模な凸計画問題に対する効率的な解法が得られる．

　問題 (5) に対する有力な反復法に，[[近接点法]] (proximal point method) がある．近接点法では，単調非減少な正定数の列 <math>\{ \lambda^{(k)} \}\, </math> を定め，問題

<table align="center">
<tr>
<td><math>\mbox{find} \quad x \in \mathbf{R}^{n} \quad
\mbox{s. t.} \quad ( x^{(k)} - x ) \, / \, \lambda^{(k)} \in F(x),\, </math>
</td>
</tr>
</table>

の解を <math>x^{(k+1)}\, </math> とおく．作用素分割法や近接点法は，一般的な最適化問題のクラスである変分不等式問題にも拡張できる．また，これらの方法を組合せることによりさまざまな[[並列アルゴリズム (数理計画問題の)|並列アルゴリズム]](parallel algorithm (nonlinear programming)) を構成できることが知られている．このような考え方に基づく並列アルゴリズムについては，参考文献 [1, 2] に詳しい解説がある．

----
'''参考文献'''

[1] D. P. Bertsekas and J. N. Tsitsiklis, ''Parallel and Distributed Computation: Numerical Methods'', Prentice-Hall, 1989.

[2] Y. Censor and S. A. Zenios, ''Parallel Optimization: Theory, Algorithms, and Applications'', Oxford University Press, 1997.

[3] J. F. Shapiro, ''Mathematical Programming: Structures and Algorithms'', John Wiley & Sons, 1979.

《相補性問題》

2007-07-14T14:50:13Z

220.104.197.230:

'''【そうほせいもんだい (complementarity problem)】'''

　[[相補性問題]](complementarity problem)[1] とは，連続変数 <math>x=(x_1,\dots,x_n)\, </math> と同じ次元をもつベクトル値関数 <math>F(x)=(F_1(x),\dots,F_n(x))\, </math> に対して，次式を満たす <math>x\, </math> を求める問題である．

<table align="center">
<tr>
<td>
<math>x_i \ge 0, \ F_i(x) \ge 0, \ x_i F_i(x) = 0
\quad (i=1,\dots,n)</math></td>
</tr>
</table>

この問題において，すべての<math>i\, </math>に対して<math>x_{i}\geq 0\, </math>かつ<math>F_{i}(x)\geq 0\, </math>となる点<math>x\, </math>の集合を実行可能集合と呼ぶ．とくに，すべての<math>i\, </math>に対して狭義の不等式を満たす点<math>x\, </math>を狭義実行可能点と呼ぶ．また，すべての<math>i\, </math>に対して，<math>x_{i}=0\, </math>または<math>F_{i}(x)=0\, </math>が成り立つことを，相補条件と呼ぶ．相補性問題は，実行可能集合の中から相補条件が成り立つ点を求める問題と考えることができる．相補性問題の中で，<math>F\, </math> がアフィン関数，つまり<math>n\times n\, </math>行列<math>M\, </math>と<math>n\, </math>次元ベクトル<math>q\, </math>を用いて<math>F(x)=Mx+q\, </math>と表されるものを，[[線形相補性問題]](linear complementarity problem)と呼ぶ．また，それ以外の問題を[[非線形相補性問題]](nonlinear complementarity problem)という．相補性問題を含むより広いクラスの問題として，[[変分不等式問題]](variational inequality problem)がある．変分不等式問題は，与えられた閉凸集合<math>S \subseteq \mathbf{ R}^n</math>に対して，次の不等式を満たす点<math>x\in S\, </math>を求める問題である．

<table align="center">
<tr>
<td><math>\langle F(x), y-x \rangle \geq 0,\;\;\;\forall y\in S</math></td>
</tr>
</table>

ここで，<math>\langle \cdot, \cdot \rangle\, </math>はベクトルの内積をあらわす．特に<math>S=\mathbf{ R}^n_{+}:=\{x\in \mathbf{ R}^n\;|\; x_{i}\geq 0 \quad (i=1,\dots,n)\}\, </math>で与えられた変分不等式問題は相補性問題に帰着できる．また，<math>\mathbf{ R}^n_{+}\, </math>を一般の凸錘に拡張した一般相補性問題，対称半正定値行列空間に拡張した半正定値相補性問題と呼ばれる問題もある．

　[[2次計画問題]](quadratic programming problem)のカルーシュ・キューン・タッカー条件は，線形相補性問題としてあらわされる．また，非線形計画問題のカルーシュ・キューン・タッカー条件は，非線形相補性問題としてあらわされる．このため，相補性問題に対する効率的な方法を考えることは数理計画において重要な役割をはたす．また，経済均衡問題や交通流均衡問題などの多くの[[均衡問題 (ゲーム理論における)|均衡問題]](equilibrium problem)が，相補性問題として定式化できることが知られている．最近では，オプション価格の算出，摩擦を有する物理現象のモデル化などにも有用であることが報告されている．

　このように相補性問題は，オペレーションズリサーチにおいて重要な問題であるが，その解の計算は必ずしも容易ではない．このことは，一般の線形相補性問題がNP完全問題であることからもわかる．そのため，相補性問題に対しては，解きやすい問題のクラスの解明とそれらに対する解法の研究が進められている．関数<math>F\, </math>が，凸性と密接な関係のある単調関数であるとき，相補性問題は比較的容易な問題となる．ここで，<math>F\, </math>が単調であるとは，

<table align="center">
<tr>
<td><math>\langle F(x)-F(y),x-y \rangle \geq 0, \;\; \forall x, y \in \mathbf{ R}^n</math></td>
</tr>
</table>

が成り立つことである．制約が1次関数で与えられた凸計画問題のカルーシュ・キューン・タッカー条件は，単調関数で定義された非線形相補性問題であらわされる．また，<math>F\, </math>が単調関数で相補性問題が狭義実行可能点を持つとき，相補性問題の解集合は空でない有界凸集合になることが知られている．これまでに，<math>F\, </math>が単調な相補性問題に対して，様々な解法が提案されている．初期には，線形相補性問題に対して，[[不動点アルゴリズム]](fixed point algorithm)の一種であるレムケ法が提案され，そのアルゴリズムが実用化されてきた [2]．近年では，相補性問題を等価な方程式系や最適化問題などに再定式化して解くアルゴリズムの有効性が示されている．特に，等価な方程式系を近似した方程式をニュートン法で逐次的に解く内点法タイプのアルゴリズム [3] が理論的にも実用的にも速く解に収束することが報告されている．

　相補性問題や変分不等式問題を制約条件に含む数理計画問題を[[均衡制約計画問題]](mathematical program with equilibrium constraints)[4] と呼ぶ．スタッケルベルグ・ゲームや[[2レベル計画問題]](bilevel programming problem)は，下位レベルの問題をそのカルーシュ・キューン・タッカー条件に置き換えることによって，均衡制約計画問題に帰着することができる．均衡制約計画問題では，通常の制約想定が成り立たないことが知られている．このため，均衡制約計画問題は，一般の非線形計画問題に対するアルゴリズムで解が得られる保証がない困難な問題である．これまでに，均衡制約計画問題に対して内点法や逐次2次計画法を拡張する試みがなされている．

----
'''参考文献'''

[1] J.-S. Pang, "Complementarity Problems," in ''Handbook of Global Optimization'', R. Horst and P. Pardalos, eds., Kluwer Academic Publishers, 1994.

[2] 小島政和, 『相補性と不動点』, 産業図書, 1981.

[3] M. Kojima, N. Megiddo, T. Noma and A. Yoshise, ''A Unified Approach to Interior Point Algorithms for Linear Complementarity Problems'', Springer-Verlag, 1991.

[4] Z.-Q. Luo, J.-S. Pang and D. Ralph, ''Mathematical Programs with Equilibrium Constraints'', Cambridge University Press, 1996.

[5] 福島雅夫,『非線形最適化の基礎』, 朝倉書店, 2001.

《大域的最適化》

2007-07-14T14:47:39Z

220.104.197.230:

'''【たいいきてきさいてきか (global optimization)】'''

　ユークリッド空間<math>\mathbf{R}^n\, </math>上で定義された連続な実数値関数<math>f\, </math>を[[目的関数]]とし，<math>\mathbf{R}^n\, </math>の閉部分集合<math>D\, </math>を[[実行可能集合]]とする[[最適化問題]]:

<table align="center">
<tr>
<td>
<math>\begin{array}{ll}
\mbox{min.} & f (\boldsymbol{x})\\
\mbox{s. t.} & \boldsymbol{x} := (x_1, \ldots, x_n) \in D,
\end{array}\, </math></td>
</tr>
</table>

の[[大域的最適解]]，つまり

<table align="center">
<tr>
<td>
<math>f(\boldsymbol{x}^*) \leq f(\boldsymbol{x}), \quad \forall\, \boldsymbol{x} \in D,\, </math>
</td>
</tr>
</table>

を満足する<math>\boldsymbol{x}^* \in D\, </math>を求める方法を[[大域的最適化]]という．目的関数<math>f\, </math>と実行可能集合<math>D\, </math>が共に凸性を満たす[[凸計画問題]]であれば，局所的な最適化によって<math>\boldsymbol{x}^*\, </math>を求めることができる．また，凸性を満たさなくとも，[[分数計画問題]](fractional programming problem)や[[幾何計画問題]](geometric programming problem)の一部は任意の[[局所的最適解]]で大域的にも最適となる．したがって，大域的最適化が本質的な意味をもつのは，値が異なる複数の局所的最適解をもつ[[非凸計画問題]]に対してであり，これを多極値大域的最適化問題(multiextremal global optimization problem)と呼ぶ．例えば，<math>f\, </math>が凹関数で<math>D\, </math>が凸多面体の凹最小化問題(concave minimization problem)の場合，局所的最適解は一般に<math>D\, </math>の複数の端点に現われる．しかし，端点の数は膨大であり，その中から大域的に最適なものを見つけだすのは容易な作業でない．実際，この単純な例でさえ最悪計算量の上では[[NP困難]]であることが知られている．そのため，現段階で一般の多極値大域的最適化問題を解決する有効な手段はなく，[[モンテカルロ法]](Monte Carlo method)などのヒューリスティクスが唯一現実的なアプローチとなっている [2]．

　このように困難な問題クラスではあるが，個々の問題の中には，その構造を利用することで現実的な計算時間のうちに大域的最適解の求められるものも少なくない [1]．その代表例が，実は上にも述べた凹最小化問題である:

<table align="center">
<tr>
<td><math>\begin{array}{ll}
\mbox{min.} & f(\boldsymbol{x}) \\
\mbox{s. t.} & \boldsymbol{x} \in D := \{\boldsymbol{x} \in \mathbf{R}^n \mid \mbox{A} \boldsymbol{x} \geq \boldsymbol{b}\}.
\end{array}\, </math>
</td>
</tr>
</table>

ここで，<math>\mbox{A}\, </math>は<math>m \times n\, </math>行列で<math>\boldsymbol{b}\, </math>は<math>m\, </math>次ベクトル，<math>f\, </math>は凹関数(concave function)，つまり<math>-f\, </math>が[[凸関数]]である．この非凸計画問題を大域的に最適化するアルゴリズムとして，凹性カット法(concavity-cut method)，外部近似法(outer approximation method)，[[分枝限定法]](branch-and-bound method)などがある [3]．

　凹性カット法は，以下の操作を繰り返し，<math>D\, </math>から大域的最適解以外の実行可能解をすべて除去しようとする方法である．局所的最適解を与える<math>D\, </math>の端点<math>\boldsymbol{x}'\, </math>を見つけ，<math>\boldsymbol{x}'\, </math>から出る<math>n\, </math>本の稜線ベクトル<math>\boldsymbol{u}^1, \ldots, \boldsymbol{u}^n\, </math>と，それまでに得られた最も小さな目的関数値<math>f^\circ\, </math>によって集合

<table align="center">
<tr>
<td><math>V := \{\boldsymbol{x}' + \theta_i \boldsymbol{u}^i \mid \theta_i \geq 0,\; i = 1, \ldots, n\} \cap
\{\boldsymbol{x} \in \mathbf{R}^n \mid f(\boldsymbol{x}) = f^\circ\}\, </math></td>
</tr>
</table>

を定義する．端点<math>\boldsymbol{x}'\, </math>における<math>f\, </math>の値が<math>f^\circ\, </math>よりも悪ければ，<math>V\, </math>は丁度<math>n\, </math>個の点から構成されるが，それらを通る<math>n\, </math>次元超平面によって<math>\boldsymbol{x}'\, </math>と一緒に見込のない実行可能解も<math>D\, </math>から切除する．目的関数<math>f\, </math>が2次の凹関数である[[双線形計画問題]] (bilinear programming problem)に対しては，より大きな領域を切除する方法も考案されている．

　外部近似法も超平面による切除を行うが，凹性カット法と違って1つの実行可能解も失わない．まず，<math>D\, </math>を<math>n\, </math>次元単体や矩形などの単純な凸多面体<math>S \supseteq D\, </math>で近似し，<math>f\, </math>を<math>S\, </math>上で最小化する．これも凹最小化問題であるが，<math>S\, </math>は端点の数が少ないので，それらの列挙で最小点<math>\boldsymbol{x}'\, </math>は比較的容易に求められる．この<math>\boldsymbol{x}'\, </math>が満たさない<math>D\, </math>の制約式の1つ<math>\boldsymbol{a}_i^{\top} \boldsymbol{x} \geq b_i\, </math>を選び，<math>S\, </math>を

<table align="center">
<tr>
<td><math>S' := S \cap \{\boldsymbol{x} \in \mathbf{R}^n \mid \boldsymbol{a}_i^{\top} \boldsymbol{x} \geq b_i\}\, </math></td>
</tr>
</table>

に更新して<math>\boldsymbol{x}'\, </math>と共に実行不可能な領域を切除する．実行可能集合<math>D\, </math>が<math>S\, </math>の部分集合なので<math>f(\boldsymbol{x}')\, </math>は大域的最適値の下界値を与えるが，以上の操作を繰り返して <math>\boldsymbol{x}' \in D\, </math>となれば，<math>\boldsymbol{x}'\, </math>が大域的最適解である．

　分枝限定法には多くのバリエーションが存在するが，最も効力を発揮するのは目的関数<math>f\, </math>が分離可能な場合である:

<table align="center">
<tr>
<td><math>f(\boldsymbol{x}) := \sum_{j=1}^n f_j(x_j).\, </math></td>
</tr>
</table>

ただし，<math>f_j\, </math>はすべて凹関数である．実行可能集合<math>D\, </math>を含む矩形<math>M := \{\boldsymbol{x} \in \mathbf{R}^n \mid l_j \leq x_j \leq u_j,\; j = 1, \ldots, n\}\, </math>を定義し，これを複数の小さな矩形

<table align="center">
<tr>
<td>
<math>M^k := \{\boldsymbol{x} \in \mathbf{R}^n \mid l_j^k \leq x_j \leq u_j^k\}, \quad
k = 1, \ldots, K,\, </math>
</td>
</tr>
</table>

に分割していく．基本となる操作は，[[組合せ最適化問題]]に使われる分枝限定法と同様で，まず <math>M^k\, </math> を選んで

'''限定操作'''　<math>D \cap M^k\, </math>上における<math>f\, </math>の下界値<math>f'\, </math>を計算し，その値がそれまでに得られた最も小さな目的関数値<math>f^\circ\, </math>以上ならば<math>M^k\, </math>を考察の対象から外す;

'''分枝操作'''　<math>f' < f^\circ\, </math>ならば，<math>M^k\, </math>を2つの矩形 <math>M^{k_1}\, </math>, <math>M^{k_2}\, </math>に分割する

を繰り返す．効率の鍵を握る下界値<math>f'\, </math>には，通常<math>(l_j^k, f_j(l_j^k))\, </math>と<math>(u_j^k, f_j(u_j^k))\, </math>を通るアフィン関数

<table align="center">
<tr>
<td>
<math>g_j(x_j) := \frac{f(u_j^k) - f(l_j^k)}{u_j^k - l_j^k} x_j +
\frac{u_j^k f(l_j^k) - l_j^k f(u_j^k)}{u_j^k - l_j^k},
\quad j = 1, \ldots, n,\, </math></td>
</tr>
</table>

を定義し，その和<math>\textstyle g(\boldsymbol{x}) := \sum_{j=1}^n g_j(x_j)\, </math>の<math>D \cap M^k\, </math>上における最小値が用いられる．関数<math>g\, </math>は<math>M^k\, </math>上における<math>f\, </math>の最も大きな下界値を与える凸関数で，凸包絡関数 (convex envelope function)と呼ばれる．しかし，アフィン関数であるので[[単体法]]や[[内点法]]を使って容易に最小値<math>f'\, </math>を計算することができる．

　[[DC計画問題]](d.c. programming problem)や[[逆凸計画問題]](reverse convex programming problem)などのより一般的な多極値大域的最適化問題も，凹最小化問題を逐次解くことで処理することができる [2, 3]．

----
'''参考文献'''

[1] H. Konno, P.T. Thach and H. Tuy, ''Optimization on Low Rank Nonconvex Structures'', Kluwer Academic Publishers, 1997.

[2] R. Horst and P.M. Pardalos (eds.), ''Handbook of Global Optimization'', Kluwer Academic Publishers, 1995.

[3] R. Horst and H. Tuy, ''Global Optimization - Deterministic Approaches,'' 3rd ed., Springer-Verlag, 1996.

《制約付き最適化》

2007-07-14T14:39:54Z

220.104.197.230:

'''【せいやくつきさいてきか (constrained optimization)】'''

[[制約付き最適化]]とは, <math>n\,</math>次元ベクトル空間上の連続関数<math>f(x)\,</math>を適当な(連続)集合上で最適化する問題で一般に次の形で記述される.

<table align="center">
<tr>
<td><math>\begin{array}{ll}
\mbox{min}_x & f(x) \\
\mbox{s. t.} & g_i(x) \le 0 \ (i=1,\ldots, m),
\ \ \ h_j(x) = 0 \ (j=1,\ldots, l).
\end{array}</math>
</td>
<td width="100" align="right"><math>(1)\,</math></td>
</tr>
</table>

代表的な制約付き最適化問題には (A) [[線形計画問題]] (linear programming); (B) [[2次計画問題]] (quadratic programming); (C) 多面体上の凸(非線形)計画問題; (D) [[凸計画問題]] (convex programming); (E) (一般の) [[非線形計画問題]] (nonlinear programming)(<math>g, h, f\,</math>が一般の非線形関数である場合);があり, 各問題の特徴を生かした解法が研究されている．以下では主として(E)の解法について述べる.

　問題(1)に対する[[ラグランジュ関数]] (Lagrangian function)を次のように定義する.

<table align="center">
<tr>
<td><math>L(x,\lambda, \zeta) := f(x) + \sum_{i=1}^m \lambda_i g_i(x)
+ \sum_{j=1}^l \zeta_j h_j(x).</math> </td>
</tr>
</table>

解法は, 最適性の十分条件である[[カルーシュ・キューン・タッカー条件]] (Karush-Kuhn-Tucker condition)

<table align="center">
<tr>
<td><math>\begin{array}{l}
\nabla_x L(x,\lambda,\zeta)=0, \\
\lambda_i g_i(x) = 0 \qquad (i=1, \ldots, m), \\
g_i(x) \leq 0, \ \lambda_i \geq 0 \qquad (i=1, \ldots, m), \\
h_j(x) = 0 \qquad (j=1, \ldots, l),
\end{array}</math>
</td>
<td width="100" align="right"><math>(2)\,</math></td>
</tr>
</table>　　　　

を満たす点(KKT点)を求めることを目的として設計される.探索方向を定め，その方向に適当なステップ幅だけ進むことを繰り返して漸近的にKKT点に収束する点列を生成する. 主な解法としては, (1) 射影勾配法 (gradient projection method)および有効制約法 (active set method); (2) [[ペナルティ関数法]] (penalty function method); (3) [[乗数法 (数理計画の)|乗数法]] (multiplier method); (4) [[逐次2次計画法]] (sequential quadratic programming method); (5) [[内点法]] (interior point method)が知られている. これらの内で実用性が高いとされるのは逐次2次計画法と内点法であるが, 制約領域が多面体である場合は有効制約法も用いられる.現状では, 逐次2次計画法により数百変数程度の中規模問題が, さらに内点法によって数千, 数万変数の大規模問題がある程度解けるようになりつつある.

　射影勾配法は等式制約条件のみからなる最適化問題において, 実行可能領域の集合上に目的関数の勾配を射影してその(逆)方向に進む方法である [2]．有効制約法は不等式制約付き問題に対する射影勾配法の拡張である [2].

　ペナルティ関数法は, 問題を無制約最適化問題に変換して解く方法であり,60年代に研究された[2, 4].この方法では, 目的関数に制約を満たさないことに対するペナルティ項を付加したペナルティ関数 (penalty function) を導入する. ペナルティ項が十分大きければ, ペナルティ関数を最小化することによって問題が近似的に解けるわけである. 典型的なペナルティ関数の一つは

<table align="center">
<tr>
<td><math>F_\rho^{\rm P}(x) := f(x) + \rho_1 \max_i[0, g_i(x)]^2 + \rho_2 \|h(x)\|^2</math>
<td>
<td width="100" align="right"><math>(3)\,</math></td>
</tr>
</table>

である. <math>\rho = (\rho_1,\rho_2)\,</math>は正のパラメータでこれをペナルティパラメータと呼ぶ. 実際には, 大きな<math>\rho\,</math>の値に対して<math>F_\rho^{\rm P}\,</math>をいきなり最適化するのではなく, <math>\rho\,</math>の値を徐々に大きくしながら<math>F_\rho^{\rm P}\,</math>を無制約最適化するというステップを繰り返して問題を解く.<math>\rho\,</math>が大きくなるにつれて<math>F_\rho^{\rm P}\,</math>が悪条件になり無制約最適化が難しくなることが欠点とされる. 類似の方法で不等式制約を必ず満たすようにペナルティ項を付加したものは, 障壁関数法 (barrier function method)と呼ばれる.

　上に述べたペナルティ法の欠点を克服するために考えられたのが乗数法である [1, 3]. 乗数法は, 基本的には等式制約のみの問題を扱うための解法であり，<math>\rho\,</math>の他にラグランジュ乗数(Lagrangian multiplier)<math>\zeta_i\,</math>を導入して次のように定義される[[拡張ラグランジュ関数]] (augumented Lagrangian function)

<table align="center">
<tr>
<td><math>F_{(\rho,\zeta)}^{\rm M}(x) :=
f(x) + \sum \zeta_j h_j(x) + \rho \|h(x)\|^2</math>
</td>
</tr>
</table>

の無制約最適化を行って問題を解くものである.<math>\rho\,</math>が十分大きく<math>\zeta\,</math>が元の問題のKKT点におけるラグランジュ乗数である時には, KKT点は<math>F_{(\rho,\zeta)}^{\rm M}(x)\,</math>の極小点になる. そこで，<math>\rho\,</math>を十分に大きくとった上で, (i)適当な方法で<math>\zeta\,</math>を推定し, (ii)<math>F_{(\rho,\zeta)}^{\rm M}(x)\,</math>を無制約最適化する; という2つのステップを繰り返すことで, <math>\rho\,</math>を更新することなくKKT点に収束する解法が得られる. 不等式制約<math>g_i(x)\leq0\,</math>を持つ問題に対しては, スラック変数<math>s_i\,</math>を導入して<math>g_i(x) + s_i^2 = 0\,</math> として, 等式制約に直した上でこの方法を適用すればよい. 乗数法は70年代に研究された.

　次に70年代後半から80年代に入って研究されたのが，逐次2次計画法である [2, 4, 6].逐次2次計画法では, 点<math>x^k\,</math>において, ラグランジュ関数<math>L(x,\lambda,\zeta)\,</math>を2次近似し, 制約条件を1次近似して得られる2次計画問題

<table align="center">
<tr>
<td><math>\begin{array}{lll}
\mbox{min}_x & \frac12 (x - x^k)^{\top} H^k (x-x^k) + (x-x^k)^{\top} \nabla f(x^k) & \\
\mbox{s. t.} & g_i(x^k) + (x - x^k)^{\top} \nabla g_i(x^k) \le 0 & (i=1,\ldots,m), \\
& h_j(x^k)+ (x-x^k)^{\top} \nabla h_j(x^k) = 0 & (j=1, \ldots, l),
\end{array}</math>
</td>
</tr>
</table>

を解いてその方向に進んで次の点<math>x^{k+1}\,</math>を定める. ここで<math>H^k\,</math>は<math>x^k\,</math>における<math>L(x,\lambda,\zeta)\,</math>の変数<math>x\,</math>に関するヘッセ行列<math>\nabla_{xx}L\,</math>あるいはその近似行列である.

　1984年の[[カーマーカー法]](Karmarkar method)の登場以来, 内点法はさまざまな制約付き最適化問題に拡張された[5]. 内点法には主内点法 (primal interior point method)と[[主双対内点法]] (primal-dual interiorpoint method)の2種類がある.主内点法は, 基本的には不等式制約条件のみの最適化問題を取り扱う方法で,不等式制約を厳密に満たす点から出発して対数障壁関数 (log barrier function) <math>\textstyle F_\nu^{\rm B}(x) := f(x) - \nu \sum_i \log[ - g_i(x)]</math>を逐次最小化して問題を解くものである.各<math>\nu>0</math>に対して<math>F_\nu^{\rm B}\,</math>を最小化する点が作る集合を中心曲線(central trajectory)という.<math>\nu\,</math>を小さくしながら<math>F_\nu^{\rm B}(x)\,</math>を[[ニュートン法]] によって最小化して中心曲線を追跡して問題を解く. 対数障壁関数は各不等式制約を定数倍する変換に対して不変であるという自然な性質を持つ.

　現在主流となりつつある主双対内点法は, 線形計画問題に対するものを拡張した次のような方法である[7]. この方法では新たに正のパラメータ<math>\nu\,</math>を導入し,カルーシュ・キューン・タッカー条件(2)の内, <math>\lambda_i g_i(x) = 0\,</math>と<math>g_i(x) \leq 0\,</math>を,

<table align="center">
<tr>
<td><math>\lambda_i s_i = \nu, \ \ \ g_i(x) + s_i = 0,\ \ \ s_i \geq 0\ \ \ (i=1, ..., m)</math></td>
</tr>
</table>

で置き換え, この条件を満たす点の集合を中心曲線とする. <math>\nu\,</math>を小さくしながらニュートン法で中心曲線上の点を求めることを繰り返してKKT点に収束する点列を生成する.主双対内点法では，ラグランジュ乗数<math>\lambda_i\,</math>を導入することでペナルティ関数などの欠点であったKKT点の近くでの悪条件を克服している.

　上述の各解法においてはKKT点や中心曲線上の点への近さを適当なメリット関数(merit function)で測り，各反復ではそれを減少させるようにステップ幅を選ぶ. メリット関数は探索方向の生成法と並んで解法の設計上重要な要素である. 無制約最小化することで元の制約付き最適化問題のKKT点が得られるような関数を厳密ペナルティ関数(exact penalty function)という. ペナルティ関数(3)で項<math>\rho_1\max[0, g_i(x)]^2\,</math>, <math>\rho_2\|h\|^2</math>をそれぞれ<math>\rho_1\max[0, g_i(x)],\rho_2\|h\|_1</math>で置き換えたものは<math>L_1\,</math>厳密ペナルティ関数と呼ばれ, 乗数法や逐次2次計画法に対するメリット関数としてよく用いられる.

　なお, 非線形関数の勾配やヘッセ行列の効率的な計算には高速自動微分法が有効であり，ヘッセ行列の近似行列を逐次構成する方法としては[[準ニュートン法]]がある. また, 線形計画問題に対する多項式内点法の理論は凸計画問題に拡張されている[5].

----
'''参考文献'''

[1] D. P. Bertsekas: ''Nonlinear Programming'', Athena Scientific, 1997.

[2] R. Fletcher: ''Practical Methods of Optimization'', John Wiley, 1987.

[3] 藤田宏, 今野浩, 田邊國士:『最適化法』, 岩波書店, 1994.

[4] 福島雅夫:『数理計画入門』, 朝倉書店, 1996.

[5] Y. Nesterov and A. Nemirovskii: ''Interior Point Polynomial Algorithms in Convex Programming'', SIAM, 1994.

[6] J. Nocedal and S. Wright: ''Numerical Optimization'', Springer, 1999.

[7] 山下浩：「大規模システム最適化のためのアルゴリズム, モデリング, ソフトウェア」, 応用数理, '''6''' (1996), pp.26-38.