【じゅんにゅーとんほう (quasi-Newton method)】
制約なし最適化問題 m i n f ( x ) {\displaystyle \mathbf {min} f(x)\,} (ただし f : R n → R {\displaystyle \ f:\mathbf {R} ^{n}\to \mathbf {R} \,} )を解くための勾配法の1つ. 勾配 ∇ f ( x ) {\displaystyle \nabla f(x)\,} を用いてヘッセ行列の近似行列を生成して, ニュートン法と同様の効率を得るように工夫されている. k {\displaystyle k\,} 回目の反復でヘッセ行列の近似行列を B k {\displaystyle B_{k}\,} としたとき, 連立1次方程式 B k d k = − ∇ f ( x k ) {\displaystyle B_{k}d_{k}=-\nabla f(x_{k})\,} の解 d k {\displaystyle d_{k}\,} を探索方向に選び, x k + 1 := x k + α k d k {\displaystyle x_{k+1}:=x_{k}+\alpha _{k}d_{k}\,} ( α k {\displaystyle \alpha _{k}\,} はステップ幅) によって近似解の点列 { x k } {\displaystyle \{x_{k}\}\,} を生成する. 行列 B k {\displaystyle B_{k}\,} は更新公式を用いて逐次生成され, 特にBFGS公式が有効である.