制約なし非線形最小二乗問題の解法であるLevenberg-Marquardt法について、直観的な視点と信頼領域法の視点からまとめてみます。

プログラムで微分を計算する方法の1つである、双対数を利用した自動微分の原理や数値微分との比較についてまとめてみます。

連続最適化問題の数値解法である最急降下法とニュートン法についてまとめた勉強メモです。原理と特徴を数式とグラフを使いながら解説しています。

連続最適化問題を解析的に解く方法、最適性条件、最適化がうまくいかない条件などについて考えたことをまとめた勉強メモです。