かみのメモ

コンピュータビジョン・プログラムな話題中心の勉強メモ

最適化

数理最適化の勉強メモ − Levenberg-Marquardt法

制約なし非線形最小二乗問題の解法であるLevenberg-Marquardt法について、直観的な視点と信頼領域法の視点からまとめてみます。

双対数を利用した自動微分についてのメモ

この記事では、プログラムで微分を計算する方法の1つである、双対数を利用した自動微分の原理や数値微分との比較についてまとめてみます。

数理最適化の勉強メモ − 最急降下法 / ニュートン法の原理と特徴

連続最適化問題の数値解法である最急降下法とニュートン法についてまとめた勉強メモです。原理と特徴を数式とグラフを使いながら解説しています。

数理最適化の勉強メモ − 解析的な解法 / 最適性条件 / 勾配法がうまくいかない条件

連続最適化問題を解析的に解く方法、最適性条件、最適化がうまくいかない条件などについて考えたことをまとめた勉強メモです。