Levenberg-Marquardt法ってのは山あり谷ありの関数の谷の底を(=最小値)を見つけるアルゴリズムのこと。 骨子は (a) 関数の微分の微分が零になる場所を探す方法 (b) 二階微分を一回微分の二乗で近似する (Gauss-Newton法) (c) 安定性の向上の工夫を入れる(Levenberg-Marquardt法) というもの。 以下 (a) → (b) → (c) の順で記述する。 関数の最小値を見つけたいんだから、微分をして値が減る方向に進んでいく、というのが簡単な考え方だと思う。 これを最急降下法と呼ぶ。 この方法は関数の形が何であっても確実に値を減じることができるが、とにかく遅い。 然るに関数の形に関する事前知識がある場合に、この情報を積極的に利用できないか、ってのが出発点。 で、Levenberg-Marquardt法の場合は「山あり谷ありの関数」ってのは「(局所
非線形SVM 〜 詳細説明 〜 戻る 問題が線形分離できないような場合，やっぱり非線形なモデルを考えたいわけで，常套手段はなんといっても，元の特徴空間を線形分離可能な別の特徴空間に変換してやってから線形分離してやる，っていう方法だよね．非線形SVMも例に漏れずこの方法を使う． 元の特徴空間におけるベクトルを，別の次元特徴空間に変換する関数を考える．は，スカラーを出力する任意の個の非線形関数を要素とするベクトルと定義する． (2.1) これを使って，非線形SVMの識別関数を次のように考える． ただし (2.2) 学習データは個与えられているとし，と表す．これらのデータを2つのクラスおよびに分離することを考える．この学習データ集合に対して，が次の条件を満たすようにパラメータを調節することを考える． (2.3) ここで学習データに関する教師信号をとし，次のように定義する．
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
