[B! svm] stealthinuのブックマーク

stealthinu id:stealthinu

svmに関するstealthinuのブックマーク (6)

機械学習の中身を理解する - Speaker Deck
2018年12月5日リクルートスタッフィングのイベントでの資料です。「機械学習のエッセンス」の解説がメインになっています。
stealthinu 2018/12/06
ラグランジュ未定乗数法のところで付いてけなくなった。毎回SVMを理解しようとして途中でつまづく。カーネルトリック出てこなかった／マージン最大化どうやって解いてるか説明なんだ。それはわかった！

機械学習

svm

数学
リンク
SVMの定番入門書「サポートベクターマシン入門(赤本)」の読み方 - EchizenBlog-Zwei
SVMを学びたい人にとっては「サポートベクターマシン入門」通称「赤本」は最適な入門書であるといえる。理論から実践までバランスよく解説されており、本書を読むだけでSVMの実装が可能になる。しかし本書はSF 小説を彷彿とさせる独特な翻訳の文体のため機械学習に不慣れな読者にとっては読みこなすのは苦しい戦いとなる。本来なら原書をオススメしたいところだが、そうはいっても英語はちょっとという人も多いはず。そこで本記事では赤本のオススメな読み方を紹介してみる。 1.「わかパタ」で準備運動をしよう泳ぎのうまい人でもいきなり水に飛び込むのは危険。まずは準備運動をして体を温める。これには「わかりやすいパターン認識」がオススメ。とりあえず2章まで、余裕があれば3章まで読んでおけば充分。 2.赤本を枕元において一晩寝ようさて準備運動が済んだら早速赤本にトライ！したいところだが赤本の放つ瘴気で心を蝕まれないよ
stealthinu 2011/09/01
『SF小説を彷彿とさせる独特な翻訳の文体』どんなんだ？？『SVMとは「パーセプトロン」に「カーネル関数」と「マージン最大化」を加えたもの』ほんとこの理解で良いんだ。うーん、多層はだめな子なん？

機械学習

本

svm
リンク
機械学習超入門IV 〜SVM(サポートベクターマシン)だって30分で作れちゃう☆〜 - EchizenBlog-Zwei
ニーズがあるのかさっぱりわからない機械学習超入門だけどひっそり続けていきたい。前回は識別関数の基礎であるパーセプトロンの簡単な説明とPerlによる実装を解説した。実はこの時点でかの有名なSVM(Support Vector Machine、サポートベクターマシン)もほぼ完成していたのだ！というわけで今回はSVMをPerlで作ってしまうお話。参考: これからはじめる人のための機械学習の教科書まとめ - EchizenBlog-Zwei 機械学習超入門〜そろそろナイーブベイズについてひとこと言っておくか〜 - EchizenBlog-Zwei 機械学習超入門II 〜Gmailの優先トレイでも使っているPA法を30分で習得しよう！〜 - EchizenBlog-Zwei 機械学習超入門III 〜機械学習の基礎、パーセプトロンを30分で作って学ぶ〜 - EchizenBlog-Zwei さて
stealthinu 2011/06/28
え？SVMってこんな簡単なアルゴリズムでいいの？カーネルトリックとか全然理解できてないんだけど単に使っちゃっても良いんかな？？あと1段でxorの学習も可能なの？か？

svm

機械学習
リンク
SVMにおける損失と正則化 - 射撃しつつ前転改
前に書いたSVMの記事で、「L1とかL2というのは間違えたときのペナルティをどう定義するかを意味しており」と書いていたが、L1とかL2って正則化項の話なんじゃないの、と疑問に思った。1ヶ月ほど時間をおいてのセルフツッコミである。確認しようとしてカーネル多変量解析を読むと、やはり正則化項についてはL1とL2の両方の説明が書いてあるが、損失に関しては普通のHinge Loss（=L1 Loss）しか書いてない。と言う訳で、ああ、間違えちゃったなぁ、と暗澹たる気持ちで"A dual coordinate descent method for large-scale linear SVM"を読み直してみたところ、やっぱりL1-SVMというのは損失が普通のHinge Lossで、L2-SVMというのはHinge Lossの2乗を損失とすると書いてあった。両方とも正則化項についてはL2正則化を使って
stealthinu 2010/03/09
SVMでL1とL2どちらを使うのが良いかという話。難しくて理解できん…

svm

機械学習
リンク
しかしSVMも最近は速いらしい - 射撃しつつ前転改
Complement Naive BayesがSVMより速いよーと主張していたので、SVMもなんか最近は速くなってるらしいよ、という事を紹介してみたい。近年はSVMなどの学習を高速に行うという提案が行われており、実装が公開されているものもある。その中の一つにliblinearという機械学習ライブラリがある。ライブラリ名から推測できる通り、liblinearではカーネルを使うことが出来ない。しかし、その分速度が速く、大規模データに適用できるという利点がある。 liblinearを作っているのはlibsvmと同じ研究グループで、Chih-Jen Linがプロジェクトリーダーであるようだ。libsvmはかなり有名なライブラリで、liblinearにはそういった意味で安心感がある。（liblinearの方は公開されてしばらくは割とバグがあったらしいけど。） liblinearにはL1-SVM, L
stealthinu 2008/12/22
カーネル使わないってことはカーネルトリック使わないってこと？なんか早くなるらしいが、原理はきっとさっぱりわからんことだろう。カーネルトリックだって良く分からないのに…

svm
リンク
やる夫はSVMを実装したようです　やる夫で学ぶ非線形なSVM
1. やる夫は SVM を実装したようです & やる夫で学ぶ非線形な SVM Hatena id:repose Twitter id :y_benjo
stealthinu 2008/09/24
svmはカーネルトリックが良くわからんのだよなあ。なんであれで高次に写像されるのかが理解できない。

programming

deeplearning

svm
リンク
1