【文献調査】BFGSの基礎 細江 則彰, 廣安 知之, 三木 光範 ISDL Report No. 20060807008 2006年 9月 20日 Abstract 本報告は,連続最適化問題かつ非線形計画問題に適用できる,準ニュートン法の代表的な手法であるBFGS法について文献調査を行う.BFGS法は,Broyden,Fletcher,Goldfarb,Shanno の4人によって発表された手法であり,ニュートン法の問題点である「Hesse行列の計算に多くの計算量が必要」を解決するアルゴリズムである. 1 はじめに 本報告では,準ニュートン法の代表的な手法であるBFGS法について文献調査を行う.BFGS法は,Broyden,Fletcher,Goldfarb,Shanno の4人によって発表された手法であり,ニュートン法の問題点である「Hesse行列の計算に多くの計算量が必要」を解
最適化の基礎 佐藤史隆, 平井聡, 鈴木 和徳, 宇野尚子, 廣安 知之, 三木 光範 ISDL Report No. 20050716002 2005年 5月 31日 Abstract 最適化とは, 制約条件を満たした上で, 最も適切な計画, 設計を作成し選択することである. 実世界の問題は定式化され, 最適化手法によって解が求められる. 最適化には連続問題と離散問題があり, それぞれに対して用いられる手法が複数ある. 1 はじめに 我々の研究室, 知的システムデザイン研究室の最終的な目的は, その名の通り知的なシステムを設計することにある. そして, その研究の柱は, 知的化, コラボレーション 最適化 並列, クラスタ の3つである. これらの3つのテーマは, それぞれ密接に関係している. その関係は次の通りである. まず, 最適化という手法を用いることで, よりよいシ
たまたまここでで見たんですが、↓だそうです。 2月最後の授業で言ったように、Matlabのoptimization toolboxを持っている場合、この中の関数fsolveを用いることによって非線形の連立方程式の解を求めることができます。しかし、その後調べたところ、数値計算に関する教科書を著しているKenn Juddは彼のホームページでこの関数はイマイチ(”poor”)であると述べ(リンク先参照)、それよりもChristopher Simsの書いた関数コードであるcsolve.mの利用を推奨しています。… … 参考:コメント:Matlab関数fsolveについて で、実際にリンクをたどってみると、確かに書いてありますね。そんなものを売るな!という話もありますが、まぁそれはそれ。無料の方が強力なら、それもよしです。 A Matlab Nonlinear Equation Solver The
先日L1正則化についての話をしてきました。 [ppt] [pdf] ちょっと専門的な話ですが、L1正則化はパラメータ推定のときにパラメータw∈R^m に対し|w|_1 = |w_1| + |w_2| + ...+|w_m| のペナルティをかけるもので、機械学習だけでなく、compressed sensingやらいろいろな分野で出てくる手法です。 L1正則化を使うと、殆どのパラメータが0になりコンパクトな学習結果モデルが得られる上に、ノイズが大きい場合にはそれらを無視することができます(L2の場合はrepresenter theoremより、重みベクトルは訓練ベクトルの線形和としてしか表せないので、要らない素性の重みを0にするようなことは難しくなります) さて、上の発表で話した中で今面白いのはL1-ball projectionという技術です。 "Efficient Projections
Professor Stephen Boyd, of the Stanford University Electrical Engineering department, gives the introductory lecture for the course, Convex Optimization I (EE 364A). Convex Optimization I concentrates on recognizing and solving convex optimization problems that arise in engineering. Convex sets, functions, and optimization problems. Basics of convex analysis. Least-squares, linear and quadratic
The dogma of signal processing maintains that a signal must be sampled at a rate at least twice its highest frequency in order to be represented without error. However, in practice, we often compress the data soon after sensing, trading off signal representation complexity (bits) for some error (consider JPEG image compression in digital cameras, for example). Clearly, this is wasteful of valuable
算数ドリル サンプル画像 以下のような算数問題のPDFファイルがダウンロードできます。 プリント,ドリルの利用方法 小学生向けの教材がダウンロードできます。家庭学習用にお使いください。 自分用・家庭用としてならば、無料でプリントをご利用いただけます。お好きなだけ練習してください。 学力向上にお役立てください。 学習塾・学校での使用など、二次配布をされる場合には有料になります。 学習塾を独立開業されている方、学校の先生、各種施設の職員様などが、配布目的でご利用なされる場合には、商用利用申込が必要になります。 ドリルはPDFファイルとなっておりますので、ダウンロード後、プリントアウトしてご利用下さい。 問題作成のご要望を募集しております。掲示板にお書き こみください。 ご利用には最新のAdobe Reader(7.0.9以上)が必要となります。 算数問題データ 100ます計算の学習教材・問題集
デカルト座標系とユークリッド空間 まずは基本的な用語から。 私たちが通常使っている直交座標系のことをデカルト座標系 (Cartesian coordinate system) とも呼びます。 x, y の値は両方とも実数です(x, y ∊ R)。 デカルト座標上の2点 a, b の距離をピタゴラスの定理(三平方の定理) で定義した空間をユークリッド空間 (Euclidean space) と呼びます。2次元のxy平面であれば,上式で n = 2 を代入して,距離は スカラーとベクトル スカラー (scalar) とは1つの値のことを指します。 例えば 3 (int) や -5.2 (double) といった値のことです。 Cでは文字列は配列なのでスカラーではありませんが,PerlやPythonなど,プログラミング言語によっては "abc" のような文字列もスカラーとみなせます。 ベクトル
The Lasso Page L1-constrained fitting for statistics and data mining The Lasso is a shrinkage and selection method for linear regression. It minimizes the usual sum of squared errors, with a bound on the sum of the absolute values of the coefficients. It has connections to soft-thresholding of wavelet coefficients, forward stagewise regression, and boosting methods. A simple explanation of the las
先日、飲んでたときに「 9 」という数字が面白いというになったのですが、「 数字が合わないときに『 9 』で割ったりするよね。 」と言ったら誰もやってなかったのでその話をします。たぶん、会計に携わってる人なら知ってる人も多いはず。 例えば、経理の仕事をしてたりすると、仕訳を全部入力したのに帳簿の残高と実際の預金残高が合わないということがあると思います。会計の仕事をしていない人でも、家計簿ソフトを使ってて、レシートを全部入力したのに現金の残高が合わないなんていうことがあるんじゃないでしょうか。そんなときは闇雲に間違いを探しはじめないで、とりあえず差額を「 2 」か「 9 」で割ってみるといいかもしれません。割り切れると↓こんな可能性が考えられます。 「 2 」で割り切れる → ±を逆に入力してる可能性がある「 9 」で割り切れる → 桁間違い or 数字の一部を逆に入力してる可能性がある
People Open People submenu Faculty Visitors Open Visitors submenu Merkin Distinguished Visiting Professorship Postdoctoral Scholars Open Postdoctoral Scholars submenu Postdoc Alumni Graduate Students Open Graduate Students submenu Graduate Alumni Research Staff Administration Academics Open Academics submenu Graduate Programs Open Graduate Programs submenu Graduate Degree in Applied + Computationa
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く