はじめに こんにちは。データ部ML Product Devチームに所属している谷澤です。 ML Product Devチームは「機械学習を活用した競合優位性のあるプロダクト開発」をミッションとし、プロダクト開発チームと協力して日々開発を行っています。 今回のブログでは、プライベート参加したKaggleコンペティション「Eedi – Mining Misconceptions in Mathematics」で得られた学びについて共有します。 コンペティション概要 タスク Eediコンペティションでは、算数の4択問題が与えられます。問題ごとに1つの正答と3つの誤答が存在し、それぞれの誤答には「どんな誤解（ミスコンセプション）から誤答に至ったか」という情報が紐づけられており、モデルによって「問題とミスコンセプションの対応関係」を予測するのが主な目的です。 たとえば、「12+3×2」という問題で「

こんにちは👋 長く暑い夏が終わろうとしている今ですが、筆者は秋の季節を満喫しております。 LabBaseでは線形代数学の基礎を使って検索エンジンを構築していますが、レコメンド、検索アルゴリズムによく使われる王道の手法について記事を書くことにしました。 概要 線形代数学の特異値分解（SVD）の知識を活かして、原始的な画像圧縮アルゴリズムをRustで実装します。 SVDとは？ SVDは、線形代数学でよく使われる行列の分解です。行列の分解は、同じマトリックスを他のマトリックスに分けて表現することです。SVDの他に、LU三角分解、QR分解などがあります。 SVDは、あるAというマトリックスの列空間と行空間の固有ベクトルを計算して、それぞれをUとVというマトリックスに収めます。さらに、Σという対角行列に、固有値の平方根を入れます。Vの転置行列をV'と定義しますが、以下の分解になります。 Σの体格行

用語「ダイス係数」について説明。集合間の類似性を評価する尺度で、「2つの集合の共通部分が、それぞれの集合の大きさと比べて、どれだけ大きいか」を測定するために使用される。値が1に近いほど「似ている」を、0に近いほど「似ていない」を意味する。少数の一致でもその正確性が重要視される場面で利用されている。 連載目次 用語解説 数学／統計学／機械学習におけるダイス係数（Dice coefficient）とは、2つの集合で「それらの共通部分が、それぞれの集合の大きさと比べて、どれだけ大きいか」の計算値で類似性を表す尺度である。具体的には、「2つの集合の共通部分（＝積集合：∩）」に含まれる要素数を2倍し、それを「2つの集合それぞれの要素数の合計（＝2つの集合に含まれる要素数の平均を2倍した値に相当）」で割ることで計算される（図1）。 このダイス係数の値は、0～1の範囲に正規化され、1は「完全に一致してい

連載目次 用語解説 数学／統計学／機械学習におけるジャッカード類似度（Jaccard Similarity）とは、2つの集合が「どのくらい重なり合っているか」の計算値で類似性を表す尺度である。具体的には、「2つの集合の共通部分（＝積集合：∩）」に含まれる要素数を、「2つの集合全体（＝和集合：∪）」に含まれる要素数で割ることで計算される（図1）。このジャッカード類似度の値は、0～1の範囲に正規化され、1なら「完全に同じ集合（＝似ている）」、0なら「全く共通点のない集合（＝似ていない）」を意味する。 ジャッカード類似度は、ジャッカード係数（Jaccard Indexや、Jaccard similarity coefficient）とも呼ばれる。これらの用語は同じ概念を指しており、文脈によって使い分けられる。一般的に、Jaccard Similarityは類似度の強調や実際の応用で使われることが

［解決！Python］べき乗を計算するには（**演算子、pow関数、math.pow関数）：解決！Python Pythonでべき乗を計算するには**演算子、組み込みのpow関数、mathモジュールのpow関数を使える。それらの使い方と、振る舞いの違いを紹介する。 # べき乗を計算する3つの方法 base = 2 exp = 10 # **演算子を使う r = base ** exp print(r)  # 1024 # 組み込みのpow関数を使う r = pow(base, exp) print(r)  # 1024 # mathモジュールのpow関数を使う import math r = math.pow(base, exp) print(r)  # 1024.0：math.pow関数では引数は浮動小数点数値に変換される # 組み込みのpow関数ではべき乗した結果をmodで割った剰余を

用語「マハラノビス距離」について説明。2点間の距離を計測する方法の一つで、「“普通の距離”（＝ユークリッド距離）を一般化したもの」とも言われる。データの分布（共分散行列）を考慮することで、データのばらつき具合や相関関係を反映した距離を計算できる。異常値や外れ値を識別するために有効であり、特に多次元データにおいて正確な距離測定が可能。 連載目次 用語解説 数学／統計学／機械学習におけるマハラノビス距離（Mahalanobis distance）とは、n次元ベクトル（多変量空間）で表現される2点（例えばx＝[x1,x2,...,xn]とy＝[y1,y2,...,yn]）間の「距離」を計算するための方法の一つである（具体的な計算方法は後述する）。マハラノビス距離は、“普通の距離”（厳密にはユークリッド距離、L2ノルム）の計算に「データの分布（厳密には共分散行列）」を加える。これにより、ユークリッ

Creating Creators in the age of Generative AI - In SIGGRAPH ASIA 2024

はじめに 千葉大学・株式会社Nospareの川久保です．今回は，統計学（特に多変量解析）で多く出てくる行列演算の小技集を，線形回帰モデルにおける簡単な実用例を交えて紹介します． 転置に関する公式 行列の転置とは，$(i,j)$要素を$(j,i)$要素に入れ替えることです．$m$行$n$列の行列$A$の$(i,j)$要素を$a_{ij} \ (i=1,\dots,m; j=1,\dots,n)$とすると，$A$を転置した$n$行$m$列の行列$A^\top$の$(j,i)$要素が$a_{ij}$となります．また，自明ですが，転置行列の転置は元の行列になります．すなわち，$(A^\top)^\top = A$です． 行列の和の転置 行列$A$と$B$の和の転置は，転置行列の和です．つまり， が成り立ちます． 行列の積の転置 次に，行列$A$と$B$の積$AB$の転置としては，以下の公式が成り立

「Immersive Math」は、数学のうちベクトルや行列などの計算を研究する分野である「線形代数」についてインタラクティブな図を用意することでわかりやすさを向上させた無料の教科書サイトです。 Immersive Math https://immersivemath.com/ila/index.html サイトのトップページはこんな感じ。「完全にインタラクティブな図を備えた世界で最初の線形代数本」と述べられています。 中央に表示されている三角形の図はインタラクティブで、左上をクリックすることで回転・停止を切り替えられるほか、各頂点をクリックしてドラッグ＆ドロップすることで位置を調整可能。自由に図を編集できるため理解しやすいというわけです。 ページをスクロールすると目次が現れました。まずは「Preface(序文)」をクリック。 「『百聞は一見に如かず』という言葉の通り、たくさんの言葉を重ね

チェビシェフ距離（Chebyshev distance）／L∞ノルムとは？：AI・機械学習の用語辞典 用語「チェビシェフ距離」について説明。2点間の距離を計測する方法の一つで、2つの点座標（n次元）で「次元ごとの距離（＝各成分の差）の絶対値」のうち「最大値」を距離として採用する計算方法を意味する。 連載目次 用語解説 数学／統計学／機械学習におけるチェビシェフ距離（Chebyshev distance、Chessboard distance：チェス盤距離）とは、2点間の距離を計測する際に、n次元ベクトルで表現されるそれらの点座標の次元ごとに距離（＝成分間の差）の絶対値を求めて、その中の最大値を距離とする方法である。 チェビシェフ距離は、n次元のチェス盤の上をキング（駒）が移動する手数（＝ステップ数）によく例えられる（図1）。キングは斜めにも真っ直ぐにも動けるため、例えば左下にあるx地点から

大阪公立大学大学院理学研究科FD研修会 「人工知能と数学」2024年2月15日 https://www.omu.ac.jp/orp/ocami/activities/fd/list/ 講演者：鈴木 大慈 氏（東京大学大学院情報理工学系研究科・准教授） 講演タイトル：機械学習の数学 講演アブストラクト：機械学習は現在，ChatGPTや拡散モデルといった基盤モデルの発展により，社会的に大きな影響を与える技術となっている．これら基盤モデルは大規模資本によるモデル開発による発展が著しいが，一方でその裏には数学的に興味深い理論的背景がある．本発表では，そのような基盤モデルを支える深層学習の背後にある理論を紹介する．より具体的には，代表的な生成モデルの一つである拡散モデルの背後にある確率微分方程式による特徴付けやその推定理論について述べ，大規模基盤モデルの基本構造であるTransformerの関数近似

2024東大理系数学第3問 連立漸化式を行列表示する (1)で答える，とりうる点を反時計回りに点$\mathrm{C}_0, \mathrm{C}_1, \ldots, \mathrm{C}_7$とおきます。 そして，$n$秒後に点$\mathrm{P}$ が $C_k$ にいる確率を $p_{n,k}$ とおくと，$n$秒後から$n+1$秒後への推移は次の行列で表されます。 \begin{pmatrix} p_{n+1,0}\\ p_{n+1,1}\\ p_{n+1,2}\\ p_{n+1,3}\\ p_{n+1,4}\\ p_{n+1,5}\\ p_{n+1,6}\\ p_{n+1,7} \end{pmatrix} =\frac{1}{6} \left( \begin{array}{cccccccc} 0 & 1 & 0 & 2 & 0 & 1 & 0 & 2 \\ 1 & 0 & 2

本記事では、非線形の偏微分方程式の数値解法について、分かりやすい具体例とともに掘り下げていきます。Pythonを活用したアプローチ方法を学びます。 本記事を通して偏微分方程式の数値解法の1つを会得しましょう！ 注） 差分法の一部の話だけにとどめています。誤差や境界条件などの詳細な議論は冗長化を避けるためにご紹介していません。 偏微分方程式の数値解法とは 偏微分方程式の数値解法は、偏微分方程式（PDE: Partial Differential Equations）の解を近似的に求めるための手法のことを指します。これらの方程式は、多くの場合、解析的な解が見つけられないため、数値的な手法が必要となります。以下に、主な数値解法をいくつか紹介します。 有限差分法（Finite Difference Method）: 空間や時間を離散的なグリッドに分割し、微分を差分に置き換えることにより近似します。

最近の話ですが、以下のようなニュースが話題になっているのを見かけました。 データサイエンス系の学部は文理融合の学びを掲げ、文系の受験生も集めるため、受験科目に「数学」を含まない入試方式を設ける大学も少なくない。河合塾によると、私立大のデータサイエンス系学部・学科における昨春の一般選抜のうち、数学を選ばずに受験できる大学は約半数もあった。 要は「数学不要」のデータサイエンス学部が出てくるようになったというお話で、各種SNSでは論議を呼んでいるようです。界隈によってはほとんど「嘲笑」に近い評が流布していることもあり、少なくともデータサイエンス業界におけるこのニュースの受け止められ方としてはかなり冷ややかだという印象があります。 とは言え、冗談でも何でもなく「全国津々浦々どこに行っても大学の新設データサイエンス学部の広告を見かける」*1というのが既に常態化している昨今では、これに類する話題は今後

Google DeepMindが、国際数学オリンピックレベルの複雑な幾何学問題を解決できるAI「AlphaGeometry」を発表しました。AlphaGeometryは、実際に国際数学オリンピックで出題された幾何学問題30問を制限時間以内に25問解いたとのことです。 Solving olympiad geometry without human demonstrations | Nature https://www.nature.com/articles/s41586-023-06747-5 AlphaGeometry: An Olympiad-level AI system for geometry - Google DeepMind https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-syst

移動平均（Moving Average）とは？　SMA／WMA／EMAの違い：AI・機械学習の用語辞典 用語「移動平均」について説明。時系列データ（例: 株価）を平滑化すること、具体的には一定期間（例：5日間）の平均値を計算することをデータポイントごとに繰り返し、計算後の一連の平均値を線でつなぐこと（移動平均線）。データの長期的な傾向や短期的な動きを把握するのに役立つ。 連載目次 用語解説 金融分野や数学／統計学／機械学習における移動平均（Moving Average）とは、時系列データ（例えば毎日の株価データ）の変動を平滑化（＝なだらかに）することで、データの傾向や動きを見やすくする方法である。 具体的には、計算対象となる1つのデータポイント（例：ある1日の株価）に対して「特定の期間分のデータポイント（例：過去5日間分の株価）の平均値」を計算する。そして、次のデータポイント（例：次の日）