(※ 2014 年 10 月 28 日に Microsoft Japan Visual Studio Support Team Blog に公開した情報のアーカイブです。) (※ 参照先ドキュメントの変更や廃止に伴い、リンク先を差し替えています。) こんにちは。Visual Studio サポート チームです。 今回は、Visual Studio でアプリケーションを開発する時にデータ型として使用できる浮動小数点数についてのお話です。 本記事の内容は Visual C++、Visual C#、Visual Basic を対象としております。 浮動小数点数を使用する際の注意点浮動小数点数はプログラムで小数を扱うために広く利用されていますが、少し癖のあるデータ型でもあるため、その特性をよく理解して利用しないと、思わぬ落とし穴に遭遇してしまうこともあります。 浮動小数点の特性として、注意した方が
数学に関するmedapanのブックマーク (8)
-
medapan 2024/02/26
-
-
LibreOffice Math 数式コマンド一覧表
LibreOffice Math 数式コマンド一覧表 2015.05.14 版 1. 単項および二項演算子 コマンド名 (英語) コマンド名 コマンドと記述例 表示例 + sign 正記号 +1 +1 - sign 負記号 -1 −1 +/- sign プラスマイナス +-1 または plusminus 1 ±1 -/+ sign マイナスプラス -+1 または minusplus 1 ∓1 Addition 加算 a + b a+b Subtraction 減算 a - b a−b Dot product 乗算, ドット積, 内積 a cdot b a⋅ b Multiplication 乗算, クロス積, 外積 a times b a×b Multiplication 乗算 a * b a∗b Division (as a traction) 除算, 分数 a over b a b D
-
gnuplotで多変数関数のフィットをするには？ - gnuplotのフィッティング機能についての質問です．次のデータ列が... - Yahoo!知恵袋
gnuplotで多変数関数のフィットをするには？ gnuplotのフィッティング機能についての質問です． 次のデータ列がdata.rtfというファイルに入っているとします． 0.1 0.4 0.5 0.3 0.2 0.5 0.1 1.1 1.2 f(x,y)=a*x+b*y と定義し， fit f(x,y) "data.rtf" using 1:2:3 via a,b でフィッティングを行ってみました． a=1, b=1という答えが得られなければおかしいと思うですが，フィッティングしても正しい結果が得られません． フィッティングをしてもbの値が初期値から変わっていないようです． 何がまずいのでしょうか？ ありがとうございます． 関数の値に対応する列だったら３列目ではないでしょうか？1:2:3:3としてもうまくいきました． あと，引数をx,yではない他の文字（例えばp,q）にすると「変数が定
-
数学授業
授業記録 ここには現在および過去の茨城大学理学部における授業 （の一部）についての記録が収められています。 群論（２００９年後期） ベクトル解析（２００９年前期） 群論演習（２００８年後期） 測度と確率（２００７年前期） 実数論（２００６年前期） 集合入門（２００５年前期） 群論入門（２００３年前期） 微積分学I（２００３年前期） フーリエ解析（２００２年後期） 行列代数（２００２年前期） 複素解析学 II（２００１年後期） 集合論入門（２００１年前期） 微分方程式 Ｉ（２０００年前期） 関数解析 I、II（２０００年前期・後期） 解析学通論 II（２０００年後期） 作用素解析学特講（２０００年後期） 解析学 II （１９９９年後期） 講義ノート 授業のために用意したノートです。 学生の自習用に公開するもので、詳しい目の本と併用するとよいでしょう。 微積分 関数解析 常微分方程式 カタラン
-
電卓でわかる有限要素法、有限要素解析入門、FEA
■剛性マトリックスの誘導 ・トラス要素の誘導 ・三角形平面要素の誘導 ・アイソパラメトリック４角形４節点平面要素の誘導 ・アイソパラメトリック４角形８節点平面要素の誘導 （準備中） ・アイソパラメトリック８節点６面体要素の誘導・・New ■熱伝導要素の誘導 ・１次元熱伝導要素の誘導とフィンの熱伝導問題 ・重み付き残差法とガラーキン法
-
統計学
統計学 Last modified: Feb 16, 2004 ★ データ処理サービス ★ 統計学を自習する人のために ★ 統計学に関するリンク ★ 統計学関連…何でも掲示板 データ処理サービス データ解析 コンピュータ上のデータをアップロードして，統計解析し，結果をダウンロードできる。 ヒストグラム，散布図，基礎統計量，相関係数行列，クロス集計，一元配置分散分析，重回帰分析，判別分析，主成分分析，因子分析，クラスター分析，数量化 I 類，数量化 II 類，数量化 III 類，数量化 IV 類 正確確率検定 Fisher's exact test, Mann-Whitney's U test, Kruskal-Walis test, Test of goodness of fitness, Measures of association 統計地図の描画 統計データに基づき，全国（都
-
-
1
公式Twitter
- @HatenaBookmark
リリース、障害情報などのサービスのお知らせ
- @hatebu
最新の人気エントリーの配信
キーボードショートカット一覧
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Copyright © 2005-2025 Hatena. All Rights Reserved.
設定を変更しました