締切済み

ＥＸＣＥＬの小数計算について

2000/06/10 13:08

ＥＸＣＥＬ９７で小数計算をすると誤差がでるのですが何故ですか？Ａ列に１４．６０を数値入力　Ｂ列に１３．９０を数値入力　Ｃ列に＝Ｂ１-Ａ１の数式をいれると－０．７０となるはずなのにどういうわけか－０．６９９９９９９９９９９９９９９と表示される。小数点以下１４桁目までは－０．７０００００００００００００と表示されるが１５桁目で上記のように表示される。表面上はＲＯＵＮＤ関数などで処理できるのですが複数の数式を組み合わせて計算している時は－０．６９９９９・・・の数値をもって計算される場合があり誤差がでる。消費税や金利計算などで１円でも誤差がでると表計算の正確さが問われてしまう。０．７の他にも　次の場合もでる０．２のとき０．１９９９・・０．３のとき０．２９９９・・・・０．８のとき０．７９９９・・・・これはＥＸＣＥＬのバグなのでしょうか？

hiro_cp
お礼率56% (17/30)

オフィス系ソフト
回答数2
ありがとう数5

みんなの回答 （2）
専門家の回答

みんなの回答

kbonb
ベストアンサー率51% (254/492)

2001/01/24 15:36 回答No.2

こんにちは　以下のページもご参考になるのでは？ Housaka's Home Page－エクセル奇譚 http://member.nifty.ne.jp/housaka/kitan01.html Housaka's Home Page－エクセル奇譚～誤差アラカルト～ http://member.nifty.ne.jp/housaka/kitan011.html [XL97] 浮動小数点数値演算の結果に含まれる丸め誤差について http://www.microsoft.com/japan/support/kb/articles/J042/5/26.htm [XL97] 数値を比較した結果が正しく返らないケースについて http://www.microsoft.com/japan/support/kb/articles/J042/5/24.htm [XL97] 特定の小数部を持つ数値を入力した場合に誤差を生じる http://www.microsoft.com/japan/support/kb/articles/J042/5/25.htm [XL] 浮動小数点の計算誤差と IEEE フォ-マット http://www.microsoft.com/japan/support/kb/articles/J013/9/67.htm ＲＯＵＮＤ関数の結果を正常にするには？ http://cgi.fuji.ne.jp/~fj2094/cgi-bin2/wwwlng.cgi?print+200009/00090045.txt 四捨五入するには http://cgi.fuji.ne.jp/~fj2094/cgi-bin1/wwwlng.cgi?print+200005/00050122.txt 入力規則が正しく判定されないんです http://cgi.fuji.ne.jp/~fj2094/cgi-bin1/wwwlng.cgi?print+200012/00120088.txt 計算結果がセルの表示と異なるのは？ http://www.moug.net/boards/exopr/questbbs.cgi?ShowTopic=./logfiles/200009/00090086.txt

参考URL：: http://www2.odn.ne.jp/excel/

ログインすると、全ての回答が全文表示されます。

shigatsu
ベストアンサー率26% (511/1924)

2000/06/10 15:20 回答No.1

これはＥＸＣＥＬに限らずパソコンで小数点の計算をするときには避けられない部分ですね。有効桁数を設定して計算するしかないでしょうね。小数点以下１５桁使うような計算は別の手段を使うべきだと思います。ＥＸＣＥＬのヘルプで「ワークシートとブックの仕様」というページを探してください。様々な制限事項が書かれています。

質問者

補足

ありがとうございました。ＥＸＣＥＬのヘルプで「ワークシートとブックの仕様」を見てみました。いろいろな情報がありヘルプにこんなにたくさんの項目があるとは知りませんでした。質問には小数点以下１５桁の表現をしましたが実際小数点以下１５桁使うような計算はしていません。 14.60-13.90=0.70は常に小数点以下３桁目を切り捨てるrounddown関数を使用していて0.69の表示がされたので計算違いが出ていると気が付いたのです。どうして0.70の表示にならなかったのか不思議に思い質問しました。パソコンで小数点の計算をするときには避けられない部分では仕方ないですね

ログインすると、全ての回答が全文表示されます。