浮動小数点演算ではまった話 浮動小数点演算のありがちな問題ではまりました。 いろいろ調べているうちに x86 特有のちょっとおもしろい 現象に遭遇したので紹介したいと思います。 パーセンテージの計算 簡単な C のプログラムでパーセンテージを計算しようと思い、 次のようなコードを書きました。 int x, y; ... int a = (double)x / y * 100; int a = x * 100 / y としないのは、 x が大きい場合に x * 100 が オーバーフローを起こす (INT_MAX を越える) ためです。 このコードは一見、期待通りに動いていたのですが、 しばらく使っていると、手元の環境では x = 53, y = 100 のときに a は 53 ではなく 52 になることに気づきました。 これは次の理由によります。 式の最初の (double)53 / 10
タグ
- すべて
- -何かコメントした (28)
- -何か書いた (59)
- -何か書くかも (7)
- -物欲 (76)
- .NET (27)
- 2ch (277)
- 3D (44)
- AA (9)
- ACT (7)
- AI (112)
- API (90)
- AR (21)
- ATOK (7)
- Adobe (10)
- Advent_Calendar (12)
- Ajax (11)
- Amazon (51)
- America (170)
- Android (125)
- Angular (8)
- Angular_2 (7)
- Apache (10)
- Apple (53)
- April_fool (40)
- Australia (11)
- Baidu (11)
- Barack_Obama (7)
- Bing (9)
- Boost (32)
- Buddhism (14)
- C (105)
- C# (25)
- C++ (286)
- C++_11 (14)
- CD (14)
- CEDEC (7)
- CG (21)
- CLI (29)
- CMD (19)
- CODE_GEASS (8)
- COM (7)
- COVID-19 (30)
- CPU (7)
- CSS (209)
- CSS_3 (14)
- CSV (7)
- CUI (85)
- Canada (8)
- China (105)
- Chrome (32)
- Comic_Market (10)
- Cyber_Connect_2 (8)
- Cygwin (9)
- DOM (19)
- DRAGON_QUEST (25)
- DRM (12)
- DTM (14)
- DVD (15)
- DirectX (13)
- ECMAScript (18)
- Egypt (8)
- Emacs (7)
- England (31)
- English (116)
- Europe (11)
- Evangelion (7)
- Evernote (23)
- FINAL_FANTASY (14)
- Facebook (72)
- Family_Computer (10)
- Fedora (15)
- Firefox (309)
- Firefox_4 (7)
- Flash (72)
- France (18)
- Fukuoka (126)
- Fukushima (7)
- Germany (9)
- Git (94)
- GitHub (76)
- Gmail (29)
- Google (269)
- Google+ (25)
- Google_Apps_Script (7)
- Google_Assistant (7)
- Google_Glass (7)
- Google_Home (8)
- Google_Maps (9)
- Gradle (7)
- Greasemonkey (57)
- HTML (174)
- HTML_5 (53)
- HTTP (23)
- Haskell (7)
- Heroku (9)
- Hokkaido (10)
- IDE (22)
- IDOLM@STER (64)
- IME (43)
- IP (11)
- IT (101)
- Internet_Explorer (45)
- IoT (16)
- Italy (7)
- JASRAC (14)
- JSON (23)
- JScript (7)
- JUnit (7)
- Japan (410)
- Japanese (76)
- Java (84)
- JavaScript (398)
- KAITO (26)
- Korea (56)
- Kyoto (12)
- LAN (12)
- LEGO (9)
- LINE (14)
- Linux (145)
- Lisp (15)
- MAD (213)
- MEIKO (26)
- MOTHER (13)
- MOTHER_2 (12)
- MS_Office (15)
- Mac (12)
- Mario_Bros (27)
- Markdown (9)
- Mastodon (17)
- Meine_Meinung (19)
- Microsoft (123)
- Mozilla (52)
- MySQL (13)
- NEC (8)
- NHK (59)
- NTT (12)
- Nintendo_DS (10)
- Nintendo_DSi (7)
- Nintendo_Switch (8)
- Node.js (15)
- North_Korea (12)
- Notion (8)
- OAuth (13)
- OS (75)
- OSTER_project (8)
- OpenAI (10)
- OpenGL (7)
- OpenOffice.org (12)
- Opera (14)
- Oracle (11)
- Osaka (9)
- P2P (14)
- PC (117)
- PDF (9)
- PHP (43)
- PRISM (10)
- Panasonic (7)
- Perl (41)
- Pixiv (7)
- PlayStation (17)
- PlayStation3 (20)
- Pocket_Monster (13)
- Pokemon_GO (7)
- PowerShell (26)
- Python (15)
- RFC (13)
- RPG (16)
- RSS (18)
- Ruby (72)
- Russia (33)
- Rust (8)
- SF (31)
- SHARP (8)
- SNS (62)
- SONY (25)
- SQL (14)
- SSH (8)
- SSL (19)
- STG (34)
- STL (15)
- SVG (10)
- Safari (9)
- Seesaa (15)
- Skype (20)
- Softbank (10)
- Spain (9)
- Spotify (10)
- Super_Mario_World (15)
- TBS (10)
- TOKYO_GAME_SHOW (8)
- TV (133)
- Taiwan (18)
- Tokyo (33)
- Tumblr (29)
- Twitter (453)
- UI (194)
- UNIX (19)
- USB (20)
- UX (12)
- Ubuntu (23)
- Ukraine (13)
- Unicode (15)
- Unity (9)
- VBScript (9)
- VCS (73)
- VR (14)
- Vim (194)
- Vimperator (71)
- Visual_Basic (10)
- Visual_C++ (35)
- Visual_Studio (20)
- W3C (17)
- Wi-Fi (15)
- Wii (31)
- Wii_U (10)
- Wikipedia (16)
- Windows (298)
- Windows_10 (26)
- Windows_7 (8)
- Windows_8 (21)
- Windows_Script_Host (14)
- Windows_Vista (8)
- Windows_XP (13)
- XHTML (27)
- XML (26)
- XUL (10)
- Yahoo! (18)
- Yahoo!_JAPAN (10)
- YouTube (66)
- accessibility (43)
- ad (133)
- affiliate (10)
- alcoholic_drink (9)
- algorithm (43)
- analytics (43)
- animal (379)
- anime (262)
- art (87)
- au (17)
- auction (12)
- bank (17)
- baseball (11)
- bash (41)
- bike (8)
- bird (32)
- blog (101)
- board_game (12)
- book (192)
- bookmark (92)
- bookmarklet (22)
- browser (222)
- bug (12)
- building (14)
- business (842)
- buying_and_selling (28)
- camera (21)
- car (68)
- cat (136)
- censorship (71)
- character (148)
- character_code (47)
- child (56)
- chiptune (12)
- clock (10)
- clothing (83)
- color (22)
- communication (261)
- computer (14)
- comunication (8)
- convert (9)
- cook (27)
- cool (99)
- copyright (147)
- cosMo (8)
- crime (160)
- culture (159)
- customize (42)
- cute (286)
- data (17)
- database (42)
- design (442)
- desing (8)
- development (821)
- dictionary_and_encyclopedia (28)
- disaster (62)
- display (8)
- docomo (30)
- dog (59)
- drink (19)
- earthquake (29)
- ebook (23)
- economy (61)
- education (134)
- ekot企画 (13)
- electric_appliance (11)
- electricity (23)
- email (60)
- energy (9)
- event (211)
- extension (267)
- family (71)
- fantasy (33)
- fashion (19)
- feed (16)
- figure (9)
- fish (14)
- font (80)
- food (235)
- furniture (41)
- future (102)
- gadget (122)
- game (1067)
- geek (14)
- gender (60)
- generator (21)
- graph (8)
- hack (90)
- hacker (13)
- hamachiya2 (10)
- hard_disk (11)
- hardware (171)
- health (136)
- history (181)
- human (50)
- iOS (9)
- iPhone (41)
- idea (219)
- image (477)
- indies (26)
- information (131)
- insect (18)
- instrument (11)
- interface (106)
- international (188)
- jQuery (29)
- jazz (9)
- keyboard (27)
- language (280)
- law (291)
- library (104)
- license (40)
- life (614)
- literacy (46)
- local (33)
- love (125)
- mail (17)
- manga (252)
- map (36)
- material (74)
- math (60)
- maybowjing (9)
- media (22)
- medical (76)
- military (17)
- mixi (10)
- mobile (301)
- money (201)
- mouse (10)
- movie (47)
- music (822)
- mystery (29)
- nature (88)
- network (145)
- news_media (128)
- novel (35)
- n個のxx (18)
- office_suite (23)
- open_source (87)
- patent (15)
- philosophy (12)
- phone (211)
- phote (9)
- piano (17)
- plane (10)
- plant (20)
- police (41)
- politics (349)
- presentation (9)
- printer (8)
- privacy (119)
- programmer (267)
- programming (1573)
- psychology (159)
- publish (11)
- puzzle (10)
- radio (22)
- reference (97)
- regexp (25)
- religion (59)
- robot (57)
- school (29)
- science (119)
- search (143)
- security (431)
- server (9)
- service (77)
- sexual (108)
- sh (27)
- ship (10)
- smart_speaker (8)
- smooooch・∀・ (8)
- social (49)
- social_game (19)
- society (374)
- softbank_mobile (25)
- software (18)
- sound (48)
- space (56)
- spam (11)
- sports (42)
- standard (164)
- stationery (25)
- storage (17)
- strage (11)
- study (234)
- technique (146)
- technology (191)
- test (63)
- time (8)
- tips (635)
- tool (1026)
- toy (55)
- train (26)
- translation (31)
- travel (9)
- tutorial (23)
- vegetable (8)
- video (1441)
- vocaloid (328)
- war (45)
- weapon (45)
- weather (20)
- web (1613)
- word (90)
- work (255)
- writing (73)
- zsh (20)
- あとで読む (350)
- おもしろ (193)
- けいおん! (11)
- けものフレンズ (16)
- これはすごい (324)
- これはひどい (355)
- これはエロい (32)
- とりあえずブクマ (275)
- はてな (177)
- はてなスター (10)
- はてなブックマーク (11)
- ひぐらしのなく頃に (11)
- ひろゆき (18)
- まとめ (146)
- らき☆すた (17)
- オタク (39)
- シュール (10)
- ゼルダの伝説 (19)
- ゼルダの伝説_Tears_of_the_ (10)
- ニコニコ動画 (102)
- ネタ (1229)
- ネタとしか思えない (362)
- フジグループ (8)
- 任天堂 (54)
- 共産党 (9)
- 初音ミク (270)
- 同人 (23)
- 和み (225)
- 孫正義 (11)
- 安倍晋三 (8)
- 尖閣諸島 (10)
- 巡音ルカ (20)
- 年賀状 (8)
- 怖 (105)
- 擬人化 (11)
- 日本テレビ (9)
- 星のカービィ (10)
- 朝日 (29)
- 期待 (18)
- 東方Project (137)
- 東日本大震災 (54)
- 楽天 (11)
- 民主党 (52)
- 気になる (135)
- 泣 (38)
- 涼宮ハルヒの憂鬱 (8)
- 産経 (13)
- 疑問 (330)
- 笑 (474)
- 総務省 (13)
- 考察 (273)
- 自由民主党 (10)
- 自衛隊 (12)
- 興味深い (562)
- 艦隊これくしょん (76)
- 萌え (113)
- 遠隔操作ウイルス事件 (12)
- 鏡音リン・レン (66)
- 電波 (33)
- 馬鹿 (117)
- 驚 (251)
- 魔法少女まどか☆マギ (12)
- 鳩山由紀夫 (8)
- web (1613)
- programming (1573)
- video (1441)
- ネタ (1229)
- game (1067)
- tool (1026)
- business (842)
- music (822)
- development (821)
- tips (635)
mathとCPUに関するAmaiSaetaのブックマーク (1)
-
AmaiSaeta 2007/03/03
『パーセンテージの計算』は知っていたが、『変数にいったん入れると結果が変わる問題』は知らんかった。- programming
- CPU
- math
- x86
リンク -
1
公式Twitter
- @HatenaBookmark
リリース、障害情報などのサービスのお知らせ
- @hatebu
最新の人気エントリーの配信
処理を実行中です
キーボードショートカット一覧
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
設定を変更しましたx