アカウント名:
パスワード:
ε 1+ε (1+ε)-14.30E-15 1.00E+00 4.22E-154.20E-15 1.00E+00 4.22E-154.10E-15 1.00E+00 4.00E-154.00E-15 1.00E+00 4.00E-153.90E-15 1.00E+00 4.00E-153.80E-15 1.00E+00 3.77E-153.70E-15 1.00E+00 3.77E-153.60E-15 1.00E+00 0.00E+003.50E-15 1.00E+00 0.00E+003.40E-15 1.00E+00 0.00E+00
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
ショッキングというか (スコア:2, 興味深い)
以前よく取りざたされた演算誤差(本家記事 [microsoft.com]、分析記事 [mie-u.ac.jp]、対策紹介 [nikkeibp.co.jp])なんかはどうなったんだろ?
# calc.exeの拡
おれが調べてやるよ (スコア:4, 興味深い)
まずは奥村先生の表 [mie-u.ac.jp]を再現するとこから。 0に落ちるのが早すぎる。
3.77E-15 ≒ 2-48+2-52
4.00E-15 ≒ 2-48+2-52+2-52
4.22E-15 ≒ 2-48+2-52+2-52+2-52
精度は少なくとも2-52まであるが、計算結果が2-48以下になったあたりで意に反して0に修正されている。
括弧で囲んだり、1を掛けたりしても結果は変わらず。
つまり、演算の途中で閾値を割り込むと強制的に0に修正される?
結論
表計算ソフトはやっぱりよく分からん理屈で動いてる
あと、数値計算には使うな
Re:おれが調べてやるよ (スコア:3, 興味深い)
ちなみにUbuntu 7.04/i386, OOo 2.2です。
Re:おれが調べてやるよ (スコア:2, おもしろおかしい)
つまりExcelは仕様書作成ツールであると!
#やーめーてー
これでまた (スコア:0)
Re:これでまた (スコア:1, おもしろおかしい)
Re:これでまた (スコア:0)