アカウント名:
パスワード:
rxk14007 さんが既に紹介 [srad.jp]している Excel 開発者の David Gainer さんのブログ記事 [srad.jp]を読むと書いてあることですが、このバグの本質は乗算とは無関係です。
Excel の内部では数値を倍精度浮動小数点数 [wikipedia.org]で表します。このバグは、セルの計算結果が 65534.99999999995 より大きく 65535 より小さい数 (65535 よりも 1～6 ulp 小さい数) になると 100000 と表示され、 65535.99999999995 より大きく 65536 より小さい数 (65536 よりも 1～6 ulp 小さい数) になると 100001 と表示されるというものです。例えば、「=65535-1/137438953472」と書けばセルの内容が 65535 より 1
リンク先を間違えました。Excel 開発者の David Gainer さんのブログ記事はこちらです [msdn.com]。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
最初のバージョンは常に打ち捨てられる。
乗算は本質ではない (スコア:3, 参考になる)
rxk14007 さんが既に紹介 [srad.jp]している Excel 開発者の David Gainer さんのブログ記事 [srad.jp]を読むと書いてあることですが、このバグの本質は乗算とは無関係です。
Excel の内部では数値を倍精度浮動小数点数 [wikipedia.org]で表します。このバグは、セルの計算結果が 65534.99999999995 より大きく 65535 より小さい数 (65535 よりも 1～6 ulp 小さい数) になると 100000 と表示され、 65535.99999999995 より大きく 65536 より小さい数 (65536 よりも 1～6 ulp 小さい数) になると 100001 と表示されるというものです。例えば、「=65535-1/137438953472」と書けばセルの内容が 65535 より 1
Re:乗算は本質ではない (スコア:1)
リンク先を間違えました。Excel 開発者の David Gainer さんのブログ記事はこちらです [msdn.com]。