パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

0.01を10000回足したら100.003になる」記事へのコメント

  • 数十桁もない数字の変数に一度に数百万バイトもメモリ割り当てても余る時代に、
    浮動小数点の誤差の問題とか、なんで発生してるんだ?

    なんでこう基本的な部分を誰も正確に作らないんだろうね

    • by Anonymous Coward

      浮動小数点で計算すべきでないものを計算したから誤差が出ただけ。
      浮動小数点は元々、有効数字の範囲で誤差を許容した計算しかできない。

      誤差を許容できない計算をするなら、それ向きの型を使って計算してください。
      そういう型も色々な言語でサポートされてます。

      • 自分で型も指定せずに試しておいてなんだけど。

        誤差を許容できない計算をするなら、それ向きの型を使って計算してください。

        それが正解ですね。
        有効桁数を指定せずにただ実測値や表示される値をぶちこんで計算させてるレポートとか見ると毎回それを思ってしまう。

        親コメント

日々是ハック也 -- あるハードコアバイナリアン

処理中...