アカウント名:
パスワード:
数十桁もない数字の変数に一度に数百万バイトもメモリ割り当てても余る時代に、浮動小数点の誤差の問題とか、なんで発生してるんだ?
なんでこう基本的な部分を誰も正確に作らないんだろうね
浮動小数点で計算すべきでないものを計算したから誤差が出ただけ。浮動小数点は元々、有効数字の範囲で誤差を許容した計算しかできない。
誤差を許容できない計算をするなら、それ向きの型を使って計算してください。そういう型も色々な言語でサポートされてます。
自分で型も指定せずに試しておいてなんだけど。
誤差を許容できない計算をするなら、それ向きの型を使って計算してください。
それが正解ですね。有効桁数を指定せずにただ実測値や表示される値をぶちこんで計算させてるレポートとか見ると毎回それを思ってしまう。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日々是ハック也 -- あるハードコアバイナリアン
今の時代にまだやってんのかよ (スコア:0)
数十桁もない数字の変数に一度に数百万バイトもメモリ割り当てても余る時代に、
浮動小数点の誤差の問題とか、なんで発生してるんだ?
なんでこう基本的な部分を誰も正確に作らないんだろうね
Re: (スコア:0)
浮動小数点で計算すべきでないものを計算したから誤差が出ただけ。
浮動小数点は元々、有効数字の範囲で誤差を許容した計算しかできない。
誤差を許容できない計算をするなら、それ向きの型を使って計算してください。
そういう型も色々な言語でサポートされてます。
Re:今の時代にまだやってんのかよ (スコア:1)
自分で型も指定せずに試しておいてなんだけど。
誤差を許容できない計算をするなら、それ向きの型を使って計算してください。
それが正解ですね。
有効桁数を指定せずにただ実測値や表示される値をぶちこんで計算させてるレポートとか見ると毎回それを思ってしまう。