この辺の計算誤差の話は… (#1418747) | 10進演算で出たネタをまとめてみた | スラド

この議論は賞味期限が切れたので、アーカイブ化されています。新たにコメントを付けることはできません。

「10進演算で出たネタをまとめてみた」記事へのコメント

記事ページを表示すべてのコメント取得

検索6コメント Log In/Create an Account

この辺の計算誤差の話は… (スコア:2, 参考になる)

by okky (2487) on 2008年09月10日 15時47分 (#1418747) ホームページ日記

結構厄介で、特に print の際に丸めが入るケースと、計算時に生じる誤差(2進数計算なのか10進数計算なのか)と絡むと、正しく理解している人はほとんどいません。

まとめてもらって助かります。

# 論文とかでかなりあるんですよ。2進数で計算して誤差が出ているのに、
# printf()が四捨五入する際の誤差と合わせると、「誤差が多い計算法」
# の方が「たまたま精度が高くなる」のを、安定した低誤差法と間違えているケースが。
# 査読などをやっていると、こういう間違いを指摘し、正すのが大変で…

--
fjの教祖様

より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。

最初のバージョンは常に打ち捨てられる。