miyuriの日記: 怖導掌枢典閻斬 2
日記 by
miyuri
異なる処理系で同一の計算結果を得るのは、中々に難しい。
丸めモードと精度を合わせてFP_CONTRACTをOFFにしても、なお3ビット違っていたり。
実用上は問題無いけど、何か気持ち悪い。
異なる処理系で同一の計算結果を得るのは、中々に難しい。
丸めモードと精度を合わせてFP_CONTRACTをOFFにしても、なお3ビット違っていたり。
実用上は問題無いけど、何か気持ち悪い。
ソースを見ろ -- ある4桁UID
ふどうしょうすうてんえんざん (スコア:0)
中国語か中国拳法の名前かと思った。
情報処理技術者試験 高度試験 午前Iに出る浮動小数点もワケワカメ。
Re:ふどうしょうすうてんえんざん (スコア:2)
演算誤差の正体―― IEEE 754 浮動小数点数の仕組み [nikkeibp.co.jp]
コンピュータアーキテクチャの話: IEEE 754規格と浮動小数点演算 [mynavi.jp]
この辺の図を眺めてみるとか。