アカウント名:
パスワード:
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日々是ハック也 -- あるハードコアバイナリアン
正直 (スコア:0)
手に入ったとしても
科学技術計算に関わっているならともかく
宝の持ち腐れにしかならない気が
Re:正直 (スコア:0)
お金に係わる分野で使うと思うんですけれども
実際はどうなんでしょう？
Re:正直 (スコア:2, 参考になる)
計算結果に無視できない違いが出る場合があって, そういう用途では
これまで整数演算を組み合わせた10進計算ライブラリを使っている.
JAVAでも昔から標準で用意されているような一般的な機能です.
これをハードウェアで実行する機能が標準で用意されたというわけです.
10進有限桁で数えることが本質的な分野(金融くらいしかおもいつかないけど)でのみ
有用な機能であって, いわゆる自然科学計算用途で使われることはないでしょう.
Re:正直 (スコア:1, 参考になる)
http://www.rubyist.net/~matz/20060502.html [rubyist.net]
こんなのとか（2つめの例はソフトウェア書いた人がアレなだけだけど）。
# 稀なケースには違いないだろうけど。
Re:正直 (スコア:1, 参考になる)
単精度しか計算できない現状のGPUでは学術計算に使えない、なんて話は
最近hotな話題だし.
ここでの話は単なる丸め誤差云々じゃなくて, 10進表記と2進表記の違いなんですよ.
10進数ていうのは人間の都合で決めたもんですから, 10進表記による小数が
必要となるのは10進での計算が求められる、人間活動に関わる分野の計算で
必要なだけよ、ということ.
たとえば2進の浮動小数点表記では0.1がexactryに表現できないが, それでは
年率10%の複利計算するのに困るでしょ, という話.
自然科学では0.1なんて数字に意味は無くて, 0.1 - eps < x < 0.1 + eps の
epsが求められる精度より小さければよいわけです.
あと勘違いしている人もいるようですが, 10進小数だから計算誤差がなくなるわけではなくて,
10進でも 1/7 なんかは厳密に表現できないですよ, 当り前ですが.