アカウント名:
パスワード:
単精度,いわゆる float のことを言ってるんだろうけどfloatはデータサイズが32bits(つまり2進数で32桁)なだけで32桁精度ではありません.
英文を誤訳してると思います.
結局のところは浮動小数の精度がどんなに上がっても解決しない問題かもしれません
計算速度低下は止むを得ないですが新たな選択肢として固定小数decimal(numeric)で計算できる様に成って欲しいものです
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds
「32桁精度の浮動小数点演算」は誤訳 (スコア:0)
単精度,いわゆる float のことを言ってるんだろうけど
floatはデータサイズが32bits(つまり2進数で32桁)なだけで
32桁精度ではありません.
英文を誤訳してると思います.
浮動をやめよう (スコア:0)
結局のところは浮動小数の精度がどんなに上がっても解決しない問題かもしれません
計算速度低下は止むを得ないですが
新たな選択肢として固定小数decimal(numeric)で計算できる様に成って欲しいものです