アカウント名:
パスワード:
固定小数点数での小数点位置はビット単位とはかぎらないですね。「100倍の数値を保持する(1.23を整数123で表す)」みたいな、二進数ではビット単位で小数点位置が定まらない固定小数点数表現方式もあります。
2進固定小数点は四則演算が整数ベースで高速にできるのがメリットなのに対し、10進固定小数点は乗除がちょっと重くなるものの、10進数できりがよい小数値の計算で浮動小数点数のような誤差が出ないないのがメリット。
(丸め誤差が許されない)会計処理でよく使われるから、VBの固定小数点数型(10000倍保持)はCurrency(通貨型)って名前だったり。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
192.168.0.1は、私が使っている IPアドレスですので勝手に使わないでください --- ある通りすがり
小数点位置が2進数できりがよいとはかぎらない (スコア:1)
固定小数点数での小数点位置はビット単位とはかぎらないですね。
「100倍の数値を保持する(1.23を整数123で表す)」みたいな、二進数ではビット単位で小数点位置が定まらない固定小数点数表現方式もあります。
2進固定小数点は四則演算が整数ベースで高速にできるのがメリットなのに対し、
10進固定小数点は乗除がちょっと重くなるものの、10進数できりがよい小数値の計算で浮動小数点数のような誤差が出ないないのがメリット。
(丸め誤差が許されない)会計処理でよく使われるから、VBの固定小数点数型(10000倍保持)はCurrency(通貨型)って名前だったり。