パスワードを忘れた? アカウント作成
15709421 journal
日記

yuuka_maniaの日記: 固定小数点数 4

日記 by yuuka_mania

浮動小数店じゃなくて、固定小数点ってのがあるのか。初めて知った。

数値を表すビット列のうち、何ビット目までが整数部で、何ビット目からが小数部かがあらかじめ固定・指定されているような形式のこと

固定小数点数は浮動小数点数に比べ表現できる値の範囲が狭く、計算の精度が低いが、高速に計算できるという特徴がある。汎用的な演算処理などでは浮動小数点数を用いるのが普通だが、限られた用途では計算の高速化のために用いられることがある。

ref.
https://e-words.jp/w/%E5%9B%BA%E5%AE%9A%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0.html

  • 固定小数点数での小数点位置はビット単位とはかぎらないですね。
    「100倍の数値を保持する(1.23を整数123で表す)」みたいな、二進数ではビット単位で小数点位置が定まらない固定小数点数表現方式もあります。

    2進固定小数点は四則演算が整数ベースで高速にできるのがメリットなのに対し、
    10進固定小数点は乗除がちょっと重くなるものの、10進数できりがよい小数値の計算で浮動小数点数のような誤差が出ないないのがメリット。

    (丸め誤差が許されない)会計処理でよく使われるから、VBの固定小数点数型(10000倍保持)はCurrency(通貨型)って名前だったり。

    ここに返信
  • by Anonymous Coward on 2022年06月23日 14時25分 (#4275357)

    屋台かな

    ここに返信
    • by Anonymous Coward

      昔はたくさんあったんだけどね

  • by Anonymous Coward on 2022年06月23日 14時28分 (#4275359)

    今となってはCPUにおけるソースがべらぼうに増えたので浮動小数点型が使われるけど、
    昔だと浮動小数点計算ユニットがFPUとしてCPUと分離されていたので固定小数点型の方が普通だったのです。
    今でもリソースが限られたりする場合は固定小数点型が使われていると思う。

    ここに返信
typodupeerror

UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア

読み込み中...