パスワードを忘れた? アカウント作成
404916 journal
Linux

cyber205の日記: 指数と仮数の関係

日記 by cyber205

今日も試験前の追い込みで勉強してるいつものパターンなんですが、
意外と見落としてる概念とか、あるもんなのですねぇ。

浮動小数点表記に出てくる[指数部][仮数部]という書き方、
これまではちゃんと理解してなかったのですが、何のことはない、
これは数字を1つ、2つと数えているのではなく、
対数の概念を基本にして広い範囲の数値を表現していたのだとか。

logとかdBよりむこうの世界がどうしても理解しきれなかった私には、
これまで固定小数点演算の世界を見るところしか理解できてなかったのですが、
# bashのスクリプトで計算するだけならそれで十分なのだ。
また新しい世界の入り口を覗き込むぐらいはできるようになったかも。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
typodupeerror

人生の大半の問題はスルー力で解決する -- スルー力研究専門家

読み込み中...