パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Windowsの標準電卓で4の平方根が2でなかった仕様がようやく修正」記事へのコメント

  • by minet (45149) on 2018年04月06日 1時23分 (#3388870) 日記

    想像ですが、内部計算で(特に数学関数なんかの)、値を2乗するとか指数・対数で扱うとかがあって、64bit浮動小数点数のままだと計算途中で頻繁にオーバーフロー・アンダーフローしちゃうから、128bitで計算してるとかじゃないでしょうかね。

一つのことを行い、またそれをうまくやるプログラムを書け -- Malcolm Douglas McIlroy

処理中...