「Windowsの標準電卓で4の平方根が2でなかった仕様、変更される」記事へのコメント

.NET Frameworkだと誤差は出ない

[Anonymous Coward]

.NET Frameworkにはそもそも単精度実数向けのSqrt()関数がないっぽいので、そのためかもしれない。
電卓も倍精度で計算するように直せばいいのでは。

PS> ([math]::sqrt(4)-2).tostring("e20")
0.00000000000000000000e+000
PS> ([math]::sqrt(0.04)-0.2).tostring("e20")
0.00000000000000000000e+000

0.1は想定通り誤差が出る。

PS> (0.1).tostring("e20")
1.00000000000000010000e-001

Re:

[Anonymous Coward]

電卓の主な利用はお金の計算で、10進数での正確な端数処理が求められます。普通は2進小数は使いません。

Re:.NET Frameworkだと誤差は出ない

[Anonymous Coward]

普通はお金の計算で平方根がでてくるの？

平方根くらいならともかく
10進小数で超越関数のアルゴリズム組むくらいなら
2進小数に一度変換するのが「普通」の考え方だと思う

Re:

[Anonymous Coward]

いえ、少なくとも電卓や計算科学では「普通」じゃないです。

Re:

[Anonymous Coward]

四則演算や平方根じゃなく超越関数ですよ？
三角関数や対数・指数関数を10進小数のまま計算する普通の例を見せてください

Re:

[Anonymous Coward]

電卓の場合はCORDICアルゴリズムを使うことが多いです。
これはテーブルと四則演算だけで三角関数や対数・指数関数を求められるアルゴリズムですね。
CORDICはbinaryだとビットシフトで除算を代用できるのですが、
電卓では速度より精度を重視してBCDで計算するのが一般的です。
https://en.wikipedia.org/wiki/CORDIC [wikipedia.org]

他の例で、ソフトウェアなんかだと例えばbcは10進で演算してますね。
あとはMaximaも10進で演算しているはずです。

高速化の為にbinary化して演算しているマシンやアルゴリズムはあると思いますが、
精度が求められる関数電卓や数値計算でbinray化するのが当然、普通とまでは言えないと思います。

Re:

[Anonymous Coward]

一点だけ
＞bcは10進で演算してますね。
dcとして起動したときでは?
bcとして起動すると基本二進

Re:

[Anonymous Coward]

私も一点だけ

ユーザが意識することはないですがMaximaのBigfloatも内部では2進で表現されていますよ

?print(1b0);
とかすると分かります

Re:

[Anonymous Coward]

GNU版bcをイメージしていました。
GNU版bcは10進とマニュアルにも書いてあります。
https://www.gnu.org/software/bc/manual/html_mono/bc.html#SEC5 [gnu.org]

不勉強ですいませんが、decimalかbinaryかは実装によって違うのでしょうか？
もしそうだとしたら例としては良くなかったですね。。。

Re:

[Anonymous Coward]

だがしかしエクセルで会計事務を…