パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Windowsの標準電卓で4の平方根が2でなかった仕様がようやく修正」記事へのコメント

  • by manmos (29892) on 2018年04月06日 10時35分 (#3389021) 日記

    昔sqrt(36)が6にならなかったバグ(仕様)があります。
    これはsqrt(x)をexp(log(x)/2)(32bit float)でやっていたためと思われます。

    sqrtくらいニュートン法でやればいいのに、わざわざ精度の悪い(収束の遅い)方法を取るのはまあ、コードを小さくしたかったのだろうと。

    まあ、伝統かな。(と流行り言葉を出してみる。)

日本発のオープンソースソフトウェアは42件 -- ある官僚

処理中...