アカウント名:
パスワード:
「1.99999999999999999989317180305609」という数字全体の精度は(先頭の1を除けば)32桁なのに、9が連続している部分が18桁ぐらいしかないのがポイント。計算機アプリの内部数値表現は32桁精度なのに、ルートの計算だけは拡張倍精度浮動小数点数(80ビット、仮数部の精度が約19桁)で行われてると推測される。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日本発のオープンソースソフトウェアは42件 -- ある官僚
誤差の理由と思われるもの (スコア:2)
「1.99999999999999999989317180305609」という数字全体の精度は(先頭の1を除けば)32桁なのに、9が連続している部分が18桁ぐらいしかないのがポイント。
計算機アプリの内部数値表現は32桁精度なのに、ルートの計算だけは拡張倍精度浮動小数点数(80ビット、仮数部の精度が約19桁)で行われてると推測される。