アカウント名:
パスワード:
アドホックに修正https://twitter.com/ockeghem/status/982136647251718148 [twitter.com]
それをアドホックというのはおかしい。そもそも整数と小数は分けて考えないといけない。十進数の0.04自体を二進数で正確にあらわせないし。
整数の平方根は無理数になるか整数になるかどちらかなので、今回のやつはそれを真面目に判定するようになっただけのこと。https://ja.wikipedia.org/wiki/%E5%B9%B3%E6%96%B9%E6%95%B0 [wikipedia.org]
√0.0625-0.25もダメなので、正直かなり精度が低いのは確か。PC Watch記事中の「32桁精度の浮動少数計算」って、まさか単精度実数のことじゃないよね？
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
普通のやつらの下を行け -- バッドノウハウ専門家
Re: どうやって修正したのだろう (スコア:0)
アドホックに修正
https://twitter.com/ockeghem/status/982136647251718148 [twitter.com]
Re: (スコア:0)
それをアドホックというのはおかしい。
そもそも整数と小数は分けて考えないといけない。
十進数の0.04自体を二進数で正確にあらわせないし。
整数の平方根は無理数になるか整数になるかどちらかなので、
今回のやつはそれを真面目に判定するようになっただけのこと。
https://ja.wikipedia.org/wiki/%E5%B9%B3%E6%96%B9%E6%95%B0 [wikipedia.org]
Re: どうやって修正したのだろう (スコア:0)
√0.0625-0.25もダメなので、正直かなり精度が低いのは確か。
PC Watch記事中の「32桁精度の浮動少数計算」って、まさか単精度実数のことじゃないよね？