アカウント名:
パスワード:
Win7の電卓でも再現出来たし……？
XPの電卓でも再現しますが挙動が違うようです。XPの電卓：-8.1648465955514287168521180122928e-397の電卓：-1.068281969439142e-1910の電卓(？)：-1.068281969439142e-19
XPの方が精度高いんかな。計算結果から進数変換したいときとか7のでも大分イライラするからXP(XP Modeから回収)の電卓動かしたほうが便利なんじゃないかと思ってしまう。
ていうか#3389277 [srad.jp]のリンク先でも言及されてるような過桁落ちされると電卓としては困ったことになる気が。Excelの過桁落ちだって結構色々と批判されてるっていうのに(発生条件がゆるすぎるせいかもだが)……
Windows 7 で確認しましたが、ふつうの電卓モードと関数電卓モードでは精度が異なります。普通の電卓 -1.068281969439142e-19関数電卓 -8.1648465955514287168521180122928e-39プログラマは√を知らないようでボタンが押せません
プログラマが知らないのは、平方根ではなく、小数。
というか、あのモードは、プログラマというより、基数設定付き整数だよね。
Visual FortranについていたBitViewerは計算は出来ないけど浮動小数点数(IEEE754)も扱えて便利だった
でもそう思うのはプログラマの一部に過ぎないんだろうな……
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
物事のやり方は一つではない -- Perlな人
よくあるよくある (スコア:0)
Win7の電卓でも再現出来たし……？
Re: (スコア:0)
XPの電卓でも再現しますが挙動が違うようです。
XPの電卓：
-8.1648465955514287168521180122928e-39
7の電卓：
-1.068281969439142e-19
10の電卓(？)：
-1.068281969439142e-19
XPの方が精度高いんかな。
計算結果から進数変換したいときとか7のでも大分イライラするからXP(XP Modeから回収)の電卓動かしたほうが便利なんじゃないかと思ってしまう。
ていうか#3389277 [srad.jp]のリンク先でも言及されてるような過桁落ちされると電卓としては困ったことになる気が。
Excelの過桁落ちだって結構色々と批判されてるっていうのに(発生条件がゆるすぎるせいかもだが)……
Re:よくあるよくある (スコア:2)
Windows 7 で確認しましたが、ふつうの電卓モードと関数電卓モードでは精度が異なります。
普通の電卓 -1.068281969439142e-19
関数電卓 -8.1648465955514287168521180122928e-39
プログラマは√を知らないようでボタンが押せません
Re:よくあるよくある (スコア:3)
プログラマが知らないのは、平方根ではなく、小数。
というか、あのモードは、プログラマというより、基数設定付き整数だよね。
Re: (スコア:0)
Visual FortranについていたBitViewerは
計算は出来ないけど浮動小数点数(IEEE754)も扱えて便利だった
でもそう思うのはプログラマの一部に過ぎないんだろうな……