アカウント名:
パスワード:
結局、√2 = 1.414213562373095√2-1.414213562373095 = 4.874553737925735e-17ってなって解決していない気が。
それは別にいいんじゃね？無理数なんだから。むしろその引き算をやることで、本来表示されなかった下位桁を表示できたわけで、1.41421356237309504874553737925735という結果がえられたと。（計算精度がどこまであるかはギモンだが、別の電卓でも…0487までは一致した）
モンダイは本来厳密に整数なはずの答えが小数になったり（√４）本来厳密に有理数なはずの√0.04とかがそうならなかったりすることでしょ？
2.0だって小数ですし…あと実数って言葉を使おうぜ?
2だって実数ですし…
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー
表示上の精度と内部精度が一致してないことが問題なんだから (スコア:0)
結局、
√2 = 1.414213562373095
√2-1.414213562373095 = 4.874553737925735e-17
ってなって解決していない気が。
Re: (スコア:0)
それは別にいいんじゃね？無理数なんだから。
むしろその引き算をやることで、本来表示されなかった下位桁を表示できたわけで、
1.41421356237309504874553737925735
という結果がえられたと。
（計算精度がどこまであるかはギモンだが、別の電卓でも
…0487
までは一致した）
モンダイは本来厳密に整数なはずの答えが小数になったり（√４）
本来厳密に有理数なはずの√0.04とかがそうならなかったりすることでしょ？
Re: (スコア:0)
2.0だって小数ですし…あと実数って言葉を使おうぜ?
Re:表示上の精度と内部精度が一致してないことが問題なんだから (スコア:0)
2だって実数ですし…