アカウント名:
パスワード:
結局、√2 = 1.414213562373095√2-1.414213562373095 = 4.874553737925735e-17ってなって解決していない気が。
それは別にいいんじゃね?無理数なんだから。むしろその引き算をやることで、本来表示されなかった下位桁を表示できたわけで、1.41421356237309504874553737925735という結果がえられたと。(計算精度がどこまであるかはギモンだが、別の電卓でも…0487までは一致した)
モンダイは本来厳密に整数なはずの答えが小数になったり(√4)本来厳密に有理数なはずの√0.04とかがそうならなかったりすることでしょ?
2.0だって小数ですし…あと実数って言葉を使おうぜ?
2だって実数ですし…
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
一つのことを行い、またそれをうまくやるプログラムを書け -- Malcolm Douglas McIlroy
表示上の精度と内部精度が一致してないことが問題なんだから (スコア:0)
結局、
√2 = 1.414213562373095
√2-1.414213562373095 = 4.874553737925735e-17
ってなって解決していない気が。
Re:表示上の精度と内部精度が一致してないことが問題なんだから (スコア:0)
それは別にいいんじゃね?無理数なんだから。
むしろその引き算をやることで、本来表示されなかった下位桁を表示できたわけで、
1.41421356237309504874553737925735
という結果がえられたと。
(計算精度がどこまであるかはギモンだが、別の電卓でも
…0487
までは一致した)
モンダイは本来厳密に整数なはずの答えが小数になったり(√4)
本来厳密に有理数なはずの√0.04とかがそうならなかったりすることでしょ?
Re: (スコア:0)
2.0だって小数ですし…あと実数って言葉を使おうぜ?
Re: (スコア:0)
2だって実数ですし…