「Googleが電卓に」記事へのコメント

1024ビット演算

[paprika (5024)]

2^1023*1.99999 = 1.79768415*10^308
このあたりが限界みたい。

2^1024はダメでした。

Re:1024ビット演算

[paprika (5024)]

少数点以下も 2^-1023 までで，2^-1024 はダメなのに，なぜか 2^-1023 * 2^-51 はイケる。
基本的には 1024bit.1024bit みたいだけど，演算課程の中間表現はもうちょっと精度あるのかも。

Re:1024ビット演算

[paprika (5024)]

と思ったけど，

(2^53)+(1)-(2^53) = 0

になってしまったので，
普通の浮動小数点演算か。
失礼しました。