「PS3/Linuxでスーパーコンピュータをリプレース」記事へのコメント

単精度じゃ・・・

[YOUsuke (6796)]

ねぇ・・・
どうなんでしょうねぇ・・・

--
妖精哲学の三信
「だらしねぇ」という戒めの心、「歪みねぇ」という賛美の心、「仕方ない」という許容の心

Re:単精度じゃ・・・

[TRON (6936)]

ねぇ・・・ どうなんでしょうねぇ・・・

倍精度で計算してるようです。タレコミ文中からたどれるPS3 GRAVITY GRID [umassd.edu]に、

It should be noted that the context of this computation is double-precision floating point operations.

と書いてあります。

--
いつも主観で書き込んでいます