「IBM、ソニー、SCEI、東芝がCellプロセッサの概要を発表」記事へのコメント

浮動小数点演算の精度

[hi-kin (11760)]

このの記事 [nikkeibp.jp]では倍精度になってますね。

# Power と PowerPC って違うものなんじゃ……

Re:浮動小数点演算の精度

[hi-kin (11760)]

追加情報。
ISSCCのプログラム [isscc.org]を読むと、ストリーミングプロセッサの倍精度浮動小数点乗算器の発表があるみたい。
あと、4.6GHzっていうのは、ストリーミングプロセッサに載るSRAMが6段パイプラインで4.6GHzで動作できるっていう話。