アカウント名:
パスワード:
FFT演算というのは、メモリアクセスのストライドがそこそこ大きいので、リニアにアクセスできるアドレス空間が広くなければいけません。各PEには4KBのデータキャッシュがありますが、このアドレス空間でFFTを実行するには1024点が限界です。それも1つのデータを2バイトとしてです。そうすると(complex FFTなので、虚
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
一つのことを行い、またそれをうまくやるプログラムを書け -- Malcolm Douglas McIlroy
げてもの (スコア:5, 興味深い)
FFT演算というのは、メモリアクセスのストライドがそこそこ大きいので、リニアにアクセスできるアドレス空間が広くなければいけません。各PEには4KBのデータキャッシュがありますが、このアドレス空間でFFTを実行するには1024点が限界です。それも1つのデータを2バイトとしてです。そうすると(complex FFTなので、虚
Re:げてもの (スコア:1, 興味深い)
そうなのですが
逆に考えれば、1024点FFTを目的した設計であるため
キャッシュを4KBにしたとも言えます。
ということで、1024点FFT用途であれば
Re:げてもの (スコア:0)