アカウント名:
パスワード:
FFT演算というのは、メモリアクセスのストライドがそこそこ大きいので、リニアにアクセスできるアドレス空間が広くなければいけません。各PEには4KBのデータキャッシュがありますが、このアドレス空間でFFTを実行するには1024点が限界です。それも1つのデータを2バイトとしてです。そうすると(complex FFTなので、虚
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
アレゲは一日にしてならず -- アレゲ見習い
げてもの (スコア:5, 興味深い)
FFT演算というのは、メモリアクセスのストライドがそこそこ大きいので、リニアにアクセスできるアドレス空間が広くなければいけません。各PEには4KBのデータキャッシュがありますが、このアドレス空間でFFTを実行するには1024点が限界です。それも1つのデータを2バイトとしてです。そうすると(complex FFTなので、虚
Re:げてもの (スコア:0)
まあおっしゃる通りと思うが、一定の区間を設定しさえすれば、
その区間上では嘘ではないわけで。
(前提が真実とすればだが)
# やべぇ、ベストエフォート的な議論になりそうな予感
Re:げてもの (スコア:0)
「区間スパコン」と呼んであげましょう :-)
# 「準スパコン」でも「通勤スパコン」でも可
Re:げてもの (スコア:1, 興味深い)
#「1番!G7!スパコンやりまーす!」…なんか飲み会みたいなのでG7