アカウント名:
パスワード:
ろくなGPUを作れないintelとろくなCPUを作れないNVIDIAが泥仕合してるわけでAPUのTeslaみたいなものがあれば、CPUGPUの帯域も問題なくなるしGPGPUよりも性能が出せるプログラムが書きやすいはず。
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。GPUの優位性というのは設計上の浮動小数点演算性能と、高速なメモリーバスだけなので
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。
GPUの方も進化あるいは変化していくのでそういう静的な観点からの議論に意味はない。大体GPUって昔はグラフィック処理専用でしたからね。PhiのようにGPU的なCPUも存在します。GPUってゼネラルプロセシングユニットの略でしたっけ?
シングルスレッド性能において圧倒的にCPU優位なのは、永続すると思う。
それはどうだろう。CPUのGPUに対する利点は汎用であるが故にプログラミングしやすい事であって、シングルスレッド性能において将来にわたって必ずしも速いとは限らないんじゃないの。メモリだってGPUの方が速いし。汎用コアの方が特化型コアより遅いってのは当たり前なのよね。CPUの方が速いと言えるのは条件分岐を多用するような複雑度の高いプログラムに対して。しかもCPUもメニーコア化すればGPUと似たような存在になってくし。そうなってくれば今のようなCPUとGPUの本質的な差は無くなって「同じ物を役割に応じてなんと呼ぶか」と言うだけの違いになる。
# そういやPC-8801Mk2SRはFDコントローラーとCPUが同じICだったなぁ。
そもそもCPUとGPUの速度差が数十倍にもなり、CPU自体もクラスタリングで性能を稼いでるご時世にましてや並列化の恩恵を受けやすいニューラルネットワークでシングルスレッド云々すること自体が無意味。そもそもNNの構成が複雑になっても、NNの計算法自体は変わらないし。NNが複雑になるからGPUの優位性が消えるというのが見当外れ。NNのマルチスレッド化できないアルゴリズムで分散処理アルゴリズムの数十倍の性能が出せるみたいな非現実的な仮定を前提にしないと意味が無い。でもNNアルゴリズムの本質が「たくさんのかけ算の総和」である限りニューロンいっぱいの複雑なNNほどGPU向きなんだよね。
# そういや発火関数も15年ぐらい前は微分しやすいシグモイド関数だったけど今は# もっと単純な関数の方が性能良いってなってる見たいね。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell
AMDがダメダメすぎるのが悪い (スコア:0)
ろくなGPUを作れないintelとろくなCPUを作れないNVIDIAが泥仕合してるわけで
APUのTeslaみたいなものがあれば、CPUGPUの帯域も問題なくなるしGPGPUよりも性能が出せるプログラムが書きやすいはず。
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。
GPUの優位性というのは設計上の浮動小数点演算性能と、高速なメモリーバスだけなので
Re: (スコア:0)
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。
GPUの方も進化あるいは変化していくのでそういう静的な観点からの議論に意味はない。
大体GPUって昔はグラフィック処理専用でしたからね。PhiのようにGPU的なCPUも存在します。
GPUってゼネラルプロセシングユニットの略でしたっけ?
Re: (スコア:2)
シングルスレッド性能において圧倒的にCPU優位なのは、永続すると思う。
Re:AMDがダメダメすぎるのが悪い (スコア:0)
それはどうだろう。
CPUのGPUに対する利点は汎用であるが故にプログラミングしやすい事であって、
シングルスレッド性能において将来にわたって必ずしも速いとは限らないんじゃないの。
メモリだってGPUの方が速いし。汎用コアの方が特化型コアより遅いってのは当たり前なのよね。
CPUの方が速いと言えるのは条件分岐を多用するような複雑度の高いプログラムに対して。
しかもCPUもメニーコア化すればGPUと似たような存在になってくし。
そうなってくれば今のようなCPUとGPUの本質的な差は無くなって「同じ物を役割に応じてなん
と呼ぶか」と言うだけの違いになる。
# そういやPC-8801Mk2SRはFDコントローラーとCPUが同じICだったなぁ。
そもそもCPUとGPUの速度差が数十倍にもなり、CPU自体もクラスタリングで性能を
稼いでるご時世にましてや並列化の恩恵を受けやすいニューラルネットワークで
シングルスレッド云々すること自体が無意味。
そもそもNNの構成が複雑になっても、NNの計算法自体は変わらないし。NNが複雑に
なるからGPUの優位性が消えるというのが見当外れ。
NNのマルチスレッド化できないアルゴリズムで分散処理アルゴリズムの数十倍の
性能が出せるみたいな非現実的な仮定を前提にしないと意味が無い。
でもNNアルゴリズムの本質が「たくさんのかけ算の総和」である限りニューロン
いっぱいの複雑なNNほどGPU向きなんだよね。
# そういや発火関数も15年ぐらい前は微分しやすいシグモイド関数だったけど今は
# もっと単純な関数の方が性能良いってなってる見たいね。