アカウント名:
パスワード:
・Intel Meteor Lake・Qualcomm Snapdragon X Elite・AMD Ryzen 8000
などCPUにAI推論エンジン必須。過渡的措置としてGPU OK。GeForce RTX 3060で100TOPs。NVIDIAだとTensor必須。
メインPCはグラボ買い替えて他PCはオフでいいかな。
ベンチマークのスコアでいうとApple M3なら動かせるスコアが出せる。アップルの方が実装してくる可能性が高いね。
そろそろAI元年になりそうな予感
全体に言えることなんだけど、TOPs とだけ書かれても INT8 なのか別なのかわからないんだよねこの記事だと「Ryzen 7040 で 20TOPs」って書かれていて、調べた限りでは INT8 っぽいから、Windows 12 で必要なのも INT8 で 45TOPs ってことなんだろうけどで Apple M3 だと FP16/INT16 で 18TOPs って情報は見かけたけど、INT8 でどうなるかはよくわからなかった回路構成次第なんだろうけど、HPC SYSTEMSのリスト [hpc.co.jp]を見ると、FP16:INT8 が同じだったり 2 倍だったり 4 倍だったりするから、仮に 2 倍だと足りないってことになるあと A17 Pro は 35TOPs って情報も見かけた、こっちも INT8 なのか FP16/INT16 なのかはわからない
RTX3060とMeteor LakeがFP16とINT1でそれぞれ測ったTOPS値で同等だとして、それが15W前後に収まってスタバで何十基もぶん回る時代があと2～3年で本当に来るんですかね…
技術的には十分可能だと思いますよ、4年前時点で専用チップなら 4.8TOPs/W [impress.co.jp] まで出てるし専用命令ありきだろうからデコーダーの負荷もそんなにはないだろうし、メモリ回りはかなり不利かもしれないけどあとはどのぐらいの性能が求められるか、それに必要なコストやダイサイズが見合うかを検討するだけで、45TOPs 必要ってなったらその分だけの回路を積むことになるだけかと今そこまでの性能がないのは、現状のリアルタイム AI 処理だとそこまで求められてなかったってだけだろうし
10年でも怪しいわそんなん発熱とバッテリーと重量の問題を考慮しなくても無理
そこでエッジ向けですよ。
https://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/jets... [nvidia.com]
orin nanoで40TOPSで15Wだそうで。メモリ8Gはちょっと少ないが、上位モデルを買えば宜し。消費電力も上がるけども。
LLMの学習用に良いのか？とも思うが、ARMなので怖くてなかなか手が出ないなあ。
１世代が２５％アップなので3世代で２倍の性能になる。M６くらいになれば余裕でAIを使いながらソフトも動くようになるつーかアップルレベルだと全自動でやってくれるかもな
数日前に（北森だったか？）AMDのモバイル系APUのロードマップの記事を読んだのを思い出した。（リーク記事なので信ぴょう性はアレげということで。）Zen5世代のモバイルAPUはAIアクセラレータのXDNA 2を搭載していて、ちょうど45～50TOPSという話。早ければ2024下半期に登場するとか。
MSとCPUメーカーが申し合せたか、お互いを当てにしたスケジュールなんだろうけど、INT8でも45TOPSって凄い。計算もだけどバス帯域もそこそこ必要だよなぁ…しかもノートPCで。
Zen4世代のPhoenix APUだとXDNA 1で10TOPSなので、内臓GPUのFP16性能（恐らく十数TFLOPS）と合わせてもちょっと足りない（RDNAでINT8がFP16の倍になるとかは聞かないのでRyzen 7040で20TOPSは妥当）。Windows12はCoPilotが全てと言う訳ではないだろうから使わなきゃ良いんだろうけど、安価なノートPCでのCoPilotはまだ先のことになりそうだね。MSの頑張り次第でもあるけど。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
身近な人の偉大さは半減する -- あるアレゲ人
「45 TOPs」要件 (スコア:0)
・Intel Meteor Lake
・Qualcomm Snapdragon X Elite
・AMD Ryzen 8000
などCPUにAI推論エンジン必須。
過渡的措置としてGPU OK。
GeForce RTX 3060で100TOPs。
NVIDIAだとTensor必須。
メインPCはグラボ買い替えて他PCはオフでいいかな。
Re: (スコア:0)
ベンチマークのスコアでいうと
Apple M3なら動かせるスコアが出せる。
アップルの方が実装してくる可能性が高いね。
そろそろAI元年になりそうな予感
Re:「45 TOPs」要件 (スコア:0)
全体に言えることなんだけど、TOPs とだけ書かれても INT8 なのか別なのかわからないんだよね
この記事だと「Ryzen 7040 で 20TOPs」って書かれていて、調べた限りでは INT8 っぽいから、Windows 12 で必要なのも INT8 で 45TOPs ってことなんだろうけど
で Apple M3 だと FP16/INT16 で 18TOPs って情報は見かけたけど、INT8 でどうなるかはよくわからなかった
回路構成次第なんだろうけど、HPC SYSTEMSのリスト [hpc.co.jp]を見ると、FP16:INT8 が同じだったり 2 倍だったり 4 倍だったりするから、仮に 2 倍だと足りないってことになる
あと A17 Pro は 35TOPs って情報も見かけた、こっちも INT8 なのか FP16/INT16 なのかはわからない
Re:「45 TOPs」要件 (スコア:2)
RTX3060とMeteor LakeがFP16とINT1でそれぞれ測ったTOPS値で同等だとして、それが15W前後に収まってスタバで何十基もぶん回る時代があと2～3年で本当に来るんですかね…
Re: (スコア:0)
技術的には十分可能だと思いますよ、4年前時点で専用チップなら 4.8TOPs/W [impress.co.jp] まで出てるし
専用命令ありきだろうからデコーダーの負荷もそんなにはないだろうし、メモリ回りはかなり不利かもしれないけど
あとはどのぐらいの性能が求められるか、それに必要なコストやダイサイズが見合うかを検討するだけで、45TOPs 必要ってなったらその分だけの回路を積むことになるだけかと
今そこまでの性能がないのは、現状のリアルタイム AI 処理だとそこまで求められてなかったってだけだろうし
Re: (スコア:0)
10年でも怪しいわそんなん
発熱とバッテリーと重量の問題を考慮しなくても無理
Re: (スコア:0)
そこでエッジ向けですよ。
https://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/jets... [nvidia.com]
orin nanoで40TOPSで15Wだそうで。メモリ8Gはちょっと少ないが、上位モデルを買えば宜し。消費電力も上がるけども。
LLMの学習用に良いのか？とも思うが、ARMなので怖くてなかなか手が出ないなあ。
Re: (スコア:0)
１世代が２５％アップなので3世代で２倍の性能になる。
M６くらいになれば余裕でAIを使いながらソフトも動くようになる
つーかアップルレベルだと全自動でやってくれるかもな
Re: (スコア:0)
数日前に（北森だったか？）AMDのモバイル系APUのロードマップの記事を読んだのを思い出した。（リーク記事なので信ぴょう性はアレげということで。）Zen5世代のモバイルAPUはAIアクセラレータのXDNA 2を搭載していて、ちょうど45～50TOPSという話。早ければ2024下半期に登場するとか。
MSとCPUメーカーが申し合せたか、お互いを当てにしたスケジュールなんだろうけど、INT8でも45TOPSって凄い。計算もだけどバス帯域もそこそこ必要だよなぁ…しかもノートPCで。
Zen4世代のPhoenix APUだとXDNA 1で10TOPSなので、内臓GPUのFP16性能（恐らく十数TFLOPS）と合わせてもちょっと足りない（RDNAでINT8がFP16の倍になるとかは聞かないのでRyzen 7040で20TOPSは妥当）。Windows12はCoPilotが全てと言う訳ではないだろうから使わなきゃ良いんだろうけど、安価なノートPCでのCoPilotはまだ先のことになりそうだね。MSの頑張り次第でもあるけど。