アカウント名:
パスワード:
https://www.mthreads.com/news/171 [mthreads.com]
Moore ThreadsというGPUメーカーが中国にあるらしい。そこがMT-infini-3Bという大規模言語モデルを作ったそうな。なんでも中国産のGPUだけでやったと発表している。
そのうち追いつく可能性は想像していたんだが・GPUの中身が中国製じゃ無い・そもそも言語モデルのスペックが正しくないなどなど、現状では眉につば付けている
まあここのGPU（と称する物体）はまともに動くしろものじゃない [impress.co.jp]のでNVIDIAで動かした結果を性能（理論値）に当てはめればこれくらい出る（ハズ）って話でしょう。
LLM学習するのにGPUである必要ないし、機械学習用のNPUはGPUより設計簡単ですよ。大規模言語モデルの方も後追いで似た物を作るだけならそんなに難しくない。現にソフトウェア後進国の日本でも何個かの企業が発表してるだけで、IT分野、特にAIで先行ってる中国で作れないほうがおかしい。
ハードの方がもう少し難度高いけど、演算器とローカルメモリ用意すればとりあえず動くNPUは意外と難度が低く、こっちも多数の半導体メーカーやベンチャーなんかが発表してる。Armの提供コアでも、CPUとGPUはあるけどNPUは無い。 https://pc.watch.impress.co.jp/do [impress.co.jp]
とはいえNPU特化だと商品性が弱い上に陳腐化も早いからゲーミングGPUとかPCI-E Gen5対応とか謳ってるけど、その部分は未完成レベル。中国に限らず「独自設計で既製品を越えてみせる」なベンチャーにはありがちなパターンだよねぇ。
いっその事、スラドを教材にして学習していけばかな～り偏った言語モデルになりそう。問題は、どの分野で目を見張る学習をしてくれるのか？
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
※ただしPHPを除く -- あるAdmin
中国製GPU (スコア:0)
https://www.mthreads.com/news/171 [mthreads.com]
Moore ThreadsというGPUメーカーが中国にあるらしい。
そこがMT-infini-3Bという大規模言語モデルを作ったそうな。
なんでも中国産のGPUだけでやったと発表している。
そのうち追いつく可能性は想像していたんだが
・GPUの中身が中国製じゃ無い
・そもそも言語モデルのスペックが正しくない
などなど、現状では眉につば付けている
Re: (スコア:0)
まあここのGPU（と称する物体）はまともに動くしろものじゃない [impress.co.jp]ので
NVIDIAで動かした結果を性能（理論値）に当てはめればこれくらい出る（ハズ）って話でしょう。
Re: (スコア:0)
LLM学習するのにGPUである必要ないし、機械学習用のNPUはGPUより設計簡単ですよ。
大規模言語モデルの方も後追いで似た物を作るだけならそんなに難しくない。
現にソフトウェア後進国の日本でも何個かの企業が発表してるだけで、IT分野、特にAIで先行ってる中国で作れないほうがおかしい。
ハードの方がもう少し難度高いけど、演算器とローカルメモリ用意すればとりあえず動くNPUは意外と難度が低く、こっちも多数の半導体メーカーやベンチャーなんかが発表してる。
Armの提供コアでも、CPUとGPUはあるけどNPUは無い。
https://pc.watch.impress.co.jp/do [impress.co.jp]
Re: (スコア:0)
とはいえNPU特化だと商品性が弱い上に陳腐化も早いからゲーミングGPUとかPCI-E Gen5対応とか謳ってるけど、その部分は未完成レベル。
中国に限らず「独自設計で既製品を越えてみせる」なベンチャーにはありがちなパターンだよねぇ。
Re: (スコア:0)
いっその事、スラドを教材にして学習していけばかな～り偏った言語モデルになりそう。
問題は、どの分野で目を見張る学習をしてくれるのか？