アカウント名:
パスワード:
コメントの通り一昔前Windows7からWindows10へと移行に差し掛かった頃、RAMメモリ8GBは人権!というムーブメントが起きましたが、Windows11からWindows12の話が出始める中ではRAMメモリ16GBは人権!です。ただ、Copilot導入の最低要件としてRAMメモリを16GBも使われてしまうともう16GB程必要になりそうなので、是非ともやめて頂きたい。
全然スペックが足りないでしょう。
AIを動かすためには、入れる情報も出力される情報も格納するだけのストレージが必要になりすよ。今回描かれている最低の部分は、途中演算に使われるメモリーだけ。実際はそれを計算させるCPUとGPUが必要出しそれを高速にアクセスするためのSSDも必要なるでしょう。そう考えると実際は既存のPCでは使い物にならない。ゴミです。有効活用するには、ハイエンドPCを４０万くらいぶっこんで新調すること以外ないでしょうね。
iPhoneのSiriと同じ仕組みなら、言語部分を符号化してサーバーに送って結果だけを受け取る構造なら本体スペックは最小限で成り立つでしょうからローカルでAIを動かすのは現実的ではないでしょうね。
いや、7Bとか13Bサイズを不可逆圧縮したものならCPUでも全然動いて日常会話くらいならできちゃうんですよ。なんならスマホでも動きます。問題はほぼメモリで、7Bなら4GB、13Bなら8GB程度消費するようです。なのでOSと通常アプリに8GB + AI用に4GB、で16GB以上なのではないかと。
AIのアルゴリズムは絶賛開発中で、毎年2倍以上効率上がってる途中です。流行りの画像生成やLLMならもっと。一方でCPU内蔵のAI向けプロセッサであるNPUも、世代ごとに性能2倍を目指してます。両方合わせて年間で効率4倍、2年で効率10倍超えるような凄まじい状況になってます。
今は外付けGPU付けたハイエンドPCが必要としても、あと数年もすれば同じことをノートPCで実現できるようになります。ローカルでの推論が現実的になってきたから各社CPUの性能競争が本格的に始まり、Microsoftとしても推奨環境を定義する必要が出てきたのでしょう。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
RAMメモリ16GBは人権!RAMメモリ32GBは愉悦!それ以上は業務・苦行! (スコア:1)
コメントの通り
一昔前Windows7からWindows10へと移行に差し掛かった頃、
RAMメモリ8GBは人権!というムーブメントが起きましたが、
Windows11からWindows12の話が出始める中ではRAMメモリ16GBは人権!です。
ただ、Copilot導入の最低要件としてRAMメモリを16GBも使われてしまうと
もう16GB程必要になりそうなので、是非ともやめて頂きたい。
Re:RAMメモリ16GBは人権!RAMメモリ32GBは愉悦!それ以上は業務・苦行! (スコア:0)
全然スペックが足りないでしょう。
AIを動かすためには、入れる情報も出力される情報も格納するだけのストレージが必要になりすよ。
今回描かれている最低の部分は、途中演算に使われるメモリーだけ。
実際はそれを計算させるCPUとGPUが必要出しそれを高速にアクセスするためのSSDも必要なるでしょう。
そう考えると実際は既存のPCでは使い物にならない。
ゴミです。
有効活用するには、ハイエンドPCを４０万くらいぶっこんで新調すること以外ないでしょうね。
iPhoneのSiriと同じ仕組みなら、言語部分を符号化してサーバーに送って
結果だけを受け取る構造なら本体スペックは最小限で成り立つでしょうから
ローカルでAIを動かすのは現実的ではないでしょうね。
Re:RAMメモリ16GBは人権!RAMメモリ32GBは愉悦!それ以上は業務・苦行! (スコア:3)
いや、7Bとか13Bサイズを不可逆圧縮したものならCPUでも全然動いて日常会話くらいならできちゃうんですよ。なんならスマホでも動きます。問題はほぼメモリで、7Bなら4GB、13Bなら8GB程度消費するようです。なのでOSと通常アプリに8GB + AI用に4GB、で16GB以上なのではないかと。
Re: (スコア:0)
AIのアルゴリズムは絶賛開発中で、毎年2倍以上効率上がってる途中です。流行りの画像生成やLLMならもっと。
一方でCPU内蔵のAI向けプロセッサであるNPUも、世代ごとに性能2倍を目指してます。
両方合わせて年間で効率4倍、2年で効率10倍超えるような凄まじい状況になってます。
今は外付けGPU付けたハイエンドPCが必要としても、あと数年もすれば同じことをノートPCで実現できるようになります。
ローカルでの推論が現実的になってきたから各社CPUの性能競争が本格的に始まり、Microsoftとしても推奨環境を定義する必要が出てきたのでしょう。