アカウント名:
パスワード:
コメントの通り一昔前Windows7からWindows10へと移行に差し掛かった頃、RAMメモリ8GBは人権!というムーブメントが起きましたが、Windows11からWindows12の話が出始める中ではRAMメモリ16GBは人権!です。ただ、Copilot導入の最低要件としてRAMメモリを16GBも使われてしまうともう16GB程必要になりそうなので、是非ともやめて頂きたい。
全然スペックが足りないでしょう。
AIを動かすためには、入れる情報も出力される情報も格納するだけのストレージが必要になりすよ。今回描かれている最低の部分は、途中演算に使われるメモリーだけ。実際はそれを計算させるCPUとGPUが必要出しそれを高速にアクセスするためのSSDも必要なるでしょう。そう考えると実際は既存のPCでは使い物にならない。ゴミです。有効活用するには、ハイエンドPCを４０万くらいぶっこんで新調すること以外ないでしょうね。
iPhoneのSiriと同じ仕組みなら、言語部分を符号化してサーバーに送って結果だけを受け取る構造なら本体スペックは最小限で成り立つでしょうからローカルでAIを動かすのは現実的ではないでしょうね。
いや、7Bとか13Bサイズを不可逆圧縮したものならCPUでも全然動いて日常会話くらいならできちゃうんですよ。なんならスマホでも動きます。問題はほぼメモリで、7Bなら4GB、13Bなら8GB程度消費するようです。なのでOSと通常アプリに8GB + AI用に4GB、で16GB以上なのではないかと。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
皆さんもソースを読むときに、行と行の間を読むような気持ちで見てほしい -- あるハッカー
RAMメモリ16GBは人権!RAMメモリ32GBは愉悦!それ以上は業務・苦行! (スコア:1)
コメントの通り
一昔前Windows7からWindows10へと移行に差し掛かった頃、
RAMメモリ8GBは人権!というムーブメントが起きましたが、
Windows11からWindows12の話が出始める中ではRAMメモリ16GBは人権!です。
ただ、Copilot導入の最低要件としてRAMメモリを16GBも使われてしまうと
もう16GB程必要になりそうなので、是非ともやめて頂きたい。
Re: (スコア:0)
全然スペックが足りないでしょう。
AIを動かすためには、入れる情報も出力される情報も格納するだけのストレージが必要になりすよ。
今回描かれている最低の部分は、途中演算に使われるメモリーだけ。
実際はそれを計算させるCPUとGPUが必要出しそれを高速にアクセスするためのSSDも必要なるでしょう。
そう考えると実際は既存のPCでは使い物にならない。
ゴミです。
有効活用するには、ハイエンドPCを４０万くらいぶっこんで新調すること以外ないでしょうね。
iPhoneのSiriと同じ仕組みなら、言語部分を符号化してサーバーに送って
結果だけを受け取る構造なら本体スペックは最小限で成り立つでしょうから
ローカルでAIを動かすのは現実的ではないでしょうね。
Re:RAMメモリ16GBは人権!RAMメモリ32GBは愉悦!それ以上は業務・苦行! (スコア:3)
いや、7Bとか13Bサイズを不可逆圧縮したものならCPUでも全然動いて日常会話くらいならできちゃうんですよ。なんならスマホでも動きます。問題はほぼメモリで、7Bなら4GB、13Bなら8GB程度消費するようです。なのでOSと通常アプリに8GB + AI用に4GB、で16GB以上なのではないかと。