アカウント名:
パスワード:
デカそう
リリース文についているサンプルを、Google Colab無料枠で動かそうとしたら、メモリ不足でクラッシュしました。# 初めてやってみたので、当然のことかも？
26GBほどhttps://huggingface.co/pfnet/plamo-13b/tree/main [huggingface.co]
13Bって書いてるじゃん。8bit以下の量子化をすれば、RTX4080でも動かせそう。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
UNIXはシンプルである。必要なのはそのシンプルさを理解する素質だけである -- Dennis Ritchie
サイズが気になる (スコア:0)
デカそう
Re:サイズが気になる (スコア:3)
デカそう
リリース文についているサンプルを、Google Colab無料枠で動かそうとしたら、メモリ不足でクラッシュしました。
# 初めてやってみたので、当然のことかも？
Re:サイズが気になる (スコア:1)
26GBほど
https://huggingface.co/pfnet/plamo-13b/tree/main [huggingface.co]
Re: (スコア:0)
13Bって書いてるじゃん。
8bit以下の量子化をすれば、RTX4080でも動かせそう。