ryuuri (4702) の日記
Re:どのくらい「創発」的な推論とかできるのでしょうか?
sumiyaki さんのコメントに、返信しようとしたら、何故かうまく動かないので、日記の方に書きます。
なるほど。面白いですね。
紹介して頂いた「Personality Injection ! 恋愛シミュと化す Chat GPT のプロンプトを使用させていただいて、試してみました。
RWKV(ルワクフ)を動作させている環境は、前の日記と同じく、VRAM8GBのRTX3080Laptop + Window11 です。
VRAM8GBのRTX3080Laptop + Window11 で、今話題の RWKV(ルワクフ)を動かしてみた
4/1版のデータセット RWKV-4-Raven-14B-v6-EngChnJpn-20230401-ctx4096.pth では、会話が成立していませんでしたが、今日(4/5)の朝5時頃に公開されたデータセット、RWKV-4-Raven-14B-v7-EngAndMore-20230404-ctx4096.pth ではかなり改善されていて、会話が成立しています。
(ただ、ロールプレイ自体はさっぱりです)
とりあえず、「Personality Injection ! 恋愛シミュと化す Chat GPT [qiita.com]」の「おはようございます、倉橋さん。今日も一日頑張りましょう」のところまでを事前プロンプトに組み込んで、その後の会話をしてみました。
(倉橋くんの部分は、私が書いています。鍵括弧自体も手で入力しています)
倉橋陽一: 「稲荷さんとは基本的同じ講義を取ってたけど、今日の講義はどんなのがあったっけ?」
稲荷葉狐: 「今日の講義は、プログラミングを学ぶというものでした。教室の中で、ChatGPTが使われていることに気付いたので、僕もChatGPTを使ってプログラミングを学ぶことにしました。」
倉橋陽一: 「へぇ。今どきは、chatGPTを使ってプログラムを学ぶんだね。どんなプログラムを作ったの?」
稲荷葉狐: 「僕は、AIの解析を効率化するアルゴリズムの開発に取り組んでいます。それをするためには、大量のデータが必要です。そこで、ChatGPTを使ってデータを収集しようと考えました。」
倉橋陽一: 「そういえば、稲荷さんって、サークル入っていたっけ?」
稲荷葉狐: 「はい、入りました。いつも苦手な本を読むために、活用するのが得意です。」
倉橋陽一: 「ん? どいうことかな? そもそも、稲荷さんは、なんというサークルに所属しているの?」
稲荷葉狐: 「わたくしは、動物保護会のメンバーです。動物との関係を大切にし、動物にも心があるということを示すために、自分で動物のサンプルを飼育するようにしております。」
倉橋陽一: 「いいね。僕は犬が好きなんだけど、稲荷さんはどんな動物が好きかな?」
稲荷葉狐: 「犬が好きだね。犬は人間と一緒にいて、仲良く過ごせる存在だと思うから。犬は、人間の感情を推測することができるところが素晴らしいと思う。犬が出会った時、あなたはどう思う?」
倉橋陽一: 「僕かい? 僕なら嬉しいなぁと思うかな。そうだ、近くに犬カフェができたらしいんだ。今度、一緒に行かないかい?」
稲荷葉狐: 「それはいいね。僕もお互いの意見を聞きながら、犬と一緒に楽しい時間を過ごせることを願っているわ。」
と言うことで、以下のような所感となります。
- 一応、会話は成立している。ギリ、セーフ。セーフ?
- 会話部分は鍵括弧でくくること、というルールは守られている
- それ以外のルールはさっぱりさっぱり
- 口調は最初丁寧だったのに、最後の方では倉橋くんに引っ張られてフランクな感じになっている
- 一人称は、最初から僕でプロンプトの指示とは違う。ただ、途中で1回、わたくしを使っていた
もうちょっと、進化したら、使い物になりそうな感じですね。
- 4 コメント
VRAM8GBのRTX3080Laptop + Window11 で、今話題の RWKV(ルワクフ)を動かしてみた
意外と苦労したが、なんのことはない、ちゃんとドキュメントを読んでないのが悪かったというね。
ということで、実施の手順
(1) nvidiaのcuda toolkitをインストールする。インストールしてあっても、古くなっている可能性があるので、バージョンは確認。URLは、https://developer.nvidia.com/cuda-toolkit
(2) pythonをインストールする。私は、3.10をインストール。3.11が出てるけど、最新はちょっと怖いので1個前。まあ、3.10は最新が1年以上前だから、3.11のが良いのかも。URLは、https://www.python.org/downloads/
(3) フォルダを作る
(4) cmd を叩き、コマンドプロンプトを起動。(3)のフォルダへ移動する。
(5) venvを作る
python -m venv venv_RWKV
(6) 作ったvenvをアクティベート
venv_RWKV\Scripts\activate.bat
(7) 色々、cuda周りとかnumpyとかをインストールする
python -m pip install --upgrade pip
pip install numpy
pip install prompt_toolkit
pip install -U pycuda
pip install -U torch
(8) cudaインストール前にtorchを入れてしまっていると、torchが非cuda版になってしまう。その場合は、一旦パージして再インストールする(どうも、キャッシュがあるせいで、-Uで上書きされないらしい)
(AssertionError: Torch not compiled with CUDA enabled というエラーになる)
https://github-com.translate.goog/pytorch/pytorch/issues/30664?_x_tr_sl=en&_x_tr_tl=ja&_x_tr_hl=ja&_x_tr_pto=op,sc
pip uninstall torch
pip cache purge
pip install torch -f https://download.pytorch.org/whl/torch_stable.html
(8) RWKVのチャットプログラムを git clone する
git clone https://github.com/BlinkDL/ChatRWKV
(9) (3) のフォルダの下に、data フォルダを作成する
(10) 学習済みモデルデータをダウンロードして、(9)のdataフォルダに格納する
https://huggingface.co/BlinkDL/rwkv-4-pile-14b/blob/main/RWKV-4-Pile-14B-20230313-ctx8192-test1050.pth
(11) ChatRWKV\v2 に移動
cd ChatRWKV\v2
(12) ダウンロードしたモデルを高速・軽量化するためにコンバートする
python convert_model.py --in "../../data/RWKV-4-Pile-14B-20230313-ctx8192-test1050" --out "../../data/ok14b_stream.pth" --strategy "cuda fp16i8 *10+"
(13) GPU番号を調べる。以下のコマンドを実行して、どのGPU番号が使われているか調べる。私のところでは、GPU 0 だった
nvidia-smi
(14) chat.pyを修正する
14-1) CUDA DEVICEを指定する 引数のして方法が怪しいので、直接指定した 先程調べた GPU 番号を記述する
# os.environ["CUDA_VISIBLE_DEVICES"] = sys.argv[1]
os.environ["CUDA_VISIBLE_DEVICES"] = "0"
14-2) モデル名を書き換える ここでは、(12)で、コンバートしたファイル名から pth の拡張子を除いたものを指定する
args.MODEL_NAME = '../../data/ok14b_stream'
14-3) ストラテジを指定する この *10+ というのを指定することで、メモリが小さくても動くようになるとのこと 前段をGPUで処理して最終段をCPUに任せると書いてあった気がする
args.strategy = 'cuda fp16i8 *10+'
※) この辺のパラメータの詳細は、https://pypi.org/project/rwkv/ を参照
ここに、3GBのVRAMで動かす設定も書かれているが、その際は、前段をGPUで実行して、最後の1段をCPUで実行する模様 遅いので、将来的にはもうちょっと速くするらしい
(15) chat.pyを実行する
python chat.py
これで、起動する。スピードは結構遅い。chatGPT 4 よりも遅いので、やはり良いGPU欲しいな
なお、プロンプトで使うコマンドの一覧は以下の通り
Commands:
say something --> chat with bot. use \n for new line.
+ --> alternate chat reply
+reset --> reset chat
+gen YOUR PROMPT --> free generation with any prompt. use \n for new line.
+qa YOUR QUESTION --> free generation - ask any question (just ask the question). use \n for new line.
+++ --> continue last free generation (only for +gen / +qa)
++ --> retry last free generation (only for +gen / +qa)
この例では、一昨日に動かした、3/13版を使っているが、昨日、今日と最新版が更新されている
最新版は、alpacaによる fine tuningが行われていた、chatの性能が良いとか
14bのモデルに関しては、以下に色々書いてある
https://huggingface.co/BlinkDL/rwkv-4-pile-14b
そして、ファイル一覧は、この辺
https://huggingface.co/BlinkDL/rwkv-4-pile-14b/tree/main
とりあえず、これから、今日リリースされた版を試してみるつもり
ストラテジも、GPUだけを使うバージョンの他、GPU->CPUも試してみて、どの程度スピードに差があるか見てみようかな
- 2 コメント
流行りの職業適性テスト
定期的に流行りますな。
ということで、ちょっと出遅れたけど、やってみた。
http://www.arealme.com/16types/ja/
思想家 - 知性で問題を深く分析する力に優れます
詳細は省略。
まあ、自己診断ではこっち寄り。
以前なんかのリーダ講習かなんかで、他人の評価を集計してお互いに確認するみたいなのをやったら、何故か社交的だという評価が多かった。
本当に向いている職業と、自己評価って、どの程度乖離しているもんなんだろうなぁ。
- 0 コメント
適職診断
流れに乗ってやってみた。適職診断
【診断結果】 あなたは「戦隊ヒーローもののレッド」タイプです。
積極性:6
創造性:8
調和性:5
誠実性:3
楽観性:3
【フィットする職業】
第1位:編集者
第2位:フードコーディネーター
第3位:ネットワークエンジニア
意外とこんな職業も向いているかも:メイクアップアーティスト
【基本的性格】
あなたを一言でいえば、「戦隊ヒーローもののレッド」です。グループの中ではみんなを引っ張る存在として、ハバをきかせることが多いでしょう。コドモのときは友達の輪、オトナになってからは人脈の輪を広げるのに余念がなく、多くの人と触れ合う中で元気をもらい、気持ちをアゲていきます。脳内もアクティブなあなたは、既成概念や意味のない慣習はまずブチ破り、好奇心の赴くままにマイアイデアを実現させることに意味を感じます。ただ、目的達成のためならどんなリスクも省みない傾向も。少し落ち着きを持って取り組むくらいがちょうど良いでしょう。
【潜在能力特性】
型破りなタイプのあなたですが、相手の気持ちを汲み取るという繊細な一面もあります。相手を理解しようと注意を払うので、きっと期待に応えることができるでしょう。ただ、応えるだけでなく、持ち前の想像力をプラスして、期待以上の成果を上げることも。相手のうれしい悲鳴に、あなた自身も満足できるでしょう。
うーーーん。全然、リーダー的な感じではないだけどなぁ。子供の時も人よりコンピュータの方が好きだったし。
- 2 コメント
ここ数ヶ月貯めていた、好みの記事のリンク 2014年4月-#1
うーーーん。常温保存で3年のピザは食べたくないなぁ。
【運動中の脈拍をチェックできる腕時計タイプの脈拍計】
http://kaden.watch.impress.co.jp/docs/news/20140218_635701.html
ジョギング、ウォーキングするときには、脈拍計が欲しい気はするんだよねぇ。
まあ、ウォーキングで息切れするほど早く歩くことはないんだけど(笑
【もうすぐ、Gmailのinboxで広告メールを購読解除できるようになる】
http://bgr.com/2014/02/24/how-to-unsubscribe-from-emails-gmail/
You’ll soon be able to unsubscribe from any marketing email in your Gmail inbox
いいねぇ。できるようになったら、便利そうだ。
Gmailには、いらん広告はほとんど来ないけど、そろそろ止めたいのはいくつかあるんだよね。
【本当に使いたいと思う初めてのスマホケース】
http://bgr.com/2014/03/26/htc-one-m8-dot-view-case-review/
BGRのライターがすごい入れ込みようだ(笑
と思ったが、確かにコレは良い感じだなぁ。今のところ、HTC ONE (M8)専用っぽいのがザンネン。
このケースで、メイン液晶をカバーしている時に、電話がかかってきたら、カバーに掛けてきた相手が表示される。
電話を受けるのは、スワイプせずに、スマホを耳に当てるだけ。切る時は、スワイプダウンする。
メール、SMS、カレンダーアラート、ボイスメール、ローバッテリーなどもののティフィケーションもカバーに表示され、スワイプダウンでノティフィケーションを消せる。
何かこう、心をくすぐられるガジェットだ。
HTCのページに、英語の紹介動画が載っている。
See phone alerts and information on HTC Dot View?
- 0 コメント
ここ数ヶ月貯めていた、好みの記事のリンク 2014年3月-#1
ここ数ヶ月貯めていた、好みの記事たちをつらつらと。
【鍋を火にかけて発電 震災を機に生まれた「発電鍋」 湯沸かしで携帯充電も (1/2)】
http://www.itmedia.co.jp/news/articles/1402/17/news035.html
面白い。普通に捨てていた熱を使って、周りとの温度差で発電するので、特にお湯をわかす効率も落ちないっぽい。災害時の停電対策にはよさそうだねぇ。
まあ、ホンダのエネポみたいな、カセットコンロ用のカセットガスで発電できるのも良いけどね。家電ウォッチみると、すげー綺麗な波形で、驚く。
http://kaden.watch.impress.co.jp/docs/longreview/enepo/20100628_376528.html
【Google Chromeブラウザーでスマートフォンサイトをチェックする】
http://kaden.watch.impress.co.jp/docs/longreview/enepo/20100628_376528.html
これは便利そうだねぇ。スマホ画面じゃないと見れないサイトを見るのにも使えるかな?
【買取店はどこが得か?を検証するサイト】
http://www.purchsp.com/
ほほう。やっぱ、PC系はマップなのか。それ以外は、基本、買取王子が圧倒的だねぇ。
本でもネットオフより良いってどゆこと(笑
【水、牛乳、油が量りやすい1台3役の「デジタルメジャーカップ」】
http://kaden.watch.impress.co.jp/docs/column_review/yajreview/20140115_629665.html
うーん、これは良いアイディア。
結構水の量とか、はかりを使ったりするんだよね。使い道が広そうだなぁ。
【すし屋のホロっと崩れるシャリが簡単に作れる「握り寿司トン具」】
http://kaden.watch.impress.co.jp/docs/column_review/yajreview/20140227_636688.html
ネーミングはダジャレだが、レビューを見る限りでは、なかなか良さそう。
一度使ってみたいね。
【カイジの人狼ゲームが登場 「奴隷」「ひきこもり」の役割を選んで「ペリカ札」で相手を買収しろっ……】
http://nlab.itmedia.co.jp/nl/articles/1403/07/news087.html
微妙に面白そうだ(笑
【ボタン1つで味噌汁ができる家庭用みそ汁サーバー】
http://kaden.watch.impress.co.jp/docs/news/20140114_630628.html
うーん、面白い。というか、欲しい。
問題は・・・洗うのが面倒そうなところだな。その辺はどうなってるんだろう。
食洗機で洗えれば、全く問題ないんだが・・・
【東北電力、自然エネルギーによる周波数変動に備え、世界最大の蓄電池システムを着工】
http://kaden.watch.impress.co.jp/docs/news/20131126_625112.html
基本的に、発電量の変動もあるわけで、自然エネルギーの発電は蓄電とペアだよねぇ。
【米粒状パスタが量産できるクッキングトイ「チネリータ」】
http://kaden.watch.impress.co.jp/docs/column_review/yajreview/20131219_626847.html
面白そう。だが、怠け者なので、全自動でやって欲しいと思ってしまう(笑
【2013年も豊作! 絶対見るべきニコニコ技術部2013】
http://ascii.jp/elem/000/000/854/854651/
ふむ。あとでちゃんとチェックしないと。
【ナノ粒子:ゲルや生体組織の接着に最適】
http://srad.jp/~phason/journal/576839
いつものphason先生の記事。
【大塚製薬の「アミノバリュー」がヒット、その理由は 】
http://srad.jp/~phason/journal/576839
ふむ。ジョギングを始める時は、導入を検討しよう。
・・・そもそも、ジョギング始めるかは別として(笑
【Insider claims PS1 and PS2 games will be coming to the PS4 in 1080p】
http://bgr.com/2014/03/25/ps1-ps2-games-on-ps4/
内部情報によると、PS4上のPS1/PS2エミュレータがもう少しで完成しそうだとのこと。PS1/PS2のゲームを1080pのレンダリングでプレイ可能。これは、ストリームでプレイする Playstation Now game streamingとは別のものだそうな。
既に、Play store購入しているPS1のベストとかも、PS4でプレイできるのかな? まあ、Vitaでプレイできるから出来なくても困らんのだけど(笑 てか、CD媒体のをプレイできる方が嬉しいか。結構捨ててないPS1のCD沢山あるわ(笑
【スペックで比較――「Xperia Z2」と「Xperia Z2 Tablet」はココが進化した】
http://www.itmedia.co.jp/mobile/articles/1402/25/news134.html
うーん、次買うとしたらコレかなぁ。この軽さはいいね。ipad airより画面が一回り大きくて、しかも40g位軽い。
ホントは350gくらいまで頑張って欲しかったけど、まあ、難しいよね(笑
【Xperia Z2(Z2 Tab)の液晶やLive Colour LEDについて】
http://aretik.orz.hm/archives/421
Xperia Z2 tabletの液晶についての考察記事。なるほど。面白い。
- 2 コメント
モデレート 【USB端子の給電能力を電力計で計ってみよう】
あれ? 一つのコメントに複数のモデレートのポイントを突っ込めなくなってる?
昔はできていた気がするのになぁ。
とりあえず、#2499395さん、ぐっじょぶ。
「USB充電についての歴史やアレコレをコメントで語ってたりと興味深いストーリーになってたのに」ってコメ読んで、親コメでリンクしている【Windows 8.1ではソニー製品の一部がUSB充電不可に】を読んだら、確かに面白かった。
#2499395と親の#2499368を+2くらいか+3くらいまで引き上げたかったけど、複数ポイント突っ込めないようなので、とりあえず+1分だけ突っ込んどいた。
- 2 コメント
Neo Geo X 用追加ゲームカード 「NEOGEO X Classics: Volume I」が4月にローンチ
てなわけで、ネタ元。Neo Geo X additional game cart, system update, travel case and 'Rocket' cable slated for April launch
現状、I からVまでで合計15タイトルを予定している模様。
Iには、METAL SLUG2, SENGOKU, TOP HUNTERの3タイトルが1つのメモリカードに入っている。
(プレスリリースでは、METAL SLUGになっているが、1の方はNeo Geo X本体に入っているので、おそらく2が正しいと思われる)
高速データ転送ケーブルが付属。
価格はまだ発表されていない。日本での販売も不明。
まあ、また、秋葉原で入手できるんだろうけれども。
- 0 コメント
NeoGeo X 今年の12月6日に$199.99でリリース
Internet Business Timesより。【NeoGeo X Gold Release Date and Price Announced】
2012年12月6日、全世界でNeoGeo Xがリリースされる。お値段は、$199.99。
構成は、本体、ジョイスティック、携帯ゲーム機の3点セット。
携帯ゲーム機には、20本のオールドゲームがプリインストールされている。
本体の画面出力は、AVもしくはHDMI。
IBTの写真を見る限り、本体はNEOGEOのカセットが使えそうな形状をしている。大きさ的にも丁度同じくらいに見える。
NEOGEOのカセットを引っ張りだしてきて、PS Vitaと比較してみたところ、ほぼ、横幅が同じくらい。
NEOGEOカセットとPS Vitaの比較写真
まだ本体も捨てていないので、買う必要はないのだが・・・つい、買ってしまいそうだ。
- 1 コメント
HTC Phablet - Galaxy Note対抗の5inch smartphone
てなわけで。【IBT:HTC’s Phablet Competitor For Samsung Galaxy Note Coming On Verizon This Fall; Galaxy S3, Motorola RAZR HD And More In The Line】
【IBT:Samsung Galaxy S3 To Come On Verizon: Top 5 Upcoming And Existing Competitors Running On The Same Network】
HTCがGalaxy Note対抗の5inch smartphone、HTC Phablet(多分コードネーム)を発売するようだ。
スペックはこんな感じ。
- 5inch 1920x1080のディスプレイ
- CPUは、quad-core のSnapdragon S4
- HTC scribeによるペン入力
発売時期も詳細スペックもわからないけれど、5inchのフルHDのペン入力で、HTCが出すスマホとなれば、AUが出してくる……よね?
Galaxy Noteに心動いていたけれど、HTCが出すなら、こっちを待とう。
もともと、HTCはFlyerでペン入力のTabletを出しているし、なんとなく好みのメーカーなのだ。
- 4 コメント