「全文検索エンジン：Rast」記事へのコメント

indexのチューニング

[Yappo (5920)]

C APIならrast_db_openのsync_threshold_charsの数値を変更することによって
パフォーマンスを上げる事が出来ます。（メモリ食いますが・・・）

Rast.pmなら

my $rast = Rast->open('/db', RAST_DB_RDWR, {sync_threshold_chars => 1000000});

等のように書けます。

他にもrast_merger_tを利用す

Re:indexのチューニング

[Oliver (4)]

アドバイスありがとうございます。sync_threshold_charsをデフォルトの10倍である100万にしたところ、index作成にかかる時間がほぼリニアに8分の1になりました。数が増えてくると、どんどん時間が延びるのは変わらないのですが、前のアリエナイ時間ではなく、なんとか初期作成だけ我慢して、がんばって一晩回すことができそうな時間になりました。あとで、更新したベンチマーク結果の日記を書きます。

index時間削減のために一定数

Re:indexのチューニング

[Oliver (4)]

上のコメントを書きつつ、数十万エントリをindexする作業を実施してたんですが、一定のエントリ数を越えるとindex作成のスピードがガタっと落ちる感じです。sync_threshold_charsが100万でだいたい8万エントリを越えたあたりから、syncにかかる時間(?)が急激に延びた印象です。現在10万エントリ弱で320MBのメモリを食べていて、indexのサイズが433MBです。もしかして、indexの物理サイズが絡んでいるのかもしれません。詳しくは検証しませんが、とりあえず手元のテストDBに入ってる16万の日記エントリのindexを終わらせてみます。