アカウント名:
パスワード:
フェルプス君やジェームズ・ボンド君に教えて上げてください。
「君が命懸けで入手しようとしている某国スパイの乱数表だが、 そんなものには元々情報は1bitも含まれていないんだ。 上司に白紙の報告書を出せば仕事は終わりさ」
現在の情報理論の常識から言えば（笑）、 完全にランダムなものが、もっとも多くの情報を持つのです。
ちゃんと読もう。256進数で展開して(別に10進数でも いいけど、彼は1桁1バイトにあわせる意味でこうしている)、 各桁の数を取り出して、そこに規則があるかどうか、という事。 で、結局のところ、いわゆる乱数列と 何ら変わりはないのだ。例えば100桁の乱数列を 生成したとして、この列が円周率を展開したものの どこかに含まれる可能性は0ではない、とかそういった 話が後に続きます。このあたりはフォン=ノイマンが研究していた。
それじゃ，あるファイルをgzip(でもcompressでも何でもいいですが)で可逆圧縮したとして，ヘッダ以外の「ランダムな」(=サイズがその情報量にほぼ等しい)部分には情報はないんですか? そんなことはないでしょう．
完全にランダムならば、その中に情報は含まれないはずです。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
最初のバージョンは常に打ち捨てられる。
現在の情報理論の常識から言えば (スコア:5, 興味深い)
しばらくは眉にツバをつけて見てたほうがいいかも．理論もまだ公開されてないわけだし．
Re:現在の情報理論の常識から言えば (スコア:2, すばらしい洞察)
Re:現在の情報理論の常識から言えば (スコア:2, 参考になる)
「ネットワーク上でやりとりされるデータをランダムに抽出したところ、平均1/100の圧縮率」
で可逆圧縮できる方法を編み出したのではないかな、と思います。
もしそうだとすれば、それはそれで素晴らしいことです。
Re:現在の情報理論の常識から言えば (スコア:2, おもしろおかしい)
フェルプス君やジェームズ・ボンド君に教えて上げてください。
特にボンド君は、残りの上映時間をすべて美女と楽しめることに大喜びするでしょう。Re:現在の情報理論の常識から言えば (スコア:1)
ていうか、もう少し詳しく説明してもらわないと、
何を言いたいのか理解できません。
Re:現在の情報理論の常識から言えば (スコア:1)
圧縮が可能なデータ列なら「完全なランダム」ということはあり得ないということです。だから圧縮された元データは
「一見ランダムに見えるだけで、厳密には完全なランダムなデータではなかった」
ということだろう、ということです。
Re:現在の情報理論の常識から言えば (スコア:1)
情報を含んだデータ列には必ず規則性が存在
です。
圧縮可能なら完全にランダムではない
なんてことを否定してはいません。
Re:現在の情報理論の常識から言えば (スコア:1)
＞圧縮可能なら完全にランダムではない
ことを肯定することと
＞情報を含んだデータ列には必ず規則性が存在
を否定することは矛盾してませんか？
完全にランダムな状態で情報が含まれるというのはどういうものがあるんでしょうか？
Re:現在の情報理論の常識から言えば (スコア:1)
> ＞圧縮可能なら完全にランダムではない
> ことを肯定することと
> ＞情報を含んだデータ列には必ず規則性が存在
> を否定することは矛盾してませんか？
しません。例えば、コイントスの結果を伝える場合を考えます。情報は、出た面が表なら 1、裏なら 0 というように符号化し、一回目から順に並べるとします。
コインに偏りが無ければ、このビット列はランダムですが、コイントスの結果と言う情報は正しく伝えています。
完全にランダムなものが、もっとも多くの情報を持つ (スコア:1, 参考になる)
現在の情報理論の常識から言えば（笑）、 完全にランダムなものが、もっとも多くの情報を持つのです。
情報量は、シャノンにより、エントロピーと定義されています。http://www.chienowa.co.jp/frame1/ijinden2/Claude_Shannon.html
Re:現在の情報理論の常識から言えば (スコア:0)
円周率を256進数で100万桁まで展開します。"ランダム"ですか？
「はい、"ランダム"です。」
圧縮可能ですか？
「はい、可能です。」
そもそも「ランダム」って用語について議論するならば、もっと
精確な「ランダム」の定義をあたえなければならないでしょうね。
Re:現在の情報理論の常識から言えば (スコア:0)
計算式で計算できます
# 何桁でも計算で出せるんだから、とてつもない圧縮率だなぁ
Re:現在の情報理論の常識から言えば (スコア:1)
> 情報は、出た面が表なら 1、裏なら 0 というように符号化し、
> 一回目から順に並べるとします。
> コインに偏りが無ければ、このビット列はランダムですが、
> コイントスの結果と言う情報は正しく伝えています。
コイントスの結果のビット列は
やはり何も情報を持っていないように思います。
観測者が
「このビット列はコイントスの結果である」
とか
「情報の格納方法は表なら 1、裏なら 0で一回目から順に並べてある」
という情報を持っているから
ビット列はコイントスの結果になりうるのであって
たとえば、ビット列のみ第三者に渡した場合
その人はそれが何かという情報を引き出せるのでしょうか？
このコイントスの結果には
「情報の格納方法は表なら 1、裏なら 0で
一回目から順に並べてある」
という規則性があるように思えます。
Re:現在の情報理論の常識から言えば (スコア:1)
>「情報の格納方法は表なら 1、裏なら 0で
>一回目から順に並べてある」
>という規則性があるように思えます。
それは単に情報をどういう意味に解釈するかの問題です。
「規則性」うんぬんと関係があるとは思えませんが。
うじゃうじゃ
Re:現在の情報理論の常識から言えば (スコア:1)
つまり、「情報を含んだデータ列には必ず規則性が存在」というのはやっぱりウソで、規則性は、データ列の中に存在する必要はありません。データ列が一見ランダムであっても(あるいは、本当にランダムであっても)、そのデータ列に情報が含まれるか否かとは関係が無いと言う事です。
ところで、前にも質問してるんですけど、ランダムってどういう意味で使ってますか？それと「情報を含む」ってどういう意味で使ってますか？それをきちんと定義してもらえば、話は通じるかもしれませんよ。
＃トリビアルかも知れんけどね。
Re:現在の情報理論の常識から言えば (スコア:1)
> 「このビット列はコイントスの結果である」
> とか
> 「情報の格納方法は表なら 1、裏なら 0で一回目から順に並べてある」
> という情報を持っているから
> ビット列はコイントスの結果になりうるのであって
> たとえば、ビット列のみ第三者に渡した場合
> その人はそれが何かという情報を引き出せるのでしょうか？
「情報」の解釈が間違っていると思います。
少なくとも、Shannonが創始した情報理論では
(ここではその話をしているんですよね？)、
(一般人が使う意味での)「情報」から「意味を捨て去って」確率過程として
モデル化したところから全てが始まったので。
Re:現在の情報理論の常識から言えば (スコア:1)
ちゃんと読もう。256進数で展開して(別に10進数でも いいけど、彼は1桁1バイトにあわせる意味でこうしている)、 各桁の数を取り出して、そこに規則があるかどうか、という事。 で、結局のところ、いわゆる乱数列と 何ら変わりはないのだ。例えば100桁の乱数列を 生成したとして、この列が円周率を展開したものの どこかに含まれる可能性は0ではない、とかそういった 話が後に続きます。このあたりはフォン=ノイマンが研究していた。
Re:現在の情報理論の常識から言えば (スコア:0)
jugem さんが言っているのは information
Ryo.F さんが言っているのは data
議論が噛み合ってない
情報量も情報数学と情報通信学では
扱われ方違うし
はい、その通りです (スコア:1)
元の方で訂正書いたんですが、ご指摘の通りです。
私の完全な勘違い、間違いです m(_ _)m
「情報」 (スコア:1)
それじゃ，あるファイルをgzip(でもcompressでも何でもいいですが)で可逆圧縮したとして，ヘッダ以外の「ランダムな」(=サイズがその情報量にほぼ等しい)部分には情報はないんですか? そんなことはないでしょう．
Re:「情報」 (スコア:1)
それは「完全なランダム」ではないです。
完全なランダムにしてしまうと復元はできません。復元するための規則性が必ず残ります。
Re:「情報」 (スコア:1)
大体、ランダムってどういう意味で使ってますか？
Re:「情報」 (スコア:1)
表だって出来るほどの度胸も論理性も(弁舌も暇も(笑))ない、
どこにでも居るありがちなアノカワ君みたいね。
Re:「情報」 (スコア:1)
ごめんなさい (スコア:1)
完全にランダムな状態（全ての要素の出現率が均一）で情報量（エントロピー）が最大になるので、それ以上の圧縮は不可能。
でした m(_ _)m
Re:現在の情報理論の常識から言えば (スコア:0)
情報量って生起確率の逆数の対数ですよね。真の乱数生成器があったとして、そこから有限長のデータを受け取る場合、ある特定の列の生起確率は非常に低い(Nビット長なら確率1/2^N)でしょう？だとすると情報量は多いと思うのですが。