アカウント名:
パスワード:
同じく。何を言ってるのかいまいち理解できませんでしたが。
自動的に何かを決定する類のプログラムが、社会的に大きな影響を与える場面で使われていること。その際、人間による出力結果の確認と承認が省かれることが非常に多いということ。プログラムにはしばしば癖や欠陥があって、人間なら導かない答えを導き出しうること。そのあたりを問題にしているような気がしました。
けれど、その問題は、解決されないように思えます。比較的重要なものだけに限ったとしても、人間がコンピュータの出力が妥当かどうかを逐一確認するのは現実的ではないでしょう。特に、金融などスピードが要求される場面では、人間の承認を要求すること自体に無理があるでしょう。
なので、> 「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」
どのようなソフトウェアも、書いたとおりにしか動かないのだから、「アルゴリズム」は設計者が設計当時に気がついたことだけを知っている。そして「アルゴリズム」を監視し、出した答えをひとつひとつ検証する時間はない。けれど「アルゴリズム」に付きっ切りのベビーシッターになるのではなく「アルゴリズム」がときに間違えるという現実を受け入れて、システムの混乱にいちいち惑わされないようになってこそ「アルゴリズムを服従」させたと言えるのではないか。それなら、まだいくらでも時間はある。
言いたいことは
ソフトウェアにはバグ（＝実装ミスor設計ミス）がつきもので，誤動作する場合が多々ある．この事実を忘れてしまうと，いつか痛い目に会うよ．気をつけようね．
という工学的には当たり前の事かも．
たれこみで取り上げられてる問題は、人工知能というか、数式モデルの問題ですよね。数式モデルが妥当でなかったり、適応範囲を超えて使ったり、そういうことによって引き起こされてる問題のような。
あらあら、おじいちゃん、さっきご飯食べたばっかりでしょお。って奴ですね、わかります。
# 老害とアルツハイマーは紙一重
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
何を言っているのかサッパリなんですが・・・ (スコア:3, すばらしい洞察)
それが世界を支配するのは当たり前の事でしょう
野放しにする、とか、服従させる、とか、
およそアルゴリズムに対して言うには不適当な言葉っぽいですが・・・
＃他の人が言ってる通り、人工知能と混同しているのでしょうか
Re:何を言っているのかサッパリなんですが・・・ (スコア:4, すばらしい洞察)
同じく。何を言ってるのかいまいち理解できませんでしたが。
自動的に何かを決定する類のプログラムが、社会的に大きな影響を与える場面で使われていること。
その際、人間による出力結果の確認と承認が省かれることが非常に多いということ。
プログラムにはしばしば癖や欠陥があって、人間なら導かない答えを導き出しうること。
そのあたりを問題にしているような気がしました。
けれど、その問題は、解決されないように思えます。
比較的重要なものだけに限ったとしても、人間がコンピュータの出力が妥当かどうかを逐一確認するのは現実的ではないでしょう。
特に、金融などスピードが要求される場面では、人間の承認を要求すること自体に無理があるでしょう。
なので、
> 「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」
どのようなソフトウェアも、書いたとおりにしか動かないのだから、「アルゴリズム」は設計者が設計当時に気がついたことだけを知っている。そして「アルゴリズム」を監視し、出した答えをひとつひとつ検証する時間はない。
けれど「アルゴリズム」に付きっ切りのベビーシッターになるのではなく「アルゴリズム」がときに間違えるという現実を受け入れて、システムの混乱にいちいち惑わされないようになってこそ「アルゴリズムを服従」させたと言えるのではないか。それなら、まだいくらでも時間はある。
1を聞いて0を知れ!
Re:何を言っているのかサッパリなんですが・・・ (スコア:2)
言いたいことは
ソフトウェアにはバグ（＝実装ミスor設計ミス）がつきもので，誤動作する場合が多々ある．
この事実を忘れてしまうと，いつか痛い目に会うよ．気をつけようね．
という工学的には当たり前の事かも．
Re:何を言っているのかサッパリなんですが・・・ (スコア:1)
社会に出力するという状況」をもってアルゴリズムと称しているのではないでしょうか。
この意味で、杓子定規なお役所仕事などは人工知能的ではないけれどアルゴリズム的といえそうな気がします。
(数式)モデルのことかな？ (スコア:1)
たれこみで取り上げられてる問題は、人工知能というか、数式モデルの問題ですよね。
数式モデルが妥当でなかったり、適応範囲を超えて使ったり、そういうことによって引き起こされてる問題のような。
Re: (スコア:0)
＞ 野放しにする、とか、服従させる、とか、
＞ およそアルゴリズムに対して言うには不適当な言葉っぽい
加えて
肩書きが「アルゴリズムの専門家 (algorithm expert)」で、
言っていることは、大人が監視していなければ・・・。
具体的な、対案を挙げている訳でも無し、
って辺りから見ると「近頃の若い者は・・・」の一種じゃないでしょうか。
Re:何を言っているのかサッパリなんですが・・・ (スコア:1)
あらあら、おじいちゃん、さっきご飯食べたばっかりでしょお。
って奴ですね、わかります。
# 老害とアルツハイマーは紙一重