「殺人AIなどナンセンス」記事へのコメント

うっかりの方が怖い

[ma_kon2 (9679)]

意図的に殺す，ていうのはナンセンスだと思うけど，
うっかりテヘペロは普通にありそうだよね。

Re:

[Anonymous Coward]

ドジっこAIですね。

Re:うっかりの方が怖い

[Lurch (10536)]

「未来の二つの顔」だったと思いますが、AIに教え込む研究室での会話で
猫のノミを退治するのに、猫ごと燃やすとノミが退治できるって回答がダメなのを教えてる
ような話があったような

--

------------
惑星ケイロンまであと何マイル？

Re:うっかりの方が怖い

[ma_kon2 (9679)]

ディープラーニングだとその辺が難しいですよね。

Re:

[Anonymous Coward]

http://japanese.joins.com/article/474/215474.html [joins.com]
IBMの人工知能「ワトソン」韓国語勉強中…SKと組んで来年韓国市場でサービス ← きっと素晴らしい対日憎悪AIに仕上がる事だろう。

Re:

[Anonymous Coward]

同じく未来の二つの顔」だけど、

＞「ロボットが人間に対し反乱を起こす」脅威
AIが人間に反乱を起こさなくても、それと同等な行動を取ることは可能ということが示されてるよね。

現状じゃまだそこまで進歩してないってとこだけは賛成だけど。

Re:

[Anonymous Coward]

AIなんてなくても産業用ロボットによる死亡事故は意外に起きてたりする
AIとまではいかないものの、一定の条件で人を殺すロボットを作って、設定や入力値間違えて無差別殺戮し始めちゃう可能性のほうが高いかな
AIで、というのはエネルギーの供給や渡海まで自力で解決するロボットを恐れているんだろうけど、強感染性のインフルエンザの心配する方が現実的

…といったら夢もロマンもない奴と言われちゃうのだろうか

Re:うっかりの方が怖い

[ma_kon2 (9679)]

過失による死亡事故はそのとおりなんでしょうね。
件の殺人AIってやつは，おそらく過失の枠を出たヤツを指しているのでしょうね。
でも，AIにとってその差って，区別できるんでしょうかね？
人間でも難しいですよね。なので「テヘペロ」なのですｗ
正直，自分の老後の先の死に方するのか考えるぐらい間抜けな心配だと思う。

Re:

[Anonymous Coward]

戦争で敵兵を自動で攻撃するドローンを作ったら、識別機能にバグがあって味方を殺し始めた、とかなら普通にありそうだ

或いは殺人を起こすロジックバグを意図的に仕組まれたりとかね（劇場版パトレイバーがこのパターン）

Re:

[Anonymous Coward]

確か、音響(誘導)魚雷の試験で発射した艦自身のエンジン音に反応して帰って来ちゃった事件とか、
実戦でも、自分の撃った魚雷が帰ってきて沈んじゃった艦とかがあったような…。

Re:

[Anonymous Coward]

全てにおいて最優先する「殺人は禁止」という原則を設け、
その上で自由に学習していってね、ってのじゃだめかな。

Re:

[Anonymous Coward]

ロボット三原則を人工知能に適用する、か……。

Re:

[Anonymous Coward]

間接的に殺すってのはどうだろう。
トレードAIとか今でもミスで投資家を殺せるんじゃないだろうか。

# 2008年にユナイテッド航空株を大暴落させてる実績もあるし。