「ロボット3原則ならぬ「AI開発 23原則」」記事へのコメント

倫理と価値基準について

[orcinus (28475)]

AI開発しています。

6) AIシステムはその一生を通して、できる限り検証可能な形で安全、堅牢である。
7) AIシステムが害をなした場合、原因を確認できるようにする。
8) 自動システムが司法判断に関わる場合、権限を持つ人間が監査し、納得のいく説明を提供できるようにする。
9) AIシステムの開発者は、システムの使用、悪用、結果に倫理的な関わりがあり、どう使用されるかを形作る責任と機会がある。

このあたりは現状かなり難しいですよね。ニューラルネットワークを元にしたシステムは
入力と出力しかわからなくて中身はほぼブラックボックスですね。こういうネットワ

Re:倫理と価値基準について

[qem_morioka (30932)]

AlphaGoの話題の時にAIに囲碁のルールを教えていないって書いたら
袋叩きにあったんだが、基本的にAIって途中経過がよくわからないよね。

結局「どういう理屈でこの結果を出したかはAI自分自身わかっていない」というのが
AIを受け入れがたいものにしている一つの要因なんじゃないかなー

人間なら勘、とか虫の知らせや、長年の経験(ひぃ で済むことだけど…

# 言うなれば超促成栽培した経験… _(:3 」∠)_

Re:

[Anonymous Coward]

人間の学習だってわかってない。
AI実装してみてこれでも良いんだってわかったことも。

見て、そこから抽出してという手法の不確実さ、コストから途中も直接記述で与えるようになってきてるだけで。

不確実さの中にはどういう成果が生まれるか予測がつかないという面がある、
ただ人間の場合は経験則で機知の範囲に納まることを期待しているし通常できる。
AIだとどこまで行くかわかってないのをねたのひとつにしたのが「未来の二つの顔」

＃サイコパスは生まれる（生得）のかなるのかわかってない。
＃生まれることにすると、断種だなんだと影響が大きすぎるから受け入れないことにする

それこそ長年やってたしそうするしかないから受け入れてる
ある程度の経験則はあるけど裾野は広い