「ロボット3原則ならぬ「AI開発 23原則」」記事へのコメント

倫理と価値基準について

[orcinus (28475)]

AI開発しています。

6) AIシステムはその一生を通して、できる限り検証可能な形で安全、堅牢である。
7) AIシステムが害をなした場合、原因を確認できるようにする。
8) 自動システムが司法判断に関わる場合、権限を持つ人間が監査し、納得のいく説明を提供できるようにする。
9) AIシステムの開発者は、システムの使用、悪用、結果に倫理的な関わりがあり、どう使用されるかを形作る責任と機会がある。

このあたりは現状かなり難しいですよね。ニューラルネットワークを元にしたシステムは
入力と出力しかわからなくて中身はほぼブラックボックスですね。こういうネットワーク構成だから、あるいは、こういう結合荷重だったからこうなったという説明をするは今後の課題でしょうね。

それに対してAI開発者に「責任」があるというのは製造者責任法てきな発送でしょう。もちろん、問題が起きないように、配慮します。しかし、作っている本人にも全パターンの入出力を検証できないわけです。これを開発者に守らせるようなら開発なんてできないように思います。「AIの利益は享受したい。でも、責任は開発者がとれよ。」というのでは開発者いなくなってしまいます。

ここでの議論もSFに寄りがちだし、イーロン・マスクにしてもホーキングにしても開発当事者ではない。AIが何であるかを理解していないように思います。

現状のAIは便利だけれど、中身について十分な検証可能性はないものです。
そこを少しでも明らかにしていくのは我々の仕事でしょう。けれど、これには長い時間がかかるといます。

Re:倫理と価値基準について

[qem_morioka (30932)]

AlphaGoの話題の時にAIに囲碁のルールを教えていないって書いたら
袋叩きにあったんだが、基本的にAIって途中経過がよくわからないよね。

結局「どういう理屈でこの結果を出したかはAI自分自身わかっていない」というのが
AIを受け入れがたいものにしている一つの要因なんじゃないかなー

人間なら勘、とか虫の知らせや、長年の経験(ひぃ で済むことだけど…

# 言うなれば超促成栽培した経験… _(:3 」∠)_

Re:

[Anonymous Coward]

人間の学習だってわかってない。
AI実装してみてこれでも良いんだってわかったことも。

見て、そこから抽出してという手法の不確実さ、コストから途中も直接記述で与えるようになってきてるだけで。

不確実さの中にはどういう成果が生まれるか予測がつかないという面がある、
ただ人間の場合は経験則で機知の範囲に納まることを期待しているし通常できる。
AIだとどこまで行くかわかってないのをねたのひとつにしたのが「未来の二つの顔」

＃サイコパスは生まれる（生得）のかなるのかわかってない。
＃生まれることにすると、断種だなんだと影響が大きすぎるから受け入れないことにする

それこそ長年やってたしそうするしかないから受け入れてる
ある程度の経験則はあるけど裾野は広い