パスワードを忘れた? アカウント作成
13155223 story
人工知能

ロボット3原則ならぬ「AI開発 23原則」 38

ストーリー by hylom
でもAIより人類のほうが恐ろしいですよ 部門より

SF作家アイザック・アシモフが提唱した「ロボットが人間に危害を加えてはならない」などの項目からなる「ロボット3原則」は創作の枠を超えて現実世界にも影響を与えているが、このたび人工知能(AI)の研究者らが「AI23原則」を策定したそうだ(ギズモード・ジャパン)。

AI23原則は「研究」「倫理と価値基準」「長期的な」問題の3つのテーマから構成されており、「有益な知能の開発を目指す」「問題が発生した際の原因追及やAIに対する監査は人間が行うべき」「相応の計画と管理が必要」などというもの。この原則には物理学者のスティーブン・ホーキング氏やTesla Motorsのイーロン・マスクCEOなど、多くの人が賛同しているという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by qem_morioka (30932) on 2017年02月14日 11時54分 (#3160641) 日記

    とりあえず不安だからアレは止めようこれはしちゃイカン
    使うのはコレだけにしようってのが多すぎるわ

    そういうのひっくるめてアシモフは3つにまとめたのが素晴らしいのに
    (そしてそこに矛盾があるのを自らネタにして作品世界を広げていった)

    マジにこのままだったらリジェクトだ

    • by Anonymous Coward on 2017年02月14日 12時12分 (#3160657)

      同意。
      余計なお世話の集大成としか言い様が無い。

      しかもちゃんちゃらおかしいのが「原則」を名乗ってるのに

      > 人によって色々な解釈をしてほしいと思います
      とか言っちゃってる所。
      混沌を作るのが目的なのか? 頭がいっちゃってるぜ、と正直思う。

      親コメント
      • by Anonymous Coward

        アシロマグループには、Yutaka Matsuoなる、恐らくは日本人もいたらしいから、「解釈改憲」の可能性をねじ込んだといえば穿ち過ぎか。
        そのうち、AIがAIを開発する未来、AIに人権を認めざるを得ない未来が来るだろうが、左右対立で「AI23原則」が改正できない可能性に備えたのなら、日本で観測された現実への正しい配慮だ。

        • by Anonymous Coward

          いや、色々な解釈を許すなんてカオスな抜け道を作るぐらいなら、必要最低限なものに絞りに絞って、そこに各国毎に必要なものを付け加えて行けばいい話じゃない?
          新解釈なんて、どんなに素晴らしい解釈でも議論を呼んで面倒くさい事になるし、一つの原則に基づいているはずなのに派閥が出来るでしょ。
          現時点でこんな贅肉たっぷりなものを作って、しかも多義的な解釈を推奨するのは、やっぱり頭おかしいとしか思えないかな……。

    • by Anonymous Coward

      自らアレは止めようというより、社会や政治から止めろと言われないようにするための対外的なアピールだろうね。
      自分たちはちゃんと考えて研究やってるから大丈夫ですよ~って。
      アレ止めろと外部からいわれる前に、そんなことしませんよ~って。
      世間の関心と警戒が高まっているだけに、こういう政治的な対応も仕方ないんじゃない?

      • 節子、それアシモフの作品世界そのまんまや…

        ロボットが普及するにあたってそういう不安があるので
        三原則をつくってロボットは人間に対しては無害ですよというアピールをして
        普及させたという設定なのよ…

        他のコメントにも言われているとおり、ロボット三原則なんて作品世界の設定の一つであって
        アシモフ自身これのおかげでロボットが安全に普及するなんてこれっぽっちも考えてないからね。

        アシモフの作品って基本的にこのロボット三原則の矛盾を突いたサスペンスだったり、グレディアさんがなにやら艶やかだったり、グレディアさんがいろいろいとナニでアレだったり(やめないか とにかくこれだけじゃダメだから追加の法則つくったぜ(゚∀゚) !とか、ほんとあくまで作品のプロットとして導入しただけの話であって本気でロボットの普及を考えた思考実験ではないんだ。

        なので本気になって考えたら23にもなってしまったってのもわからないでもないが
        もう少しなんとかならなかったのか、という話なのよ _(:3 」∠)_

        親コメント
    • by Anonymous Coward

      2つか3つかの原則、という意味だとオモタ

    • by Anonymous Coward

      ロボット3原則は抽象的で日本国憲法に例えれば基本理念を定めた前文までの内容。
      AI開発23原則は少し具体的で憲法だと各条文辺りになるんじゃないか。
      ま、それでも十分抽象的だ。
      実装するにはさらにブレークダウンされた各種法律、政令等を参照しなければならないだろう。

      余談だが、ロボット3原則は古い思考実験という印象しかない。
      私が無条件に支持できるのは第一条だけだな。

      • by Anonymous Coward
        根本的に勘違いしてると思いますけど、ロボット物の推理小説を書くために、一件矛盾してなさそうでも状況によって矛盾するように作ったネタですよ。
        思考実験として考えられたようなものではないんです。

        想定されてた読者層も、下は小学生ぐらい。
        子供がよんですぐ理解できて、途中で矛盾していくなかでも、個々の点ではそれに従っているという点を、子供がすぐに理解できるような簡単なシチュエーションを作るために用意されたネタなのですよ。
        • これいつものアレと同じ人かなあ。
          この人の意見は「アシモフの三原則は欠陥だらけ」という結論ありきで議論してるから、いつも論理が破綻してないか。

          >ロボット物の推理小説を書くために、一件矛盾してなさそうでも状況によって矛盾するように作ったネタですよ。
          まず、(同じ人だとして)この人はいつも『矛盾してる!!』と言ってるけど、何がどのように矛盾してるかは主張してない。矛盾という言葉さえ理解してるかどうか。
          まずは何がどのように矛盾してるか、どんな欠陥があるか、みんなに説明してみなさい。

          第二に、仮に推理小説のネタだとして、ネタだからこそ、むしろ究

          • 鋼鉄都市以降が推理小説…

            はだかの太陽の事を指してると思うけど、そういう書き方だと
            ファウンデーションシリーズが推理小説だと受け取りかねないよ _(:3 」∠)_

            親コメント
            • 「ミュールによる捜索」「ファウンデーションによる捜索」
              通しでいえば第二ファウンデーションを探せ

              もう少し不思議な推理小説でいいのでは。

              Black Widowers書いたくらいですから推理小説だかミステリ好きは否定できない。
              #ミステリと推理小説の境界条件は?

              親コメント
            • by Anonymous Coward

              ファウンデーションシーズも含め、アシモフのSFはわりとミステリーっぽい展開は多い気はする。推理小説ではないけどね。

          • by Anonymous Coward
            アシモフのロボットものを一編ぐらいは読んでみてから、意見してみたほうがいいんでは?
            タイトルぐらいは、ご存知のようですけど、われはロボットは、推理小説というには短いかもしれませんが、短編の推理短編小説集です。違うのもまじってますけど。
            これだと10分もかからず、読める話もありますよ。
            • by Anonymous Coward

              > そういう意味で作られたSF的な密室の一つが「ゼネラルプロダクツ製の船殻」で、これなんかはブラックホールにぶつかっても壊れません。

              これ、初耳です

              英語版ウィキペディアの記述では、無事ではすまないかも、となっていますが
              https://en.wikipedia.org/wiki/General_Products [wikipedia.org]
              > and the hull probably could not survive entering a black hole's singularity.

      • by Anonymous Coward

        大日本帝国憲法吿文・上諭には「不磨の大典」を主張する問題点、日本国憲法前文には英文和訳の不自然さ、が指摘されている。
        故に憲法に前文不要、第一条のままでよい。

        # 坊主憎けりゃ袈裟まで憎い、の指摘は認める。

    • by Anonymous Coward

      まったくだわ。
      こんなの作らなくても、17条憲法でいいじゃん。

  • 1)AI研究の目標は、無秩序な知能ではなく有益な知能の開発である。

    とりあえずカオスを容認しないと有益な知能なんぞ生まれない気が。

  • AI開発しています。

    6) AIシステムはその一生を通して、できる限り検証可能な形で安全、堅牢である。
    7) AIシステムが害をなした場合、原因を確認できるようにする。
    8) 自動システムが司法判断に関わる場合、権限を持つ人間が監査し、納得のいく説明を提供できるようにする。
    9) AIシステムの開発者は、システムの使用、悪用、結果に倫理的な関わりがあり、どう使用されるかを形作る責任と機会がある。

    このあたりは現状かなり難しいですよね。ニューラルネットワークを元にしたシステムは
    入力と出力しかわからなくて中身はほぼブラックボックスですね。こういうネットワーク構成だから、あるいは、こういう結合荷重だったからこうなったという説明をするは今後の課題でしょうね。

    それに対してAI開発者に「責任」があるというのは製造者責任法てきな発送でしょう。もちろん、問題が起きないように、配慮します。しかし、作っている本人にも全パターンの入出力を検証できないわけです。これを開発者に守らせるようなら開発なんてできないように思います。「AIの利益は享受したい。でも、責任は開発者がとれよ。」というのでは開発者いなくなってしまいます。

    ここでの議論もSFに寄りがちだし、イーロン・マスクにしてもホーキングにしても開発当事者ではない。AIが何であるかを理解していないように思います。

    現状のAIは便利だけれど、中身について十分な検証可能性はないものです。
    そこを少しでも明らかにしていくのは我々の仕事でしょう。けれど、これには長い時間がかかるといます。

    • AlphaGoの話題の時にAIに囲碁のルールを教えていないって書いたら
      袋叩きにあったんだが、基本的にAIって途中経過がよくわからないよね。

      結局「どういう理屈でこの結果を出したかはAI自分自身わかっていない」というのが
      AIを受け入れがたいものにしている一つの要因なんじゃないかなー

      人間なら勘、とか虫の知らせや、長年の経験(ひぃ で済むことだけど…

      # 言うなれば超促成栽培した経験… _(:3 」∠)_

      親コメント
      • by Anonymous Coward

        人間の学習だってわかってない。
        AI実装してみてこれでも良いんだってわかったことも。

        見て、そこから抽出してという手法の不確実さ、コストから途中も直接記述で与えるようになってきてるだけで。

        不確実さの中にはどういう成果が生まれるか予測がつかないという面がある、
        ただ人間の場合は経験則で機知の範囲に納まることを期待しているし通常できる。
        AIだとどこまで行くかわかってないのをねたのひとつにしたのが「未来の二つの顔」

        #サイコパスは生まれる(生得)のかなるのかわかってない。
        #生まれることにすると、断種だなんだと影響が大きすぎるから受け入れないことにする

        それこそ長年やってたしそうするしかないから受け入れてる
        ある程度の経験則はあるけど裾野は広い

  • by Anonymous Coward on 2017年02月14日 12時59分 (#3160683)

    そこからしてずれてるような。

    ロボット三原則はロボットの行動について規定するもので、遵守するのはロボット。
    今回のこれはAIの開発者の行動指針を示したもので、従うのはAI開発者。
    性質としてはノックスの十戒とかの方が近いんじゃないかな。

    • by Anonymous Coward

      ノックス先生は十戒をご自分でお破りになさいますから、AI開発者に真似られたら困ってしまうので。

  • by Anonymous Coward on 2017年02月14日 12時41分 (#3160670)

    生命倫理?そんなの関係ねぇ!
    AI23原則?そんなの関係ねぇ!!

    • by Anonymous Coward

      世界は中華の炎に包まれる

    • by Anonymous Coward

      第一条
       中国国民は中国国家に危害を加えてはならない。また、その危険を看過することによって、中国国家に危害を及ぼしてはならない。
      第二条
       中国国民は中国国家にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
      第三条
       中国国民は、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

      • by Anonymous Coward

        根本的に違います。
        中国で守らなければならないのは、中国共産党ですよ。
        軍の名前見ればわかるでしょ?

        • by Anonymous Coward

          人民(をこの世から)解放軍

  • 善悪と同じで立場が違えばぜんぜん意味がかわってっくる基準は原則に採用すべきではない。

    個人的にはAI開発に必要な原則は「用法」についての制限を盛り込むだけでいいと思うんだけどね。
    1.AIに過剰に依存しないこと、異常動作した場合に致命的な事態を防ぐ体制を維持すること
    2.AIの制御を失わない、もしくは制御を失った場合の抑止の手段を持つこと
    3.AIの犯罪への悪用を防ぐ、もしくは悪用された場合の社会的な対抗手段を備えること
    思いつく限りだとこれくらいかな。

    まあ、これAIに限った話ではなく、新しい技術全般にやるべきことだと思うけどね。

typodupeerror

長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds

読み込み中...