パスワードを忘れた? アカウント作成
13114489 story
人工知能

総務省、AIの公的認証制度を検討中 103

ストーリー by hylom
人工知能の脅威(棒) 部門より
あるAnonymous Coward 曰く、

総務省が人工知能(AI)の安全性やセキュリティなどを評価する公的認証制度を立ち上げる方針だという。立ち上げは2018年以降を目標としているそうだ(日経新聞)。

個人や企業などのユーザーが人工知能を使用して事故が発生した場合、開発・提供企業はその責任が問われる可能性があるが、認証を受けた人工知能の場合はその責任が限定されるという。2018年以降に必要な法改正や認証制度の立ち上げを行う予定のようだ。

「非常時に人間が緊急停止できること」「サイバー攻撃を受けて簡単に操られないこと」「個人情報を匿名化するなどプライバシーに配慮すること」「不必要に強力なモーターを搭載しないこと」などが挙げられているという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by caret (47533) on 2017年01月05日 14時35分 (#3139355) 日記

    AI はどのように表示するのだろう?やはり電磁的表示だろうか?

    # (Hey Siri|OK, Google|コルタナさん) 法的情報を読み上げて

  • by nemui4 (20313) on 2017年01月05日 15時44分 (#3139398) 日記

    >認証を受けた人工知能の場合はその責任が限定されるという。

    犯行時に心神喪失であったと鑑定されたら経時的責任を免れられるのとさも似たり?

  • by Anonymous Coward on 2017年01月05日 15時13分 (#3139376)

    なぜ人工知能限定にするんだろ。作るならソフト全般にするべきなような。
    これは囲碁などで人間には理解できない打ち筋とか言われてるからこその議論なんだろうけど、最終的なアウトプットに責任が持てないような場面でソフトの演算結果をそのまま使う企業側の問題。こんな責任回避法作るべきじゃない。

    • by Anonymous Coward

      ソフト全般は経産省の管轄。人工知能はまだツバ付いてないから総務省が手を出してるの。
      目的は責任回避じゃなくて縄張り確保。

      • by Anonymous Coward

        んー、そんな感じだねぇ。
        さて問題です、AIで制御するソフトウェアを搭載した自動車の管轄省庁はどこでしょうか?
        1.経済産業省
        2.総務省
        3.国土交通省
        4.上記すべて

    • by Anonymous Coward

      人工知能の定義って本当にどうするんでしょうね?例えば道路のねずみ取りは人工知能なのか違うのかとか。

  • by Anonymous Coward on 2017年01月05日 15時23分 (#3139385)

    今流通しているAIを謳った家電は、開発時にラボで学習させて巨大なパラメータを生成し、製品ではそのパラメータで決まる評価関数に使用履歴などのデータをぶち込んで単純な計算をしているだけなのがほとんどだと思う。
    それはAIか?と常々思っている。使っていくうちにパラメータも変化するのが学習ってものだろう?
    (ファジーのときも大体そんなだったはず。)

    • by Anonymous Coward

      人工知能と言ってるんだから、もちろんチューリング・テストで判定するんでしょ

      #会話機能付きの自動運転車の開発をお待ちしています。

    • by Anonymous Coward

      確かに、本番環境で学習するAIなんて限られているよな。
      学習結果を制御テーブルに落とし込んで単純計算で動作しているようなものでも、想定外の入力があれば想定外の動作をしたりもする。
      最終的にテスト要員が泣くことになるわけだ。

      • by Anonymous Coward

        それはノイズをぶち込んで証明して保証とするしかないと思う
        ここから先に進んで本番環境で学習されるともうそれも不可能になるわけだが制度設計としてどう考えているのやら

    • by Anonymous Coward

      ファジー・ニューロ掃除機の復権?

      そもそもこれのどこがファジーでニューロなんだって世界はあるから、そういう商品でも
      AI掃除機やAI炊飯器やAI空気清浄機という名前を付ければ売れると思えばどこかが作るかも。
      マイナスイオンなんたらと一緒。

    • by Anonymous Coward
      >今流通しているAIを謳った・・・・だけなのがほとんど

      なんだ、ただの東大生じゃないか。
  • by Anonymous Coward on 2017年01月05日 15時42分 (#3139397)

    たいとるのみ

  • by Anonymous Coward on 2017年01月05日 15時56分 (#3139405)

    認証制度といいつつ
    メリットは責任が限定されること
    安全性を審査するといいつつ
    メリットは責任が限定されること
    審査で安全であることを確認したのに
    なんで事故が起こることを想定するのか?

    これって問題を起こしても責任を回避できる特権という無駄な物を生みだすだけだよね

    • by qem_morioka (30932) on 2017年01月05日 17時00分 (#3139441) 日記

      審査で安全であることを確認したのに
      なんで事故が起こることを想定するのか?

      その安全は絶対ではないからですよ。

      ある基準を満たしている、ということでしかないので、
      当然その基準を超えた使い方をしたりすると安全ではない。
      また基準の想定外の範囲については、言うまでもないよね。

      これって問題を起こしても責任を回避できる特権という無駄な物を生みだすだけだよね

      安全基準が守られていれば、ある程度の責任は回避できるでしょう。
      そのための基準ですから。

      親コメント
      • by Anonymous Coward

        安全審査を通ったのに事故が起こることを想定している時点で
        安全審査には限界があることを認識しているわけだ
        その安全審査では防げない事故があるってことを。

        まあ、それは、いい。完全な安全も存在しないし、完全な安全基準も存在しない。
        そのなかでも安全基準を考えて、事故をなるべく減らすようにがんばろう。それはいい。

        ただ、安全審査を通ったことをもって責任を限定するというとき、
        本来企業が負うべき責任まで回避することになるんじゃないの?ってことが問題。
        安全審査には限界があることはわかっているんだから

        • by qem_morioka (30932) on 2017年01月05日 17時51分 (#3139488) 日記

          安全基準に従って製造されたもので想定外の事故が起きたら
          二度と繰り返さないように基準を変更する、というのが筋でしょう。

          本来負うべき企業の責任

          って具体的に何を指してますか?

          親コメント
          • by Anonymous Coward

            ある人がある製品を買いました。使いました。その結果事故が起こりました。
            使い方には問題がありませんでした。製品自体の問題でした。
            それは企業が負うべき責任でしょうね
            もしその製品が安全審査を通っていたとしてもね。

            安全審査は完全な基準ではなくて、ある一定の基準でしかないのですから。

            もちろん、安全基準を変更していくことは大事なことですけどね。

    • by bigface (47795) on 2017年01月05日 20時21分 (#3139596) 日記
      Uberが自動運転技術で当局と揉めた件、総務省の中の人も知ったのかもしれん。
      国内で開発メーカーが揉め事起こす前に、メリット付き認証制度でメーカーを制御したいのかな。
      親コメント
    • by Anonymous Coward

      安全対策してたけど事故が起こってしまったと、なんも考えてなかったらやっぱり事故が起こったでは、責任の重さが違うでしょう実際。

      • by Anonymous Coward

        責任の重さが違うのは当然だけど
        その責任の範囲をこんな制度とリンクする必要はないって話
        製造物責任法なりなんなりこれまで通りのやり方で責任の範囲を決めればいいって話
        裁判になるなら、そのなかで責任の大小を判断すればいいって話

        • by Anonymous Coward

          製造物責任法は消費者を守るのが目的。
          今回のは製造者を守るのが目的。
          目的からしてまったく別物。

    • by Anonymous Coward

      こういう人が「原発は安全だから事故対策など不要」とか言い出しちゃうんだろうなあ。

      • by Anonymous Coward

        ほんこれ。安全神話を作ったのは国民の無責任な声なんだよ。
        それなくして廃炉だの東電の責任だのは語れんよ。脱原発は市民運動の反省からだろう。

    • by Anonymous Coward

      安全性を審査し認証する=完全な安全性を担保する

      じゃないことぐらいわかるだろ

      • by Anonymous Coward

        安全性を審査し認証する=完全な安全性を担保する
        じゃないことぐらいわかるよ
        それと同時に
        安全性の審査基準=完璧な審査基準
        じゃないこともわかる
        だからこそ
        不十分かもしれない安全性の審査基準を満たしたことをもって
        企業が負うべき責任を必要以上に免責することになるならば、それは問題だってこと

  • by Anonymous Coward on 2017年01月05日 16時19分 (#3139420)

    電子版の方は無料部分しか見てないので差分は謎ですが、年末の紙面でも詳しく報道されてたらしいです。
    著作権的にあれですが、こそっとリンク [imgur.com]貼っときます。

  • by Anonymous Coward on 2017年01月05日 16時25分 (#3139425)

    あれも事故が起きた時に限定するやり方だったし。

    • by Anonymous Coward

      安全基準をつくって
      それを満たしたという意味での「弱い意味での安全」

      絶対事故は起こらないっていう意味での「強い意味での安全」

      制度としては前者の仕組みで「安全」といっておいて
      誰かに説明するときは後者の意味の「安全」と勘違いさせるよう誘導する
      で、実際に問題がおこったら、基準を満たしているという意味での安全ですよと逃げる

      そういう詐術をまた使おうってことなんでしょうね

      • 原爆落とされた国でその原爆のキモともいえる放射性物質を使った
        発電所を建てるときに言われた安全(神話)と

        今回の話を同一視するのって、ほんと気持ち悪いね。なんでも原発に
        結び付けないと気がすまない病に罹ってるの?

        その考え方でいうと、自動車の安全基準についても噛みつけるんだよね?
        さあ、とっとと噛み付いてごらんよ。

        おもちゃだって遊具だって安全基準あるし、食品にしたってあるよ?
        さあ、とっとと噛み付いてごらんよ。

        親コメント
        • by Anonymous Coward

          似たような状況が過去にあったなら
          次に何かやるときに、それについて考えつつ、同じ失敗をしないように、事を進めるというのが当然だと思うけどね
          歴史から学ぶというかね

          • by Anonymous Coward

            「似たような状況が」とおっしゃっていますが、どの辺が似たような状況と認識されているのでしょうか?

            「安全基準」という言葉以外に似たような部分が見えてこないのですが

        • by Anonymous Coward

          原発を特別視して安全性から目を背けてきたこういう種類の人間が間接的にああいう事故を招いたんだよね。
          本人にまったく自覚はないんだろうけど。

          安全性を考える上で、原発は何も特別ではないのにね。

          • by Anonymous Coward

            石炭の採掘でどれだけの人命と環境を犠牲にしたかは考えないことにします

  • by Anonymous Coward on 2017年01月05日 18時50分 (#3139527)

    下手に手続きが増えると嫌だから、説明で人工知能避けてしまいそう。

typodupeerror

皆さんもソースを読むときに、行と行の間を読むような気持ちで見てほしい -- あるハッカー

読み込み中...