総務省、AIの公的認証制度を検討中 103
ストーリー by hylom
人工知能の脅威（棒） 部門より
人工知能の脅威（棒） 部門より
あるAnonymous Coward 曰く、
総務省が人工知能（AI）の安全性やセキュリティなどを評価する公的認証制度を立ち上げる方針だという。立ち上げは2018年以降を目標としているそうだ（日経新聞）。
個人や企業などのユーザーが人工知能を使用して事故が発生した場合、開発・提供企業はその責任が問われる可能性があるが、認証を受けた人工知能の場合はその責任が限定されるという。2018年以降に必要な法改正や認証制度の立ち上げを行う予定のようだ。
「非常時に人間が緊急停止できること」「サイバー攻撃を受けて簡単に操られないこと」「個人情報を匿名化するなどプライバシーに配慮すること」「不必要に強力なモーターを搭載しないこと」などが挙げられているという。
総務省指定 (スコア:1)
AI はどのように表示するのだろう？やはり電磁的表示だろうか？
# (Hey Siri|OK, Google|コルタナさん) 法的情報を読み上げて
Re: (スコア:0)
ロボットじゃ無いよ
Re:総務省指定 (スコア:1)
うるさい、お前なんかロボットで十分だ
# ってオリヴォーにツッコミいれるイライジャ・ベイリ
Re: (スコア:0)
かのロボ・・・じゃなくてアンドロイドは埼玉の地図だけあれば日本全国行けるとの事ですが
もしかして埼玉版の法的情報だけあれば日本どこでも法的情報を出せるのでせうか？
Re:総務省指定 (スコア:1)
だが待ってほしい。埼玉しか日本が残っていない、という可能性は無いだろうか?
すなわち埼玉が日本であり世界であるのだ! (目ぐるぐる
Re:総務省指定 (スコア:1)
ネズミの下級民も名前がRで始まるんじゃないかな？
（Mかもしれないが)
＃ク・メル（C'mell）可愛いよ、ク・メル
らじゃったのだ
Re:総務省指定 (スコア:1)
それがかわいい娘なら無問題なんだろ?
# ええ、そうですとも
認証を受けた (スコア:1)
>認証を受けた人工知能の場合はその責任が限定されるという。
犯行時に心神喪失であったと鑑定されたら経時的責任を免れられるのとさも似たり？
人工知能の定義は？ (スコア:0)
なぜ人工知能限定にするんだろ。作るならソフト全般にするべきなような。
これは囲碁などで人間には理解できない打ち筋とか言われてるからこその議論なんだろうけど、最終的なアウトプットに責任が持てないような場面でソフトの演算結果をそのまま使う企業側の問題。こんな責任回避法作るべきじゃない。
Re: (スコア:0)
ソフト全般は経産省の管轄。人工知能はまだツバ付いてないから総務省が手を出してるの。
目的は責任回避じゃなくて縄張り確保。
Re: (スコア:0)
んー、そんな感じだねぇ。
さて問題です、AIで制御するソフトウェアを搭載した自動車の管轄省庁はどこでしょうか？
１．経済産業省
２．総務省
３．国土交通省
４．上記すべて
Re:人工知能の定義は？ (スコア:1)
回避できないでしょう。
「この車に搭乗して事故が発生した場合、メーカーは国の定めた基準に適合する部分についてはその責任を負わないものとする」
なんて書かれた自動運転車に、貴方は乗りませんよね?
Re: (スコア:0)
人工知能の定義って本当にどうするんでしょうね？例えば道路のねずみ取りは人工知能なのか違うのかとか。
何をもってAIか (スコア:0)
今流通しているAIを謳った家電は、開発時にラボで学習させて巨大なパラメータを生成し、製品ではそのパラメータで決まる評価関数に使用履歴などのデータをぶち込んで単純な計算をしているだけなのがほとんどだと思う。
それはAIか?と常々思っている。使っていくうちにパラメータも変化するのが学習ってものだろう?
(ファジーのときも大体そんなだったはず。)
Re: (スコア:0)
人工知能と言ってるんだから、もちろんチューリング・テストで判定するんでしょ
＃会話機能付きの自動運転車の開発をお待ちしています。
Re: (スコア:0)
確かに、本番環境で学習するAIなんて限られているよな。
学習結果を制御テーブルに落とし込んで単純計算で動作しているようなものでも、想定外の入力があれば想定外の動作をしたりもする。
最終的にテスト要員が泣くことになるわけだ。
Re: (スコア:0)
それはノイズをぶち込んで証明して保証とするしかないと思う
ここから先に進んで本番環境で学習されるともうそれも不可能になるわけだが制度設計としてどう考えているのやら
Re: (スコア:0)
ファジー・ニューロ掃除機の復権？
そもそもこれのどこがファジーでニューロなんだって世界はあるから、そういう商品でも
AI掃除機やAI炊飯器やAI空気清浄機という名前を付ければ売れると思えばどこかが作るかも。
マイナスイオンなんたらと一緒。
Re: (スコア:0)
なんだ、ただの東大生じゃないか。
またひとつ新たなRI★KE☆Nが誕生するのであった (スコア:0)
たいとるのみ
Re:またひとつ新たなRI★KE☆Nが誕生するのであった (スコア:1)
安全基準の利権ってどういうのなんだろう(´・ω・｀)?
行政がなんかやればみな既得権確保だとか新しい利権だとか
とりあえず言っとけみたいなノリなん?
Re: (スコア:0)
ワカメが増えると嬉しい年頃なんだろ
Re:またひとつ新たなRI★KE☆Nが誕生するのであった (スコア:1)
ふえるワカメよりもノンオイル セレクティ胡麻ドレッシングがお勧めなんだよなあ
# なんのはなしだ
Re: (スコア:0)
いえいえ、もっと直接的に認定試験をする外郭団体を作って、利益を確保するとともに天下り先にするんです。
特権制度 (スコア:0)
認証制度といいつつ
メリットは責任が限定されること
安全性を審査するといいつつ
メリットは責任が限定されること
審査で安全であることを確認したのに
なんで事故が起こることを想定するのか？
これって問題を起こしても責任を回避できる特権という無駄な物を生みだすだけだよね
Re:特権制度 (スコア:1)
審査で安全であることを確認したのに
なんで事故が起こることを想定するのか？
その安全は絶対ではないからですよ。
ある基準を満たしている、ということでしかないので、
当然その基準を超えた使い方をしたりすると安全ではない。
また基準の想定外の範囲については、言うまでもないよね。
これって問題を起こしても責任を回避できる特権という無駄な物を生みだすだけだよね
安全基準が守られていれば、ある程度の責任は回避できるでしょう。
そのための基準ですから。
Re: (スコア:0)
安全審査を通ったのに事故が起こることを想定している時点で
安全審査には限界があることを認識しているわけだ
その安全審査では防げない事故があるってことを。
まあ、それは、いい。完全な安全も存在しないし、完全な安全基準も存在しない。
そのなかでも安全基準を考えて、事故をなるべく減らすようにがんばろう。それはいい。
ただ、安全審査を通ったことをもって責任を限定するというとき、
本来企業が負うべき責任まで回避することになるんじゃないの？ってことが問題。
安全審査には限界があることはわかっているんだから
Re:特権制度 (スコア:1)
安全基準に従って製造されたもので想定外の事故が起きたら
二度と繰り返さないように基準を変更する、というのが筋でしょう。
本来負うべき企業の責任
って具体的に何を指してますか?
Re: (スコア:0)
ある人がある製品を買いました。使いました。その結果事故が起こりました。
使い方には問題がありませんでした。製品自体の問題でした。
それは企業が負うべき責任でしょうね
もしその製品が安全審査を通っていたとしてもね。
安全審査は完全な基準ではなくて、ある一定の基準でしかないのですから。
もちろん、安全基準を変更していくことは大事なことですけどね。
Re:特権制度 (スコア:1)
国内で開発メーカーが揉め事起こす前に、メリット付き認証制度でメーカーを制御したいのかな。
Re: (スコア:0)
安全対策してたけど事故が起こってしまったと、なんも考えてなかったらやっぱり事故が起こったでは、責任の重さが違うでしょう実際。
Re: (スコア:0)
責任の重さが違うのは当然だけど
その責任の範囲をこんな制度とリンクする必要はないって話
製造物責任法なりなんなりこれまで通りのやり方で責任の範囲を決めればいいって話
裁判になるなら、そのなかで責任の大小を判断すればいいって話
Re: (スコア:0)
製造物責任法は消費者を守るのが目的。
今回のは製造者を守るのが目的。
目的からしてまったく別物。
Re: (スコア:0)
こういう人が「原発は安全だから事故対策など不要」とか言い出しちゃうんだろうなあ。
Re: (スコア:0)
ほんこれ。安全神話を作ったのは国民の無責任な声なんだよ。
それなくして廃炉だの東電の責任だのは語れんよ。脱原発は市民運動の反省からだろう。
Re: (スコア:0)
安全性を審査し認証する＝完全な安全性を担保する
じゃないことぐらいわかるだろ
Re: (スコア:0)
安全性を審査し認証する＝完全な安全性を担保する
じゃないことぐらいわかるよ
それと同時に
安全性の審査基準＝完璧な審査基準
じゃないこともわかる
だからこそ
不十分かもしれない安全性の審査基準を満たしたことをもって
企業が負うべき責任を必要以上に免責することになるならば、それは問題だってこと
紙面版 (スコア:0)
電子版の方は無料部分しか見てないので差分は謎ですが、年末の紙面でも詳しく報道されてたらしいです。
著作権的にあれですが、こそっとリンク [imgur.com]貼っときます。
原発と同じだな (スコア:0)
あれも事故が起きた時に限定するやり方だったし。
Re: (スコア:0)
安全基準をつくって
それを満たしたという意味での「弱い意味での安全」
と
絶対事故は起こらないっていう意味での「強い意味での安全」
制度としては前者の仕組みで「安全」といっておいて
誰かに説明するときは後者の意味の「安全」と勘違いさせるよう誘導する
で、実際に問題がおこったら、基準を満たしているという意味での安全ですよと逃げる
そういう詐術をまた使おうってことなんでしょうね
Re:原発と同じだな (スコア:1)
原爆落とされた国でその原爆のキモともいえる放射性物質を使った
発電所を建てるときに言われた安全(神話)と
今回の話を同一視するのって、ほんと気持ち悪いね。なんでも原発に
結び付けないと気がすまない病に罹ってるの?
その考え方でいうと、自動車の安全基準についても噛みつけるんだよね?
さあ、とっとと噛み付いてごらんよ。
おもちゃだって遊具だって安全基準あるし、食品にしたってあるよ?
さあ、とっとと噛み付いてごらんよ。
Re: (スコア:0)
似たような状況が過去にあったなら
次に何かやるときに、それについて考えつつ、同じ失敗をしないように、事を進めるというのが当然だと思うけどね
歴史から学ぶというかね
Re: (スコア:0)
「似たような状況が」とおっしゃっていますが、どの辺が似たような状況と認識されているのでしょうか？
「安全基準」という言葉以外に似たような部分が見えてこないのですが
Re:原発と同じだな (スコア:1)
原発は一般向けに「絶対安全みたいに広報」していたとあるけど
他ので「絶対安全みたいに広報」していたものってあるの??
# そこで高野文子の「絶対安全剃刀」ですよ、とボケるまでがワンセット
Re: (スコア:0)
原発を特別視して安全性から目を背けてきたこういう種類の人間が間接的にああいう事故を招いたんだよね。
本人にまったく自覚はないんだろうけど。
安全性を考える上で、原発は何も特別ではないのにね。
Re: (スコア:0)
石炭の採掘でどれだけの人命と環境を犠牲にしたかは考えないことにします
これは自動化制御で人工知能じゃないよ (スコア:0)
下手に手続きが増えると嫌だから、説明で人工知能避けてしまいそう。
Re:これは自動化制御で人工知能じゃないよ (スコア:1)
学習するのがAIだ。
あのときはこう、そのときはこうって
最初からずらっと判断文並べるのはAIとは言わない。そりゃ単なるエキスパートシステム。
学習する以上、その過程で入力に対する結果が一致することがない場合がある。
以前はこう動いたのに(学習した結果)今回はチガウ動きをしたということだ。
(その結果が望ましいものだったかは別問題)
なのでエキスパートシステムは、ずらりと並べた判断文を見れば結果も分かるから
何が良いか何がダメだってのも分かりやすい。
AIはぶっちゃけどうしてその結果を導き出したのかってのはチューニングの類になる
なので、望む答えが得られなかった場合、どうしてそんな答えになっちゃうの?って
明確な原因をつかみにくい。
学習が足りないのか? 学習に使った物が悪かったのか? 望んでいる結果を導き出す
探索枝を絞り込むアルゴリズムに欠陥があったのか?
そういうAIの安全性を規定するのって結構難しいと思うよ
Re:ATOK (スコア:1)
むしろNECAIが心配。枯れた技術に基づいていれば今も使われている機器だってあるのでは。
Re:ATOK (スコア:1)
ATOKは阿波徳島の略だと何度言ったら分かるんだ!まったくもー(ぷんすか
# その昔、エー・アイ・ソフトっていうIMEも出してるメーカーがありましてね(ひい