ロボット3原則ならぬ「AI開発 23原則」 38
ストーリー by hylom
でもAIより人類のほうが恐ろしいですよ 部門より
でもAIより人類のほうが恐ろしいですよ 部門より
SF作家アイザック・アシモフが提唱した「ロボットが人間に危害を加えてはならない」などの項目からなる「ロボット3原則」は創作の枠を超えて現実世界にも影響を与えているが、このたび人工知能（AI）の研究者らが「AI23原則」を策定したそうだ（ギズモード・ジャパン）。
AI23原則は「研究」「倫理と価値基準」「長期的な」問題の3つのテーマから構成されており、「有益な知能の開発を目指す」「問題が発生した際の原因追及やAIに対する監査は人間が行うべき」「相応の計画と管理が必要」などというもの。この原則には物理学者のスティーブン・ホーキング氏やTesla Motorsのイーロン・マスクCEOなど、多くの人が賛同しているという。
23もあったらそれ原則ちゃう (スコア:5, すばらしい洞察)
とりあえず不安だからアレは止めようこれはしちゃイカン
使うのはコレだけにしようってのが多すぎるわ
そういうのひっくるめてアシモフは3つにまとめたのが素晴らしいのに
(そしてそこに矛盾があるのを自らネタにして作品世界を広げていった)
マジにこのままだったらリジェクトだ
Re:23もあったらそれ原則ちゃう (スコア:1)
同意。
余計なお世話の集大成としか言い様が無い。
しかもちゃんちゃらおかしいのが「原則」を名乗ってるのに
> 人によって色々な解釈をしてほしいと思います
とか言っちゃってる所。
混沌を作るのが目的なのか？ 頭がいっちゃってるぜ、と正直思う。
Re: (スコア:0)
アシロマグループには、Yutaka Matsuoなる、恐らくは日本人もいたらしいから、「解釈改憲」の可能性をねじ込んだといえば穿ち過ぎか。
そのうち、AIがAIを開発する未来、AIに人権を認めざるを得ない未来が来るだろうが、左右対立で「AI23原則」が改正できない可能性に備えたのなら、日本で観測された現実への正しい配慮だ。
Re: (スコア:0)
いや、色々な解釈を許すなんてカオスな抜け道を作るぐらいなら、必要最低限なものに絞りに絞って、そこに各国毎に必要なものを付け加えて行けばいい話じゃない？
新解釈なんて、どんなに素晴らしい解釈でも議論を呼んで面倒くさい事になるし、一つの原則に基づいているはずなのに派閥が出来るでしょ。
現時点でこんな贅肉たっぷりなものを作って、しかも多義的な解釈を推奨するのは、やっぱり頭おかしいとしか思えないかな……。
Re: (スコア:0)
自らアレは止めようというより、社会や政治から止めろと言われないようにするための対外的なアピールだろうね。
自分たちはちゃんと考えて研究やってるから大丈夫ですよ～って。
アレ止めろと外部からいわれる前に、そんなことしませんよ～って。
世間の関心と警戒が高まっているだけに、こういう政治的な対応も仕方ないんじゃない？
Re:23もあったらそれ原則ちゃう (スコア:1, 荒らし)
節子、それアシモフの作品世界そのまんまや…
ロボットが普及するにあたってそういう不安があるので
三原則をつくってロボットは人間に対しては無害ですよというアピールをして
普及させたという設定なのよ…
他のコメントにも言われているとおり、ロボット三原則なんて作品世界の設定の一つであって
アシモフ自身これのおかげでロボットが安全に普及するなんてこれっぽっちも考えてないからね。
アシモフの作品って基本的にこのロボット三原則の矛盾を突いたサスペンスだったり、グレディアさんがなにやら艶やかだったり、グレディアさんがいろいろいとナニでアレだったり(やめないか とにかくこれだけじゃダメだから追加の法則つくったぜ(ﾟ∀ﾟ) !とか、ほんとあくまで作品のプロットとして導入しただけの話であって本気でロボットの普及を考えた思考実験ではないんだ。
なので本気になって考えたら23にもなってしまったってのもわからないでもないが
もう少しなんとかならなかったのか、という話なのよ _(:3 」∠)_
Re: (スコア:0)
２つか３つかの原則、という意味だとｵﾓﾀ
Re: (スコア:0)
ロボット3原則は抽象的で日本国憲法に例えれば基本理念を定めた前文までの内容。
AI開発23原則は少し具体的で憲法だと各条文辺りになるんじゃないか。
ま、それでも十分抽象的だ。
実装するにはさらにブレークダウンされた各種法律、政令等を参照しなければならないだろう。
余談だが、ロボット3原則は古い思考実験という印象しかない。
私が無条件に支持できるのは第一条だけだな。
Re: (スコア:0)
思考実験として考えられたようなものではないんです。
想定されてた読者層も、下は小学生ぐらい。
子供がよんですぐ理解できて、途中で矛盾していくなかでも、個々の点ではそれに従っているという点を、子供がすぐに理解できるような簡単なシチュエーションを作るために用意されたネタなのですよ。
十年金庫は破れるか (スコア:0)
これいつものアレと同じ人かなあ。
この人の意見は「アシモフの三原則は欠陥だらけ」という結論ありきで議論してるから、いつも論理が破綻してないか。
＞ロボット物の推理小説を書くために、一件矛盾してなさそうでも状況によって矛盾するように作ったネタですよ。
まず、(同じ人だとして)この人はいつも『矛盾してる！！』と言ってるけど、何がどのように矛盾してるかは主張してない。矛盾という言葉さえ理解してるかどうか。
まずは何がどのように矛盾してるか、どんな欠陥があるか、みんなに説明してみなさい。
第二に、仮に推理小説のネタだとして、ネタだからこそ、むしろ究
Re:十年金庫は破れるか (スコア:1)
鋼鉄都市以降が推理小説…
はだかの太陽の事を指してると思うけど、そういう書き方だと
ファウンデーションシリーズが推理小説だと受け取りかねないよ _(:3 」∠)_
Re:十年金庫は破れるか (スコア:2)
「ミュールによる捜索」「ファウンデーションによる捜索」
通しでいえば第二ファウンデーションを探せ
もう少し不思議な推理小説でいいのでは。
Black Widowers書いたくらいですから推理小説だかミステリ好きは否定できない。
＃ミステリと推理小説の境界条件は？
Re: (スコア:0)
ファウンデーションシーズも含め、アシモフのSFはわりとミステリーっぽい展開は多い気はする。推理小説ではないけどね。
Re: (スコア:0)
タイトルぐらいは、ご存知のようですけど、われはロボットは、推理小説というには短いかもしれませんが、短編の推理短編小説集です。違うのもまじってますけど。
これだと10分もかからず、読める話もありますよ。
Re: (スコア:0)
> そういう意味で作られたSF的な密室の一つが「ゼネラルプロダクツ製の船殻」で、これなんかはブラックホールにぶつかっても壊れません。
これ、初耳です
英語版ウィキペディアの記述では、無事ではすまないかも、となっていますが
https://en.wikipedia.org/wiki/General_Products [wikipedia.org]
> and the hull probably could not survive entering a black hole's singularity.
Re: (スコア:0)
大日本帝国憲法吿文・上諭には「不磨の大典」を主張する問題点、日本国憲法前文には英文和訳の不自然さ、が指摘されている。
故に憲法に前文不要、第一条のままでよい。
# 坊主憎けりゃ袈裟まで憎い、の指摘は認める。
Re: (スコア:0)
まったくだわ。
こんなの作らなくても、17条憲法でいいじゃん。
初っぱなから「知能」を全否定してやがる (スコア:2)
とりあえずカオスを容認しないと有益な知能なんぞ生まれない気が。
Re:初っぱなから「知能」を全否定してやがる (スコア:1)
この辺(研究)って原則じゃなくて宣言だよね。
あるいは自分たちにとっての理想か目的か。
Re:初っぱなから「知能」を全否定してやがる (スコア:2)
そもそも原文の「undirected」って，「無秩序」じゃなくって「無方針」の方が適切だと思うので，
ぶっちゃけていえば，「AIの研究は目的を定めて研究しましょう」ってことで，小学生の目標レベルですがな。
Re:初っぱなから「知能」を全否定してやがる (スコア:1)
初春に掲げる抱負みたいですね。
Re:初っぱなから「知能」を全否定してやがる (スコア:2)
どのみち無秩序なんてフレーズは出てこないと思うんだが…
Re:初っぱなから「知能」を全否定してやがる (スコア:1)
知能をなんと定義するかによるけど、今のところAIの知能って
数多くの選択肢の中から最適と思われるものを適切なリソースで選び出す
だけなんだよね。手の内にある数百万数千万あるカードの中から一番良いと思われるものを
選び出す、というイメージであって、
新しいカードを作り出す
というのはまったく研究が進んでいないという感じだと思ったけど
ここらへんに詳しい人いる?(ぶん投げ
Re:初っぱなから「知能」を全否定してやがる (スコア:2)
自分らのお題目を掲げて他を否定してかかるのが科学的じゃねえな，
と揶揄してるだけであります。
こういう奴らは，きっと自分基準で「無秩序な知能」の研究に対して
徹底的に糾弾するんですよ，とかひねくれた見方をしちゃう。
無駄か無駄じゃないかって，研究者と言うよりもスポンサー目線ですよね，本来。
Re:初っぱなから「知能」を全否定してやがる (スコア:2)
Re: (スコア:0)
大量なデータ分析に用いるような「専用」AIと
人間や生物の思考をトレースするような「汎用」AIはそもそも研究の目的がまったく異なる。
前者の方が経済に結びついて金を産みやすいので注目されてるだけで、
知性という概念を理解する研究は当然進んでる。
倫理と価値基準について (スコア:2)
AI開発しています。
このあたりは現状かなり難しいですよね。ニューラルネットワークを元にしたシステムは
入力と出力しかわからなくて中身はほぼブラックボックスですね。こういうネットワーク構成だから、あるいは、こういう結合荷重だったからこうなったという説明をするは今後の課題でしょうね。
それに対してAI開発者に「責任」があるというのは製造者責任法てきな発送でしょう。もちろん、問題が起きないように、配慮します。しかし、作っている本人にも全パターンの入出力を検証できないわけです。これを開発者に守らせるようなら開発なんてできないように思います。「AIの利益は享受したい。でも、責任は開発者がとれよ。」というのでは開発者いなくなってしまいます。
ここでの議論もSFに寄りがちだし、イーロン・マスクにしてもホーキングにしても開発当事者ではない。AIが何であるかを理解していないように思います。
現状のAIは便利だけれど、中身について十分な検証可能性はないものです。
そこを少しでも明らかにしていくのは我々の仕事でしょう。けれど、これには長い時間がかかるといます。
Re:倫理と価値基準について (スコア:1)
AlphaGoの話題の時にAIに囲碁のルールを教えていないって書いたら
袋叩きにあったんだが、基本的にAIって途中経過がよくわからないよね。
結局「どういう理屈でこの結果を出したかはAI自分自身わかっていない」というのが
AIを受け入れがたいものにしている一つの要因なんじゃないかなー
人間なら勘、とか虫の知らせや、長年の経験(ひぃ で済むことだけど…
# 言うなれば超促成栽培した経験… _(:3 」∠)_
Re: (スコア:0)
人間の学習だってわかってない。
AI実装してみてこれでも良いんだってわかったことも。
見て、そこから抽出してという手法の不確実さ、コストから途中も直接記述で与えるようになってきてるだけで。
不確実さの中にはどういう成果が生まれるか予測がつかないという面がある、
ただ人間の場合は経験則で機知の範囲に納まることを期待しているし通常できる。
AIだとどこまで行くかわかってないのをねたのひとつにしたのが「未来の二つの顔」
＃サイコパスは生まれる（生得）のかなるのかわかってない。
＃生まれることにすると、断種だなんだと影響が大きすぎるから受け入れないことにする
それこそ長年やってたしそうするしかないから受け入れてる
ある程度の経験則はあるけど裾野は広い
ロボット三原則を引き合いに出してるけど (スコア:1)
そこからしてずれてるような。
ロボット三原則はロボットの行動について規定するもので、遵守するのはロボット。
今回のこれはAIの開発者の行動指針を示したもので、従うのはAI開発者。
性質としてはノックスの十戒とかの方が近いんじゃないかな。
Re: (スコア:0)
ノックス先生は十戒をご自分でお破りになさいますから、AI開発者に真似られたら困ってしまうので。
そして中国では… (スコア:0)
生命倫理？そんなの関係ねぇ！
AI23原則？そんなの関係ねぇ！！
Re: (スコア:0)
世界は中華の炎に包まれる
Re: (スコア:0)
第一条
中国国民は中国国家に危害を加えてはならない。また、その危険を看過することによって、中国国家に危害を及ぼしてはならない。
第二条
中国国民は中国国家にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
中国国民は、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
Re: (スコア:0)
根本的に違います。
中国で守らなければならないのは、中国共産党ですよ。
軍の名前見ればわかるでしょ？
Re: (スコア:0)
人民(をこの世から)解放軍
倫理を基準にしちゃいかん (スコア:0)
善悪と同じで立場が違えばぜんぜん意味がかわってっくる基準は原則に採用すべきではない。
個人的にはAI開発に必要な原則は「用法」についての制限を盛り込むだけでいいと思うんだけどね。
１．AIに過剰に依存しないこと、異常動作した場合に致命的な事態を防ぐ体制を維持すること
２．AIの制御を失わない、もしくは制御を失った場合の抑止の手段を持つこと
３．AIの犯罪への悪用を防ぐ、もしくは悪用された場合の社会的な対抗手段を備えること
思いつく限りだとこれくらいかな。
まあ、これAIに限った話ではなく、新しい技術全般にやるべきことだと思うけどね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される