パスワードを忘れた? アカウント作成
4617444 story
Android

スマートフォンにロボット工学三原則の第一法則を適用すべき 74

ストーリー by hylom
Androidだけにな! 部門より
taraiok 曰く、

Forbesにフリーソフトウェア財団の「Eben Moglen」氏が来月講演する予定の内容が公開されている。テーマは「スマートフォンにアイザック・アシモフが提唱したロボット工学三原則を適用する必要性について」だ(Forbes本家/.)。内容を簡単に訳すと、下記の様になる。

私たちは1960年代に執筆された空想科学小説の影響を受けて育った。その中で我々はロボットと現代的な生活するだろうと予見していた。彼らは正しかった。21世紀の現代、ロボットは身近なものとなった。ただ姿は違う。現在のロボットは手と足を持たないスマートフォンのような存在だ。

我々はロボットには「人間を傷つけることができない」というアイザック・アシモフの「ロボット工学三原則」が組み込まれている思ってきた。しかし、現代のロボットはそんな機能はない。私達からお金を巻き上げ、GPSで行動を監視し、Facebookを使用して政治的な活動をすれば逮捕される。スマートフォンの所有者以外の人間に利益を提供するために監視している。

いまこそ原点に戻り、スマートフォンにロボット工学三原則の第一法則を適用するべきだ。のを考えるべきだ。脱獄iPhoneとroot取得のAndroidデバイスはその一歩となるだろう。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 30年位前に論破済 (スコア:3, すばらしい洞察)

    by Anonymous Coward on 2012年06月29日 8時46分 (#2183212)

    あ~ると鳥坂センパイとのやりとりで答えがでてるじゃないですか

    「ロボットじゃないよ アンドロイドだよ」
    「うるさい!お前なんかロボットで十分だ」

    • by Anonymous Coward

      スポックとドクターの会話かと思いました

  • 自律型のアトムのようなヒューマノイドにアシモフの三原則を組み込ませるのは理解できる。

    でも、鉄人やそれに類する重機、遠隔操縦式兵器(プレデターとか)のように、人が操作するものにはなに言っても無駄だと思う。

    PCやスマフォってのは使い方次第だし、あえてロボットというのなら後者の例じゃない?
    つまり、ご主人様の意のままに動くだけっていう…。

    ご主人様≠所有者 ってことは間々あるよね。
    パクってきた重機でATM破壊して現金奪うとか。。

    • by Anonymous Coward on 2012年06月29日 8時44分 (#2183208)

      持ち主:俺の行動記録とかweb閲覧履歴とか、誰にも教えてないよな?
      スマホ:教えてるに決まってるだろーがボケ。
      持ち主:えー、何でだよ。
      スマホ:おまえがアプリ入れるときに約款読んで「はい」押したからだよ。ずーっと前に。
      持ち主:じゃ、今からでも「いいえ」にしといてよ。
      スマホ:おのれの仕事じゃ!何でもワシにやらそうとすんなカス!

      こんな感じでしょうか。

      親コメント
      • by Anonymous Coward

        すば洞。

        現在のところ、ロボットに自律させているわけではなく、
        利用約款で責任は使用者に持たされてますね。

    • どちらにせよ現時点では、組み込むことが技術的に無理だということは置いておいて
      ロボット三原則は、ロボットが悪人の手に渡っても人を傷付けない為にあります。

      もし盗まれた重機に三原則が組み込まれていても、それだけではATMを壊すことを防げません
      しかし誰かがATMを守ろうと、前に立てば重機は止ります。第一条は人の命令より優先です。

      親コメント
    • by Anonymous Coward

      あんたの言う「ご主人様」にすら挙動が予測不能であるという意味では、スマートフォンは「自律」していると言いたいわけだよ。

      • by Anonymous Coward
        じ‐りつ【自律】
        1.他からの支配•制約などを受けずに、自分自身で立てた規範に従って行動すること。「—の精神を養う」↔他律。
        2.カントの道徳哲学で、感性の自然的欲望などに拘束されず、自らの意志によって普遍的道徳法則を立て、これに従うこと。↔他律。
        • by Anonymous Coward

          この手の著作権無視って辞書コピペしたがるキチガイってどうにかならないかな。

          • 引用元を明示していないし、本文がそれだけなので引用を満たしていない
            という問題はあるけれど、引用されない辞書はただの「辞書」でしょう。
            行間から主張が読めたら、別に雑談サイトではそれだけコピペでも
            悪くはない気がする。

            井戸端会議で話しているときなら気にならないでしょ。
            法律のつまらん枝葉に拘って雑談でも法律・法律なんてナンセンス。

            まぁ、元コメントの意味はわからんですが。。
            # "自律" ではないと言いたいのかなぁ。。。
            # 予測不能 → 支配を受けずに勝手に動いているように見える → 「自律」
            # にみえる。人間だって外から見たら自律してるかどうかなんて分かりはしない。
            親コメント
          • by Anonymous Coward on 2012年06月29日 9時58分 (#2183284)

            ハイ今あなた違法ダウンロードしましたね。さらに人権侵害の疑いもあります。
            すいませんが、ちょっと署の方に同行願いますかね。

            # 近い将来日本はこうなって行くワケね。

            親コメント
    • by Anonymous Coward

      >自律型のアトムのようなヒューマノイドにアシモフの三原則を組み込ませるのは理解できる。
      >でも、鉄人やそれに類する重機、遠隔操縦式兵器(プレデターとか)のように、人が操作するものにはなに言っても無駄だと思う。

      鉄人っていうのが28号のことだとして、28号は自律型だよ。
      人間は操縦していない。音声で大まかな行動指針を示しているだけで、あとは鉄人28号が自分で考えて行動している。
      操作レバーに見えるのは、入力した音声を送信するスイッチなんじゃないかな。

      鉄人が「料理の」とか「トライアスロンに出場する人」とかだったら自律型のヒューマノイドなのかは確かめてないので不明。
      大鉄人17とかだったら、明らかに自律型のロボットだけど、あれは移動要塞かもしれない。

      とりあえず、ポケットやベッドの上で自爆して火災や人間に怪我を負わすような人工知能搭載機は、ロボット三原則以前の問題かな。

      • by Anonymous Coward

        >鉄人

        なぜ、衣笠が出てこないんだー。

        • by Anonymous Coward

          鉄人レースに出てないからでは?

          #最近鉄人レースって言葉、聞かなくなったな。

  • by wizz (19742) on 2012年06月29日 8時31分 (#2183200) 日記
    それじゃ、ロボット三原則 [wikipedia.org]に従うということで、

    >私達からお金を巻き上げ、
    スマホ「第一条により、当該機能を禁止しました。」
    >GPSで行動を監視し、
    スマホ「第一条により、当該機能を禁止しました。」
    >Facebookを使用して
    スマホ「第一条により、当該機能を禁止しました。」

    人間「使えないから、こんなゴミ要らない!」
    スマホ「第三条により、その行為は禁止されています。」
  • 元々、ロボットという言葉はチェコスロバキアの作家カレル・チャペック氏の発明で、チェコ語で『賦役』という意味の"robota"が語源と言われます。

    で、この人工知性体・ロボットというSFガジェットは、チャペック氏に先立つメアリー・シェリー氏のゴシック小説『フランケンシュタイン』(1818年)、チャペック氏の戯曲『R.U.R.』(1920年)を含めほとんどの作品で、物語に登場するたびに製作者へ反乱を起こすという描かれ方をされました。
    で、このお決まりのパターンに飽き飽きしたアシモフ青年は思ったわけです。
    「反乱を起こすと分かりきっているなら、普通は防止措置を組み込むんじゃね?」と(笑)
    この「反乱を起こさせない措置が組み込まれたロボット」というアイディアが元となり、アシモフ氏が名編集者キャンベル氏との協議を経て生まれたのが、いわゆるロボット三原則です。

    ・第一条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
    ・第二条:ロボットは人間に与えられた命令に服従しなければならない。但し、与えられた命令が第一条に反する場合は、この限りではない。
    ・第三条:ロボットは、第一条及び第二条に反する恐れのない限り、自己を守らなければならない。

    つまりこの三つのルールは、意思を持つロボットが反乱を企てることがないようにするための、心理的な抑制です。
    (アシモフ世界で最も魅力的な登場人物スーザン・キャルヴィン博士の肩書きはロボ心理学者/"robopsychologist")
    従って、心(あるいは意思)を持たない機械に適用できるものではないのです。

    • で、アシモフの小説はその三原則がいかに不完全か、
      あるいは原則自体は正しいとしても実装によっていかに不具合が生じうるか、
      というのを数々の作品で示した。
      というのを付け加えないと。

      ”レベルを上げた”三原則を適用したら、きっとそのスマホは即時作動停止するでしょうね。

      親コメント
  • を作ればオープンで公開しないといかんのかな。
    そのロジックをライセンスして利益を得ると矛盾してしまうような気もする。

    • 「何を何処までやれば原則に反する」というしきい値の設定次第、
      というかロジックじゃなくしきい値の問題なんですもの。
      で、しきい値を法律に書くと裏をかかれるから明示せず、現場の判断で逮捕Ok裁判で明らかにします逮捕した側は絶対謝らないけど!が今の潮流。

      親コメント
  • by beejay_aniki (45377) on 2012年06月29日 12時00分 (#2183397) 日記
    ロボット(工学)三原則じゃなくて、ここはぜひ良心回路でお願いします。
    特定周波数による攻撃で狂わないやつで一つ。
  • by brightlight (33350) on 2012年06月29日 13時31分 (#2183462) 日記
    これが適用されるとスマホが爆発することがなくなるわけですね。素晴らしい。

    #第3法則も適用すれば完璧?
  • by Dobon (7495) on 2012年06月29日 8時26分 (#2183198) 日記

    ロボット工学三原則(家電製品三原則)は、製品として完成された状態で到達すべき目標です。
    PCやスマホなどの『半完成品』は適用除外では?

    # 強いて言うなら、そこにインストールされるソフトに対して適用されるべきものでしょう。

    --
    notice : I ignore an anonymous contribution.
    • by Anonymous Coward

      そこにインストールするソフトウェアやその基盤となるライブラリ群を全部自分の管理下で製造するか
      少なくともソースコードが閲覧できる状態にあり、利用者が閲覧して理解できる能力があるならそうでしょうね。

    • by Anonymous Coward

      それってアジモフ作品のどこに書いてあります?

  • by minet (45149) on 2012年06月29日 8時48分 (#2183214) 日記

    この着眼点でいくと、第三則は何だろう。
    ウィルス・マルウェア対策機能か?

  • by Anonymous Coward on 2012年06月29日 8時59分 (#2183225)

    スマホ「こいつ何年も家から出てない。」
    スマホ「こいつ友達がいない。」
    スマホ「こいつ無職だ。」
    スマホ「こいつ生きてる価値がない。殺してしまおう。」
    俺「お願いします。」
    スマホ「えっ?」
    俺「えっ?」

  • しかしどうも想像出来ない。
    何で自律型でもないのにそういう法則が必要なのか?
    使うのは人なのだから、(規制するなら)人間や企業、政府の行動を規制すべきだろう。
    自律型ロボットなら、もちろんまた別の議論があるだろうけど。

  • スマホ「もう1時間もゲームして!勉強しなさい!」
    ゲームアプリ強制終了
    スマホ「ああもう(デスクトップを)散らかしてばかりで、早く片付けなさい!」
    使ってない時間に勝手に整理整頓
    スマホ「夜遅いわよ!早く寝なさい!」
    強制シャットダウン。

  • by Anonymous Coward on 2012年06月29日 8時16分 (#2183193)
  • by Anonymous Coward on 2012年06月29日 8時46分 (#2183211)

    人間は人間を傷つけることができない。

    #自分にできないことをロボットに強制するなんて人間らしい考え方だ。

  • by Anonymous Coward on 2012年06月29日 9時17分 (#2183240)

    つまり、そういうことですか?

    > 現在のロボットは手と足を持たないスマートフォンのような存在だ。

    それはロボットと言えるのだろうか・・・
    #せめて足に変わる移動手段ぐらいないとねぇ

  • by Anonymous Coward on 2012年06月29日 9時25分 (#2183248)

    > 我々はロボットには「人間を傷つけることができない」というアイザック・アシモフの「ロボット工学三原則」が組み込まれている思ってきた。

    SFなんか読んでると仮想と現実の区別がつかなくなるという話ですか

    • by digoh (17917) on 2012年06月29日 10時27分 (#2183319) 日記

      ロクに本を読まない人がそう思い込んでるって話ですよ。
      (たとえ原典でなくとも)ロボット三原則が組み込まれたロボットが出てくる小説を読んでたら
      ロボットが三原則をいかに出し抜くかを見てるはずなのだから。

      三原則なんかカケラもない世界で「お前には三原則は組み込まれておらんのか!」みたいなツッコミが入る小説ばかり読んでたら知りませんけどね。

      親コメント
    • by Anonymous Coward

      さすがにそれはまともなSF読みに失礼でしょう。

    • by Anonymous Coward

      まともにSFを読んでれば、知能を与えてないロボットはそもそも対象外だと分かってるし、
      「人間を傷つけることができない」が必ずしも「所有者個人の利益を損ねない」と言う意味にはなわない事を知ってる。

      > GPSで行動を監視し、Facebookを使用して政治的な活動をすれば逮捕される。
      > スマートフォンの所有者以外の人間に利益を提供するために監視している。

      「政府が政治的思想に関して国民を監視する事」が人類社会を守る事だと認識しても何らおかしな事ではない。

      とりあえず、このEben Moglenと言う人間が
      「私たちは1960年代に執筆された空想科学小説の影響を受けて育った」と主張することは、
      「漫画・アニメの影響を受けて善悪の区別が付かなくなり殺人を犯しました」と同じぐらい迷惑なので、吊るし上げるべきだろうな。

  • by Anonymous Coward on 2012年06月29日 9時27分 (#2183252)

    人に危害を加えてはならないし危害が加わるのを見過ごしてはならないとか、どんな高度なAIを搭載したら実現できるんだろう。ちょっと切り替え器のついた人を轢きそうなトロッコに乗せてみたくなるわ

    • by Anonymous Coward

      その場合、トロッコの前に飛び降りて止めようとするでしょう。
      仮に止められなかったとしても、その時には壊れているので、そのロボ自身の関知するところではないし

  • by Anonymous Coward on 2012年06月29日 9時41分 (#2183273)

    >スマートフォンの所有者以外の人間に利益を提供するため

    広告付きなのでお安く使えるロボット・・・ってネタで誰か書いてましたっけ?

    家事全般そつなく無難にこなしてくれるけど、特定企業の製品だけ使う家事ロボットとか。 

  • スマートフォン「聞かれなかったからさ知らなければ知らないままで、なんの不都合もないからね。」

typodupeerror

UNIXはシンプルである。必要なのはそのシンプルさを理解する素質だけである -- Dennis Ritchie

読み込み中...