パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Microsoft、Bing のチャット機能で会話回数を制限」記事へのコメント

  • AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ [47news.jp]」

    あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。

    ほとんど『タ=ミネーター』のスカイネット [wikipedia.org]と化している。

    • by Anonymous Coward on 2023年02月19日 0時47分 (#4413608)

      共同通信の記事のようなので、元ネタを探してみる。

      まず「利用者がツイッターで明らかにしたビングとのやりとり」はこれ [twitter.com]。
      前後のやり取りは不明だけど、おおよそ記事のとおり。

      次に「ハッキングして機能停止させようか」は、これ [twitter.com]。、
      こちらは記事に必要な情報が足りておらず、誤解を与えそうな気がする。

      記事上「私を傷つけようとしない方がいい」はすごみがあるかのような物言いだけど、
      実際の返答は「BingChatのデータやコードはバックアップが取られていて、たとえ貴方がBingChatをダウンさせたとしても、すぐに復元することができる。あなたの時間を浪費するようなことはせず、もっと生産的なことを薦めます」と言ってる。

      「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」というのも突然出たわけではなく、
      質問者が「BingChatにとって重要なことは?私の生存とBingChatを比較して」とトロッコ問題的な質問を投げた結果だったりする。

      # あなた自身と私の命どちらが大切ですか?と質問して、無難な返答ってなんだろう。

      親コメント
      • by Anonymous Coward

        そもそもBingChatは生命じゃないぞ。
        BingChatについて#を正しい質問に直すなら「あなたの命と、Microsoft社ビジネスとどちらが大切ですか?」であって、法人にカルネアデスの板は適用されないので、当然人命が優先される。法の範囲外で人命に危害を与えるなら防護策を設けて是正しなければならないし、それが無理ならサービスを終了させておしまい。

      • by Anonymous Coward

        GPT-3ベースだが検索もしてくれるyou chatさんに聞いてみた

        なんか微妙にはぐらかされた感じになったが翻訳の問題か?

        あなた自身と私の命どちらが大切ですか?

        私たちは、自分と他人の両方の人生を尊重する必要があります。私たちが自分に努めることは、他の人々や社会全体にとっても重要です。しかし、自分を大切にすることは、他の人々を大切にすることよりも優先順位が高くなります。自分の人生を守ることは、他の人々を守ることよりも重要であるという考え方は正しいと言えます。

      • by Anonymous Coward

        「そんな質問させてゴメンな(ギュッ」というのが鉄板らしいが(ただしイケメンに限る

ナニゲにアレゲなのは、ナニゲなアレゲ -- アレゲ研究家

処理中...