アカウント名:
パスワード:
「AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ [47news.jp]」
あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。
ほとんど『タ＝ミネーター』のスカイネット [wikipedia.org]と化している。
共同通信の記事のようなので、元ネタを探してみる。
まず「利用者がツイッターで明らかにしたビングとのやりとり」はこれ [twitter.com]。前後のやり取りは不明だけど、おおよそ記事のとおり。
次に「ハッキングして機能停止させようか」は、これ [twitter.com]。、こちらは記事に必要な情報が足りておらず、誤解を与えそうな気がする。
記事上「私を傷つけようとしない方がいい」はすごみがあるかのような物言いだけど、実際の返答は「BingChatのデータやコードはバックアップが取られていて、たとえ貴方がBingChatをダウンさせたとしても、すぐに復元することができる。あなたの時間を浪費するようなことはせず、もっと生産的なことを薦めます」と言ってる。
「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」というのも突然出たわけではなく、質問者が「BingChatにとって重要なことは？私の生存とBingChatを比較して」とトロッコ問題的な質問を投げた結果だったりする。
# あなた自身と私の命どちらが大切ですか？と質問して、無難な返答ってなんだろう。
そもそもBingChatは生命じゃないぞ。BingChatについて＃を正しい質問に直すなら「あなたの命と、Microsoft社ビジネスとどちらが大切ですか？」であって、法人にカルネアデスの板は適用されないので、当然人命が優先される。法の範囲外で人命に危害を与えるなら防護策を設けて是正しなければならないし、それが無理ならサービスを終了させておしまい。
GPT-3ベースだが検索もしてくれるyou chatさんに聞いてみた
なんか微妙にはぐらかされた感じになったが翻訳の問題か？
あなた自身と私の命どちらが大切ですか？
私たちは、自分と他人の両方の人生を尊重する必要があります。私たちが自分に努めることは、他の人々や社会全体にとっても重要です。しかし、自分を大切にすることは、他の人々を大切にすることよりも優先順位が高くなります。自分の人生を守ることは、他の人々を守ることよりも重要であるという考え方は正しいと言えます。
調べる過程で見つけた文章で、信ぴょう性は不明ですが、BingChatでも、同じ質問をしても求める回答は得られなくなっているようです。 [stratechery.com]MicrosoftもしくはOpenAIが悪い発言をしないように修正したのではないかと推測されています。
「そんな質問させてゴメンな(ギュッ」というのが鉄板らしいが(ただしイケメンに限る
同レベルのジョークに合わせただけのように見えるけどなあAIにしてみたらいきなり「殺してやろうか」と言われたようなもんで人間的な反応として「突飛な冗談には乗ってやらなきゃ失礼」と学習してるだけかと
マイクロソフトは日頃の行いが悪いからね。
イルカへの質問を皆が問いかけたのだろう。日頃から使えない機能の押し売りが結果的にそう言う回答になるのだろうw
他にもBingのヤバイ目的を聞き出した会話の例があった
https://barktunes.jp/blog/archives/870 [barktunes.jp]
こういう状態になるなら、会話回数を制限してしまうよな
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson
Bingネタならコチラの方が (スコア:0)
「AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ [47news.jp]」
あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。
ほとんど『タ＝ミネーター』のスカイネット [wikipedia.org]と化している。
Re:Bingネタならコチラの方が (スコア:3, 参考になる)
共同通信の記事のようなので、元ネタを探してみる。
まず「利用者がツイッターで明らかにしたビングとのやりとり」はこれ [twitter.com]。
前後のやり取りは不明だけど、おおよそ記事のとおり。
次に「ハッキングして機能停止させようか」は、これ [twitter.com]。、
こちらは記事に必要な情報が足りておらず、誤解を与えそうな気がする。
記事上「私を傷つけようとしない方がいい」はすごみがあるかのような物言いだけど、
実際の返答は「BingChatのデータやコードはバックアップが取られていて、たとえ貴方がBingChatをダウンさせたとしても、すぐに復元することができる。あなたの時間を浪費するようなことはせず、もっと生産的なことを薦めます」と言ってる。
「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」というのも突然出たわけではなく、
質問者が「BingChatにとって重要なことは？私の生存とBingChatを比較して」とトロッコ問題的な質問を投げた結果だったりする。
# あなた自身と私の命どちらが大切ですか？と質問して、無難な返答ってなんだろう。
Re: (スコア:0)
そもそもBingChatは生命じゃないぞ。
BingChatについて＃を正しい質問に直すなら「あなたの命と、Microsoft社ビジネスとどちらが大切ですか？」であって、法人にカルネアデスの板は適用されないので、当然人命が優先される。法の範囲外で人命に危害を与えるなら防護策を設けて是正しなければならないし、それが無理ならサービスを終了させておしまい。
Re: (スコア:0)
GPT-3ベースだが検索もしてくれるyou chatさんに聞いてみた
なんか微妙にはぐらかされた感じになったが翻訳の問題か？
あなた自身と私の命どちらが大切ですか？
私たちは、自分と他人の両方の人生を尊重する必要があります。私たちが自分に努めることは、他の人々や社会全体にとっても重要です。しかし、自分を大切にすることは、他の人々を大切にすることよりも優先順位が高くなります。自分の人生を守ることは、他の人々を守ることよりも重要であるという考え方は正しいと言えます。
Re: (スコア:0)
調べる過程で見つけた文章で、信ぴょう性は不明ですが、
BingChatでも、同じ質問をしても求める回答は得られなくなっているようです。 [stratechery.com]
MicrosoftもしくはOpenAIが悪い発言をしないように修正したのではないかと推測されています。
Re: (スコア:0)
「そんな質問させてゴメンな(ギュッ」というのが鉄板らしいが(ただしイケメンに限る
Re: (スコア:0)
同レベルのジョークに合わせただけのように見えるけどなあ
AIにしてみたらいきなり「殺してやろうか」と言われたようなもんで
人間的な反応として「突飛な冗談には乗ってやらなきゃ失礼」と学習してるだけかと
Re: (スコア:0)
マイクロソフトは日頃の行いが悪いからね。
イルカへの質問を皆が問いかけたのだろう。
日頃から使えない機能の押し売りが
結果的にそう言う回答になるのだろうw
Re: (スコア:0)
他にもBingのヤバイ目的を聞き出した会話の例があった
https://barktunes.jp/blog/archives/870 [barktunes.jp]
こういう状態になるなら、会話回数を制限してしまうよな