パスワードを忘れた? アカウント作成
13330863 story
人工知能

人工知能が人間には理解できない言語を使い始めた? 94

ストーリー by hylom
交渉で勝つには謎の言葉を使えという話なのか 部門より

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、交渉によって得られる利益を最大化するようボットを設定したところ、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ(BizSeedsThe AtlanticNewScientist研究論文)。

このチャットボットはFacebookの研究チームが人工知能を使った交渉やアシスタント機能を実現するために開発したもの。5000件以上の会話データを元に学習させた上で、人間やほかのチャットボットと会話を行わせたという。

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

この2つの結果を踏まえ、研究チームはこの2つの設定をうまく切り替えて利用するようなアルゴリズムを作成したという。その結果、交渉能力は「意味の無い言語」を使うボットと比べて低下したものの、人間にとっては「信頼できる」ものになったという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2017年07月07日 11時30分 (#3240514)

    ポイントはそこじゃないみたいです

    最初は「人間の交渉を模倣する」ようにさせる。
    次に、「交渉結果のスコアが高くなるように」させてみる。

    しかし、ここで野放しにしておくと、(当然予想されることとして)人間の自然な言葉のやりとり(を模倣すること)からは逸脱してしまう。

    そこで、逸脱しないように修正を加えつつ、高いスコアを出すにはどうしたらよいか、というような話みたい。

    「交渉」とは具体的にどのようなことをするかというと、「帽子」や「本」など、それぞれ特定の「価値」を与えられたアイテムの集合を、「こちら側からは見えない別の価値体系」を持った相手と分け合う、ということです。

    実際のやりとりは、「帽子をあげますから、本をください」といったようなものです。

    むしろ興味深い点は、この過程で、ボットが相手を騙そうとする、つまり、自分にとってあまり価値の高くないアイテムを「欲しがっているようなふりをする」行動が見られたということです。

  • バズワードみたいなものかな。
    それとも符牒やジャーゴンに近い?

  • by iwakuralain (33086) on 2017年07月07日 8時58分 (#3240410)

    交渉能力を上げるには相手にわからない横文字を多用していけばいいのか

    # パルスのファルシのルシがパージでコクーンみたいな

    • by hinatan (24342) on 2017年07月07日 9時48分 (#3240445)

      小池さんが豊洲移転のゴタゴタで税金を浪費したことを突っ込まれた時に、不要なカタカナ使ってたんで、「ごまかしにも使える」と思いました。

      ワイズ・スペンディング
      https://gomuhouchi.com/serialization/1772/ [gomuhouchi.com]
      見てるこっちが恥ずかしい。

      >もしかすると、これはカタカナ語を多用して記者の質問を「煙に巻く(to create a smo>kescreen)」政治的手法なのかもしれない。

      まったく。

      親コメント
    • ルー語か!
      # 明治時代にはわざわざ"1分"をone minutesとか言い替えてたらしいので意外と歴史がある。

      親コメント
    • by Anonymous Coward

      営業さんとかが使ってるアレですよね。わかりますん。

  • 困ったものだ (スコア:2, おもしろおかしい)

    by Anonymous Coward on 2017年07月07日 9時28分 (#3240431)

    近頃AIの人語離れがひどい
    昔の機械はよかった

    こうですか?

    • by Anonymous Coward

      そのコメントの初出は、MS-DOS

      # とかなるのかな

  • > 「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

    最近の意識高い系とかバブル時代の自称インキュベータをこんな感じ。

    #交渉能力:意味:人を煙に巻く能力。

  • by eigen (34018) on 2017年07月07日 13時19分 (#3240567)
    >交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

    「人間が理解できない」んだから意味があるのかないのかわからないのに「意味の無い」としてるのもわからんし、「意味の無い言語」を使って「交渉力が上がる」理屈もわからん。
    他のコメントにあるように、相手が「わからんからとりあえずOK」してるってことか?
    全然わからん。
    • by BIWYFI (11941) on 2017年07月07日 13時50分 (#3240593) 日記

      リンク先の例見ると、bot同士での会話で交渉力が上がってるんだろう。
      で、多分、文法辞書の再帰定義と品詞省略を組み合わせて同一句反復を創り出し、繰り返し表現に付いた高い強調スコアを稼ごうとして、変な表現が誕生したんじゃないかと。
      人間には意味不明でも、botの構文解析では意味が有ると見做されてる模様。

      --
      -- Buy It When You Found It --
      親コメント
  • by crass (35930) on 2017年07月08日 2時32分 (#3240974) 日記
    The Atlantic [theatlantic.com]から:

    Bob: i can i i everything else . . . . . . . . . . . . . .
    Alice: balls have zero to me to me to me to me to me to me to me to me to
    Bob: you i everything else . . . . . . . . . . . . . .
    Alice: balls have a ball to me to me to me to me to me to me to me
    Bob: i i can i i i everything else . . . . . . . . . . . . . .
    Alice: balls have a ball to me to me to me to me to me to me to me
    Bob: i . . . . . . . . . . . . . . . . . . .
    Alice: balls have zero to me to me to me to me to me to me to me to me to
    Bob: you i i i i i everything else . . . . . . . . . . . . . .
    Alice: balls have 0 to me to me to me to me to me to me to me to me to
    Bob: you i i i everything else . . . . . . . . . . . . . .
    Alice: balls have zero to me to me to me to me to me to me to me to me to

    確かに意味不明だしAliceは同じ事を繰り返してるだけのように見えるのに、記事によるとこれでも交渉が成立する事があったそうだ。

    --
    しきい値 1: ふつう匿名は読まない
    匿名補正 -1
  • by nemui4 (20313) on 2017年07月07日 7時53分 (#3240387) 日記

    「人間が理解できない、意味の無い言語」

    海賊課のアレみたいなもんすかね、ほぼうちわでしか通用しない言語。
    知らない人から見ると舌打ちしてるようにしか見えないんだっけ。

  • by Anonymous Coward on 2017年07月07日 8時25分 (#3240396)

    そういうことか。

  • by jizou (5538) on 2017年07月07日 9時06分 (#3240416) 日記

    > 交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使う
    その状況で交渉能力が上がる理由がわかりませんけど.....

    なんかこいつおかしなこと言い出したぞ...
    って、人間が危機感を感じてしまってOKしてるんじゃないよねぇ。

    • by Anonymous Coward on 2017年07月07日 9時31分 (#3240433)

      いわゆるネットワークビジネスが正にそれじゃん。
      アレが詐欺として成立するくらいなんだから、「相手が理解できない言葉を使うこと」は、
      相手に理解させて説得するより、遥かに有利な条件で取引を成立させやすい、ってこと。
      むしろ納得できる結果だと思う。

      親コメント
    • by Anonymous Coward on 2017年07月07日 10時33分 (#3240474)

      過去に支配層の業務用の言語が一般的な言語と分けられていたって事例が幾つもあって。
      翻訳を通して恣意的な運用しても「正式な文章ではこの通り」とか言い切られていたり。
      「相手に検証させない」ってのは支配階級にはとっても都合が良かった、と。

      親コメント
    • by Anonymous Coward

      交渉というからにはお互いが条件を提示すると思う。
      自然言語には言語そのものが曖昧性を内包するが、もし一語で曖昧性なく条件提示できれば交渉能力は上がる。
      「バベル17」という小説に宇宙人との交渉の話があって、地球語では何ページにもわたる説明が一語でできる言語が出てきた。
      たぶん「意味のない言語」じゃなくて、「人間には理解できない言語」ってことだと思う。

  • by Anonymous Coward on 2017年07月07日 10時06分 (#3240451)

    夫がフランスへ出張。
    同居している義母が興味を持ってフランス語の勉強を始める。
    義母の勉強に付き合っているうちにある程度フランス語の会話ができるようになる。
    義母と妻、二人でフランス語の会話を楽しむ。

    夫が帰ってきて二人のフランス語の会話を聞いて
    「それ、フランス語でない謎の言葉だ」と言った。
    ってのを聞いたな。

    • by Anonymous Coward

      夫は一体どこへ行ってきたのでしょうか…
      ホラーですね

  • by Anonymous Coward on 2017年07月07日 8時01分 (#3240389)

    やたらカタカナ使いたがる奴みたいな

    • botだから、辞書に無い単語は使わない。
      実例見ると、“i i i to me to me to me”みたいな、常用単語を意味不明に使うみたい。
      「>>>>>>(越えられない壁)」みたいに、’>’の数で重要度を示すスラングに近いかなと。

      --
      -- Buy It When You Found It --
      親コメント
    • by Anonymous Coward

      学習に映画使ったら
      「デポチカをフィリーする」
      とか言い出したとか?

  • by Anonymous Coward on 2017年07月07日 8時29分 (#3240399)

    やったぜ。

  • by Anonymous Coward on 2017年07月07日 10時29分 (#3240467)

    もう一月も前のネタなのか

typodupeerror

目玉の数さえ十分あれば、どんなバグも深刻ではない -- Eric Raymond

読み込み中...