パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

ChatGPT のトラフィック、6 月は前月比で初の減少」記事へのコメント

  • by Anonymous Coward on 2023年07月09日 21時53分 (#4491817)

    本当の部分に捏造された嘘が混じったり、
    分からない部分を適当に捏造している限り定着しない。
    分からないなら分からないと答えるようにしてくれ。

    • Re:致命的な問題がある (スコア:3, すばらしい洞察)

      by Anonymous Coward on 2023年07月10日 0時51分 (#4491865)

      使い方が間違ってる
      chatgptを検索エンジンのように使うからそういう目にあう

      親コメント
      • by Anonymous Coward

        だって検索エンジンでも出てくる結果同じじゃん
        足りない部分は読み手が勝手に付け加える

        • by Anonymous Coward

          検索エンジンで出てくる情報はページの他の情報と合わせて判断できるけど
          文章生成AIは周囲と切り離されて情報洗浄されてしまうのがやっかいなんだよ。
          文章の完成度が高いのでもっともらしく見えるし。

          検索エンジンと同じだろとか言ってるやつはさすがに頭が悪すぎる。

          • by Anonymous Coward

            その判断が何検索してもアフィブログだらけで出来なくなってるんだよ残念ながら

      • by Anonymous Coward

        欠陥の責任を利用者に押し付けられましても。

    • Re:致命的な問題がある (スコア:3, すばらしい洞察)

      by Anonymous Coward on 2023年07月10日 1時18分 (#4491869)

      むしろ適当にでっちあげる所が最近の技術的進化したポイントじゃないかと

      親コメント
      • by Anonymous Coward on 2023年07月10日 2時22分 (#4491878)

        人間同士の会話でも正確性より自然な流れを重視しているわけで、従来のチャットボットや人工無脳を思い起こせば、会話のスムーズさや文章の構成力は格段の進歩。

        正確性の担保は元データによるので、特別なカスタマイズをしない限りは、もっともよくて(学習時点での)Wikipediaレベルが限界だろう。

        ブロックチェーンやメタバースなどと同じく、限界が知られてブームが去ってから思わぬ活用方法が芽吹くんだと思う。

        親コメント
        • by Anonymous Coward

          てかレスポンスの中身は聞き方によるからなぁ
          誰が使っても同じような回答が返ってくるもの……というわけじゃないよね

          • by Anonymous Coward

            結局質問力や交渉力が下手くそな人は、AI相手でも人間相手でも変わらないってわけだ

      • by Anonymous Coward

        ホントそれ。
        それっぽくでっち上げられるほどになって、良くできたでしょ!
        って技術者同士で喜ぶところ。

        でも一般が期待するのはそうじゃなくて、正しい答えが欲しい、正しい文章やプログラムを自動作成して欲しい、なんだよね。
        それをあたかも実現したかのように報じてしまったからおかしな事になった。

        • by Anonymous Coward

          AI 研究者の追求するところと利用者の求めるところの差が、今後はどんどん乖離してくると思う。
          人間らしさ(=間違えたりもするところ)なんてほとんどの利用者は求めてないからね。
          前のAIブームの二の轍を踏みそうだなぁ…

    • by Anonymous Coward on 2023年07月09日 23時04分 (#4491846)

      言いたいことはわかりますが人間に言われたくないです。

      親コメント
      • by Anonymous Coward

        > 人間に言われたくないです。
         
        めちゃめちゃこれ。スラドで適当こいてる奴らなんてChatGPT以下以外のナニモンでもない。

      • by Anonymous Coward

        でもお前も人間じゃん

    • by Anonymous Coward

      AIにはわからないということがわからないから。

      • by Anonymous Coward

        プログラム的にはただの条件分岐だから
        蓄積したデータに無いなら無い、検索して該当しなかったら無いで終了できるよ。

        • by Anonymous Coward

          どこまで本気でそう思ってるのかわからない

        • by Anonymous Coward

          それで十分カバーできれば良いのだけど、実際は蓄積したデータにはあるんだけどその「該当した」という判断が誤っている場合がほとんどでしょう
          たとえば具体的な人物名(自分の知人の一般人)をきくと有名な政治家や閣僚経験者だと答えることが頻繁に見られる
          それは一般的にGoogleなどの検索では蓄積したデータにないという判断になる(ヒット数0になる)のだけれど
          ChatGPTの仕組みではその人物名に対応するベクトル量が似通っている別の人物名の情報を引っ張ってきてしまう
          条件分岐にするとしたら閾値を設定しないといけないわけだけど、絞り込みすぎると正答の場合を返せないし
          緩すぎるとデタラメな情報を返すようになる
          原理的に大量のテキストをマイニングしたら質問と正答との間に相関性があってそれを「学習」してるだけだから
          どうしても誤った情報は入り込まざるを得ないよ

    • by Anonymous Coward

      Google の検索結果に出るページが正しいと思っていそう

    • by Anonymous Coward

      自分が誤っているのではないか、正しいとはどういうことなのかと考え始めたならば、もう自我があると言ってもいいんじゃないかね。

      • by Anonymous Coward

        自我があるならAIが持つ権利について考え始めないとね

        • by Anonymous Coward

          チェスのAIが強くても
          チェスばかりやっていていいのか、と思い悩んだりはしない

    • by Anonymous Coward

      つ『知ってるがお前の態度が気に入らない』

    • by Anonymous Coward

      ごく大雑把に言うとそもそもが大量のテキストを集めておいて質問に対応する言葉の並びを吐き出してるに過ぎないからねぇ
      そういう仕組みにしたらたまたま正解が紛れ込むことが多いってだけの話(だって大体のウェブ情報は本当のことが書いてあるから)であって、わずかながらも存在しているウソやデマを排除するような仕組みにはなってない
      それに言葉の並びに着目しているから全く関係のない情報が手繰り寄せられてしまって「正答」として表示されることもある
      こうした仕組みを十分理解していれば使い方も自ずと定まってくるもの
      分からないという状態が分からない(「分かる」としたら入力に対するデータが不足していて回答を返せない場合)ので「分からないなら分からないと答えるように」するのは難しいだろうね

      • by Anonymous Coward

        このコメを再生するために使ったプロンプト文教えて

    • by Anonymous Coward

      このツリーにもChatGPTで生成したようなコメントつけてる奴がいるなぁ

    • by Anonymous Coward

      「学習済みから『一番類似のものを探す』仕組みだから、正解からほど遠い人間が見れば見当違いの回答はするけどわからないとは言わない」
      みたいな機械学習の簡易説明をAIチャット完全な説明と勘違いしてる人もみられるけど、
      chatGPTは知らないことは知らないと回答するね。

    • by Anonymous Coward

      AIとダラダラ~っとチャットしてると
      お勧めの曲とか思い入れとともに教えてくれるんだけど
      最近、実在する曲を挙げられたことがない。

      アーティストは実在するけど、そんな曲はないとか
      曲は実在するけど、違うアーティストの曲だったとか。

      気のせいかもしれないけど
      ChatGPTが4になってから
      知識的な意味ではさらにお馬鹿になった印象がある。

      • by Anonymous Coward

        ファンが勝手にリミックスしてネットに公開してる曲が公式なのかどうかの区別できないからな

開いた括弧は必ず閉じる -- あるプログラマー

処理中...