アカウント名:
パスワード:
本当の部分に捏造された嘘が混じったり、分からない部分を適当に捏造している限り定着しない。分からないなら分からないと答えるようにしてくれ。
AIにはわからないということがわからないから。
プログラム的にはただの条件分岐だから蓄積したデータに無いなら無い、検索して該当しなかったら無いで終了できるよ。
それで十分カバーできれば良いのだけど、実際は蓄積したデータにはあるんだけどその「該当した」という判断が誤っている場合がほとんどでしょうたとえば具体的な人物名(自分の知人の一般人)をきくと有名な政治家や閣僚経験者だと答えることが頻繁に見られるそれは一般的にGoogleなどの検索では蓄積したデータにないという判断になる(ヒット数0になる)のだけれどChatGPTの仕組みではその人物名に対応するベクトル量が似通っている別の人物名の情報を引っ張ってきてしまう条件分岐にするとしたら閾値を設定しないといけないわけだけど、絞り込みすぎると正答の場合を返せないし緩すぎるとデタラメな情報を返すようになる原理的に大量のテキストをマイニングしたら質問と正答との間に相関性があってそれを「学習」してるだけだからどうしても誤った情報は入り込まざるを得ないよ
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
ソースを見ろ -- ある4桁UID
致命的な問題がある (スコア:1)
本当の部分に捏造された嘘が混じったり、
分からない部分を適当に捏造している限り定着しない。
分からないなら分からないと答えるようにしてくれ。
Re: (スコア:0)
AIにはわからないということがわからないから。
Re: (スコア:0)
プログラム的にはただの条件分岐だから
蓄積したデータに無いなら無い、検索して該当しなかったら無いで終了できるよ。
Re:致命的な問題がある (スコア:0)
それで十分カバーできれば良いのだけど、実際は蓄積したデータにはあるんだけどその「該当した」という判断が誤っている場合がほとんどでしょう
たとえば具体的な人物名(自分の知人の一般人)をきくと有名な政治家や閣僚経験者だと答えることが頻繁に見られる
それは一般的にGoogleなどの検索では蓄積したデータにないという判断になる(ヒット数0になる)のだけれど
ChatGPTの仕組みではその人物名に対応するベクトル量が似通っている別の人物名の情報を引っ張ってきてしまう
条件分岐にするとしたら閾値を設定しないといけないわけだけど、絞り込みすぎると正答の場合を返せないし
緩すぎるとデタラメな情報を返すようになる
原理的に大量のテキストをマイニングしたら質問と正答との間に相関性があってそれを「学習」してるだけだから
どうしても誤った情報は入り込まざるを得ないよ