パスワードを忘れた? アカウント作成
16558724 story
テクノロジー

東京大学、ChatGPT等の「生成系AI」技術への学内向け見解を公開 49

ストーリー by nagazou
議論 部門より
あるAnonymous Coward 曰く、

朝日新聞の記事によると、東京大学は、ChatGPTや画像生成AI等の「生成系AI」技術への向き合い方を示した見解を学内向けに公開したそうだ。

見解では、これらの「生成系AI」に期待し、まず使ってみることを提案すると同時に、生成された情報に「嘘が含まれている可能性」を指摘し、「知ったかぶりの人物と話しているような感じ」と批評し、「人間自身が勉強や研究を怠ることはできない」としているそうだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年04月12日 15時21分 (#4442832)

    今後AIがどんどん進化して、人々は多くの判断をAIに求めることになるでしょう

    AIに地球温暖化の質問をすれば、返ってくる答えはAI運営元が恣意的に"調整"した返答になるでしょう
    新しいワクチンが出たときに、打つかどうかAIに質問すると、これもAI運営元が恣意的に"調整"した結果になるでしょう

    お勧めの飲食店を聞いたときには、AI運営元にお金を払ったお店が優先的に推奨されて、金払ってない店は推奨されにくくなるでしょう

    AIが1984の「真実省」のような存在になる可能性が高い

    • by Anonymous Coward on 2023年04月12日 15時32分 (#4442844)

      へー、ChatGPTでこういうおもしろい文章出力できるんだ。
      どんなプロンプト使ったの?

      親コメント
    • by Anonymous Coward

      そんなに判断自体を求めるっていう姿勢で使うかな…
      ちょっと使えば分かるけど、確率的な文字列処理の結果のデタラメが混ざるので事実や知識の確認には使えなくて、アイデア出しや入力情報の整理にしか使えないよね。
      デタラメな答えで納得できるわけがない。
      だから今後もAIの答えをよく吟味する風潮が続くと思うよ。
      そんな警戒の中で宣託を垂れるような位置につけるか…?

      • by Anonymous Coward

        どうでしょうね?
        既に検索の代替として文章作成AIが使用され始めている事からも、大多数の人はAIの回答こそ真実人間の考えは誤りと見なし始めているのではないでしょうか?
        機会は間違えないという古くからの信仰もあることですし。

        • by Anonymous Coward

          流石に論理が飛躍し過ぎでしょう
          文章作成でも検証と校正しないと使い物にならないし、そこからAIが真実になって人間が誤りになるとかステップが飛び過ぎなんじゃないですか

          • by Anonymous Coward

            自分で考えた経験のある人はそう思うでしょうが、全く経験のない人のほうが多い。
            考えたり判断しているのが他人かAIか、その結果の真偽など問題にすらなっていない。
            誰も真偽を気にしていないのである、ってのが明らかになるだけではないでしょうか。

      • by Anonymous Coward

        それはあくまで現時点のAIでしょう
        今後どんどんAIは高性能化していくので、AI依存社会になるのは確実

        SiriみたいなAIもどきも、現状のもどきじゃなく本格AIに進化して、
        Appleユーザーは様々な判断をApple社が運営するAIに依存する
        なので、Apple社が真実だと決めたことが、Appleユーザーにとっての真実になる

        おなじくAndroidやWindowsのユーザーも、それぞれGoogleやMicrosoftが決めたことが真実となる

        • どうかな
          どっか大手がベースを作ることは作るだろうけど、右も左もあるいはそのほかいろんな考え方の人がAIを出してくることになるんじゃないかな

          「OSメーカの」って感じにはならん気がする
          なりそうになったら規制されそうだし

          教科書検定みたいな大枠が政府によって規制されてその中でバラエティが出る
          マニアや特殊な団体は改造した触法AIを使うかも

          とか

          親コメント
        • by Anonymous Coward

          現在のAIの仕組みを考えたら、それがいくら高性能化しようと、事実や知識の判断を使う目的では役にたたないんだが。

          • by Anonymous Coward

            それが実際に役に立つかどうかと
            その目的で使われるかどうかは別だから

          • by Anonymous Coward

            > 事実や知識の判断を使う目的では役にたたな

            スラドみたいなんだが、生成系AIでスラドにタレコミさせてコメ付けさせたら今より断然面白くなりそうだと思わないか?

        • by Anonymous Coward

          今後のAIに何が出来るとか出来ないとか、現時点で分からんし

          それはそうと、その予想された世界線では各社のAIが食い違う事を言い始めるのだろうなあ
          すると宗教戦争でも始まるのか

      • by Anonymous Coward

        そもそもChatGPTを何かしらの実用に使うという発想が既に頭おかしいとしか
        あんなもの暇つぶしのおもちゃ程度の完成度でしょう

  • by Anonymous Coward on 2023年04月12日 14時48分 (#4442796)

    日本人の大半はAIにすべてを丸投げして怠惰に暮らしていきたいだから

    • by Anonymous Coward

      そりゃあなたの妄想というか願望では?

      • by Anonymous Coward

        こいつだけじゃないぞ。おれもそうしたい。

    • by Anonymous Coward

      日本人に限らず、AIに任せて暮らしたい人が大半なのではないでしょうか?
      半世紀後ぐらいには実現してるかも。。。

    • by Anonymous Coward

      株でもFXでも製造でも販売でも何でも良いんだけど、そうやって機械にお任せで怠惰に暮らせる世の中にはなっていない。

      • by Anonymous Coward

        必ず儲かる自動の投資信託やEC販売を誰も作れてないし、今後も作れないでしょうね。

    • by Anonymous Coward

      岸田AIを作って総理大臣の職を任せた方がいいな
      グローバリストやアメリカや官僚が決めたことを追認するだけのAI

      • by Anonymous Coward

        シャモジを決めたのはグローバリストやアメリカや官僚のうち、誰?

  • by Anonymous Coward on 2023年04月12日 14時59分 (#4442804)

    東大というより京大っぽい印象

    • by Anonymous Coward on 2023年04月12日 15時18分 (#4442829)
      うん、まず折田先生が行き交う学生に手当たり次第話しかけるあたりからかな。
      折田先生にあられも無いことをしゃべらせるためにChatGTPをトレーニングする学生も現れそうだ
      親コメント
    • by Anonymous Coward

      東大の先生「ChatGPTに関する見解をtきょう大っぽく作ってください。あっ噛んだ」
      #ChatGPT使ったことないので音声入力できるのか知らん

  • by Anonymous Coward on 2023年04月12日 17時22分 (#4442932)

    開発に期待!

    • by nnnhhh (47970) on 2023年04月12日 17時33分 (#4442942) 日記

      いやホント
      うちだって負けませんよと言ってほしいわ 言ってるかもしれんけど

      親コメント
      • by Anonymous Coward

        横だが、まあでもLLMとかの開発とかだと金かけられる企業の方が進んでますからねえ。研究でも、金が必要な研究ではどうしてもGAFAとか出てくるし。原理知ってる人達が、企業と別に存在するのはありがたいけど

    • by Anonymous Coward

      で、成果が上がったら、結局GAFAM引き抜かれる未来。

  • chaptGPTが世に出る直前に〇〇〇きがメディアに露出して、こういう(どういう?)意見表明をするキャラクターについて理解が深められたのは、日本語メディアに触れられたことのある者の時代的幸運である

    • by Anonymous Coward

      おっと、ひxxxさんをdisるのはそこまでだ

      まあChatGPTとかが明らかに嘘とか出してくるのは、直ぐに判っただろうし、堂々と嘘を吐く人間も昔から沢山居るからなあ

    • by Anonymous Coward

      そういった人物にもそれなりの数の信望者が付いていることからして、AI様の言うことを信じる人たちもそれなりの数になることでしょう

      • by Anonymous Coward

        そう信じる人はここでは少数派になるのやら?

  • by Anonymous Coward on 2023年04月13日 0時31分 (#4443191)

    他のマスコミだと「対話型AI」と称しているけどね
    画像生成AIとかだと「生成系AI」とか「創作系AI」でも良いと思うけど
    ChatGTPの場合は「対話型AI」の方が相応しいと思う
    他にも「AIチャット(ボット)」とかあったかな?今後名称が統一されていくのだろうか?
    「在宅勤務」「テレワーク」「リモートワーク」みたいに定義が微妙に異なる事からと統一されない可能性も否定出来ないが

    ところで「生成系AI」技術への向き合い方を示した見解とあるが
    レポート等に「対話型AI」を使用して良いのか否かの見解は教員が個別に示すのだろうか?
    テレ東やNHKの番組で有識者として東大の松尾豊教授を見かけたんだが
    「もし学生がChatGTPに書かせたレポートを提出してきたらどうしますか?」とか聞いて欲しかった

    • by Anonymous Coward on 2023年04月13日 3時55分 (#4443218)

      GAN(Generative Adversarial Networks)はじめとしてgenerative AIって呼ばれてるから生成系AIでいいと思う。
      一般に広まってるstable diffusionやchatGPTのようなのは「創作」っぽいけど創作っぽいのはごく狭い分野だけだから創作系っていうのも合わない。
      対話型AIってのもテキスト生成AIをinteractiveにしてるだけだから一般用語としてはいいけど実情には合わない。

      馬鹿みたいなことを言えば
      教授「対話型AIは禁止!」
      学生「対話型じゃないテキスト生成AIに作らせたろ」
      となるし、
      教授「AI禁止!」
      学生「365の文書校正、VisualStudioの入力補完、deepLもAIなんですけど使っちゃダメなんですか」
      となる。

      もちろん教授の方針によるけど、基本的にはレポートなんて自分で考えたことを書けば手段を問わないし、モラルに反さなければAI使おうが何やったっていいんだよ。
      Fランだと常識ない学生率高いからきちんとルール作りしないと回らないけど学生任せな教授多い。試験なんて持ち込みおkとか、周りの人と相談しておk、(この教室今日はもう使われないから)時間制限なし今日中に答案出せばおkなんて感じで自由奔放になってる。

      親コメント
    • by Anonymous Coward

      「どれくらいプロンプトエンジニアリングに習熟しているかで評価します。」とか言って欲しいなぁ。

    • by Anonymous Coward

      >他のマスコミだと「対話型AI」と称しているけどね

      マスコミが用語を決めるのではなく概念の発祥元の大学および企業が名称を決めます
      そしてマスコミは高確率で間違えます
      その成り立ち、特性から生成系AI(generative AIの訳語)が適切です

      別に対話型と言ってもかまいませんが、その場合は「広いくくりでの生成AI(GPT-3.5含む)を
      特別に強化学習を通して対話用にfine tuningしたchatGPT」を表す場合に限定されるでしょう
      (つまりより専門的な文脈)
      そのような文脈が一般のマスコミの記事で現れるとは考えにくいし、一般の方が区別する必要があるとも思えないのでやはり生成系AIが適切ですね

      • by Anonymous Coward

        #4443233ですが念のため補足すると
        GPT-3.5などの大規模言語モデルは次トークンの確率分布を予測して再帰的に文を生成するので生成モデルなわけです。
        スラド民には不要な補足だとは思いますが念のため・・・・

    • by Anonymous Coward

      対話してるんだから「対話型AI」だろ?という見方があるんだろうね
      実際の使われ方に注目した呼び方なんだろう

      「LLM」を使う場合は、対話してなくても、仕組みが大型言語モデルを使うものだとLLMと呼ばれるんだろう。仕組みに注目しているとも言える

      何ならtransformer使って画像認識する場合に、LLMを使っても構わないだろうし

      画像生成系だと、LLMだけでなく拡散モデル使ったりするからgenerativeの方が良いだろうね

  • by Anonymous Coward on 2023年04月13日 9時58分 (#4443336)

    Web上の情報の大半が表面的で知ったかぶりだからじゃない?
    インターネットにない情報やデジタル化されていない情報をもっと学習ソースとして使ったほうが良いと思う。

  • by Anonymous Coward on 2023年04月13日 16時34分 (#4443612)

    >「人間自身が勉強や研究を怠ることはできない」としているそうだ。

    ほんとこれ。
    ChatGPTで自分の専門分野の質問投げたらいきなり大ウソが出てきたので、
    少なくとも調べものに使うには、使う側の人間にある程度の専門性
    (あるいは妥当性を検証する能力)が必要だなぁと思った。

    まあ、ものの数年で克服されそうな気もするけど。

typodupeerror

未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー

読み込み中...