東京大学、ChatGPT等の「生成系AI」技術への学内向け見解を公開 49
ストーリー by nagazou
議論 部門より
議論 部門より
あるAnonymous Coward 曰く、
朝日新聞の記事によると、東京大学は、ChatGPTや画像生成AI等の「生成系AI」技術への向き合い方を示した見解を学内向けに公開したそうだ。
見解では、これらの「生成系AI」に期待し、まず使ってみることを提案すると同時に、生成された情報に「嘘が含まれている可能性」を指摘し、「知ったかぶりの人物と話しているような感じ」と批評し、「人間自身が勉強や研究を怠ることはできない」としているそうだ。
AIによって真実が作られる (スコア:3, 興味深い)
今後AIがどんどん進化して、人々は多くの判断をAIに求めることになるでしょう
AIに地球温暖化の質問をすれば、返ってくる答えはAI運営元が恣意的に"調整"した返答になるでしょう
新しいワクチンが出たときに、打つかどうかAIに質問すると、これもAI運営元が恣意的に"調整"した結果になるでしょう
お勧めの飲食店を聞いたときには、AI運営元にお金を払ったお店が優先的に推奨されて、金払ってない店は推奨されにくくなるでしょう
AIが1984の「真実省」のような存在になる可能性が高い
Re:AIによって真実が作られる (スコア:1)
へー、ChatGPTでこういうおもしろい文章出力できるんだ。
どんなプロンプト使ったの？
Re:AIによって真実が作られる (スコア:1)
「AIが進化した世界がどうなるか、いかにも知ったふうな口で、1984のようにコントロールされるという文章を作成してください」
Re: (スコア:0)
そんなに判断自体を求めるっていう姿勢で使うかな…
ちょっと使えば分かるけど、確率的な文字列処理の結果のデタラメが混ざるので事実や知識の確認には使えなくて、アイデア出しや入力情報の整理にしか使えないよね。
デタラメな答えで納得できるわけがない。
だから今後もAIの答えをよく吟味する風潮が続くと思うよ。
そんな警戒の中で宣託を垂れるような位置につけるか…？
Re: (スコア:0)
どうでしょうね？
既に検索の代替として文章作成AIが使用され始めている事からも、大多数の人はAIの回答こそ真実人間の考えは誤りと見なし始めているのではないでしょうか？
機会は間違えないという古くからの信仰もあることですし。
Re: (スコア:0)
流石に論理が飛躍し過ぎでしょう
文章作成でも検証と校正しないと使い物にならないし、そこからAIが真実になって人間が誤りになるとかステップが飛び過ぎなんじゃないですか
Re: (スコア:0)
自分で考えた経験のある人はそう思うでしょうが、全く経験のない人のほうが多い。
考えたり判断しているのが他人かAIか、その結果の真偽など問題にすらなっていない。
誰も真偽を気にしていないのである、ってのが明らかになるだけではないでしょうか。
Re: (スコア:0)
それはあくまで現時点のAIでしょう
今後どんどんAIは高性能化していくので、AI依存社会になるのは確実
SiriみたいなAIもどきも、現状のもどきじゃなく本格AIに進化して、
Appleユーザーは様々な判断をApple社が運営するAIに依存する
なので、Apple社が真実だと決めたことが、Appleユーザーにとっての真実になる
おなじくAndroidやWindowsのユーザーも、それぞれGoogleやMicrosoftが決めたことが真実となる
Re:AIによって真実が作られる (スコア:2)
どうかな
どっか大手がベースを作ることは作るだろうけど、右も左もあるいはそのほかいろんな考え方の人がAIを出してくることになるんじゃないかな
「OSメーカの」って感じにはならん気がする
なりそうになったら規制されそうだし
教科書検定みたいな大枠が政府によって規制されてその中でバラエティが出る
マニアや特殊な団体は改造した触法AIを使うかも
とか
Re: (スコア:0)
概ね同意だけど、最後の触法AIってなに？
有罪判決で利用禁止命令を受けたモデルとか？
Re:AIによって真実が作られる (スコア:2)
そんなイメージですね
あるいは車検切れの車みたいに必要な検査受けてないとか
Re: (スコア:0)
現在のAIの仕組みを考えたら、それがいくら高性能化しようと、事実や知識の判断を使う目的では役にたたないんだが。
Re: (スコア:0)
それが実際に役に立つかどうかと
その目的で使われるかどうかは別だから
Re: (スコア:0)
> 事実や知識の判断を使う目的では役にたたな
スラドみたいなんだが、生成系AIでスラドにタレコミさせてコメ付けさせたら今より断然面白くなりそうだと思わないか？
Re: (スコア:0)
今後のAIに何が出来るとか出来ないとか、現時点で分からんし
それはそうと、その予想された世界線では各社のAIが食い違う事を言い始めるのだろうなあ
すると宗教戦争でも始まるのか
Re: (スコア:0)
そもそもChatGPTを何かしらの実用に使うという発想が既に頭おかしいとしか
あんなもの暇つぶしのおもちゃ程度の完成度でしょう
Re: (スコア:0)
コオロギがここに並ぶ時点で陰謀論者という事がよくわかる
マイクロソフトのことを明言しないのもほのめかすのが頭いいと勘違いしてる典型的陰謀論者
君の好きな色々でほのめかすだけでとどめられてることが多いのは
書いてる奴が頭がいいとか規制されてるとかじゃなくて、嘘だとわかってて書いてるけど責任取りたくないからなんやで
Re: (スコア:0)
それは大変だ。
ワクチン打ってウクライナ支持してコオロギ食べる人向けのAIと
ワクチン打ってウクライナ支持してコオロギ食べない人向けのAIと
ワクチン打ってウクライナ支持せずコオロギ食べる人向けのAIと
ワクチン打ってウクライナ支持せずコオロギ食べない人向けのAIと
ワクチン打たずウクライナ支持してコオロギ食べる人向けのAIと
ワクチン打たずウクライナ支持してコオロギ食べない人向けのAIと
ワクチン打たずウクライナ支持せずコオロギ食べる人向けのAIと
ワクチン打たずウクライナ支持せずコオロギ食べない人向けのAIが必要そうですね
まあでも東大の見解だしなあ (スコア:0)
日本人の大半はAIにすべてを丸投げして怠惰に暮らしていきたいだから
Re: (スコア:0)
そりゃあなたの妄想というか願望では？
Re: (スコア:0)
こいつだけじゃないぞ。おれもそうしたい。
Re: (スコア:0)
日本人に限らず、AIに任せて暮らしたい人が大半なのではないでしょうか？
半世紀後ぐらいには実現してるかも。。。
Re: (スコア:0)
株でもFXでも製造でも販売でも何でも良いんだけど、そうやって機械にお任せで怠惰に暮らせる世の中にはなっていない。
Re: (スコア:0)
必ず儲かる自動の投資信託やEC販売を誰も作れてないし、今後も作れないでしょうね。
Re: (スコア:0)
岸田AIを作って総理大臣の職を任せた方がいいな
グローバリストやアメリカや官僚が決めたことを追認するだけのAI
Re: (スコア:0)
シャモジを決めたのはグローバリストやアメリカや官僚のうち、誰?
まず使ってみることを提案 (スコア:0)
東大というより京大っぽい印象
Re:まず使ってみることを提案 (スコア:1)
折田先生にあられも無いことをしゃべらせるためにChatGTPをトレーニングする学生も現れそうだ
Re: (スコア:0)
東大の先生「ChatGPTに関する見解をtきょう大っぽく作ってください。あっ噛んだ」
#ChatGPT使ったことないので音声入力できるのか知らん
見解より (スコア:0)
開発に期待！
Re:見解より (スコア:2)
いやホント
うちだって負けませんよと言ってほしいわ 言ってるかもしれんけど
Re: (スコア:0)
横だが、まあでもLLMとかの開発とかだと金かけられる企業の方が進んでますからねえ。研究でも、金が必要な研究ではどうしてもGAFAとか出てくるし。原理知ってる人達が、企業と別に存在するのはありがたいけど
Re: (スコア:0)
"2022年に最も引用されたAI論文100選を公開 米国、中国に続くAI研究大国はどこ？"
https://atmarkit.itmedia.co.jp/ait/articles/2303/15/news053.html [itmedia.co.jp]
日本はトップの米中から大幅に引き離されて10位にすら入っていない…。
せめて応用だけでも頑張って儲けてほしい。
Re: (スコア:0)
で、成果が上がったら、結局GAFAM引き抜かれる未来。
生成された情報に「嘘が含まれている可能性」を指摘し、「知ったかぶりの人物と話しているような感じ」と (スコア:0)
chaptGPTが世に出る直前に〇〇〇きがメディアに露出して、こういう（どういう？）意見表明をするキャラクターについて理解が深められたのは、日本語メディアに触れられたことのある者の時代的幸運である
Re: (スコア:0)
おっと、ひxxxさんをdisるのはそこまでだ
まあChatGPTとかが明らかに嘘とか出してくるのは、直ぐに判っただろうし、堂々と嘘を吐く人間も昔から沢山居るからなあ
Re: (スコア:0)
そういった人物にもそれなりの数の信望者が付いていることからして、AI様の言うことを信じる人たちもそれなりの数になることでしょう
Re: (スコア:0)
そう信じる人はここでは少数派になるのやら？
生成系AI？ (スコア:0)
他のマスコミだと「対話型AI」と称しているけどね
画像生成AIとかだと「生成系AI」とか「創作系AI」でも良いと思うけど
ChatGTPの場合は「対話型AI」の方が相応しいと思う
他にも「AIチャット（ボット）」とかあったかな？今後名称が統一されていくのだろうか？
「在宅勤務」「テレワーク」「リモートワーク」みたいに定義が微妙に異なる事からと統一されない可能性も否定出来ないが
ところで「生成系AI」技術への向き合い方を示した見解とあるが
レポート等に「対話型AI」を使用して良いのか否かの見解は教員が個別に示すのだろうか？
テレ東やNHKの番組で有識者として東大の松尾豊教授を見かけたんだが
「もし学生がChatGTPに書かせたレポートを提出してきたらどうしますか？」とか聞いて欲しかった
Re:生成系AI？ (スコア:1)
GAN(Generative Adversarial Networks)はじめとしてgenerative AIって呼ばれてるから生成系AIでいいと思う。
一般に広まってるstable diffusionやchatGPTのようなのは「創作」っぽいけど創作っぽいのはごく狭い分野だけだから創作系っていうのも合わない。
対話型AIってのもテキスト生成AIをinteractiveにしてるだけだから一般用語としてはいいけど実情には合わない。
馬鹿みたいなことを言えば
教授「対話型AIは禁止！」
学生「対話型じゃないテキスト生成AIに作らせたろ」
となるし、
教授「AI禁止！」
学生「365の文書校正、VisualStudioの入力補完、deepLもAIなんですけど使っちゃダメなんですか」
となる。
もちろん教授の方針によるけど、基本的にはレポートなんて自分で考えたことを書けば手段を問わないし、モラルに反さなければAI使おうが何やったっていいんだよ。
Fランだと常識ない学生率高いからきちんとルール作りしないと回らないけど学生任せな教授多い。試験なんて持ち込みおｋとか、周りの人と相談しておｋ、(この教室今日はもう使われないから)時間制限なし今日中に答案出せばおｋなんて感じで自由奔放になってる。
Re: (スコア:0)
「どれくらいプロンプトエンジニアリングに習熟しているかで評価します。」とか言って欲しいなぁ。
Re: (スコア:0)
＞他のマスコミだと「対話型AI」と称しているけどね
マスコミが用語を決めるのではなく概念の発祥元の大学および企業が名称を決めます
そしてマスコミは高確率で間違えます
その成り立ち、特性から生成系AI(generative AIの訳語)が適切です
別に対話型と言ってもかまいませんが、その場合は「広いくくりでの生成AI(GPT-3.5含む)を
特別に強化学習を通して対話用にfine tuningしたchatGPT」を表す場合に限定されるでしょう
(つまりより専門的な文脈)
そのような文脈が一般のマスコミの記事で現れるとは考えにくいし、一般の方が区別する必要があるとも思えないのでやはり生成系AIが適切ですね
Re: (スコア:0)
#4443233ですが念のため補足すると
GPT-3.5などの大規模言語モデルは次トークンの確率分布を予測して再帰的に文を生成するので生成モデルなわけです。
スラド民には不要な補足だとは思いますが念のため・・・・
Re: (スコア:0)
対話してるんだから「対話型AI」だろ？という見方があるんだろうね
実際の使われ方に注目した呼び方なんだろう
「LLM」を使う場合は、対話してなくても、仕組みが大型言語モデルを使うものだとLLMと呼ばれるんだろう。仕組みに注目しているとも言える
何ならtransformer使って画像認識する場合に、LLMを使っても構わないだろうし
画像生成系だと、LLMだけでなく拡散モデル使ったりするからgenerativeの方が良いだろうね
知ったかぶりなのは (スコア:0)
Web上の情報の大半が表面的で知ったかぶりだからじゃない？
インターネットにない情報やデジタル化されていない情報をもっと学習ソースとして使ったほうが良いと思う。
Re: (スコア:0)
高町なのはさんを知ったかぶりなんてディスらないでください!
Re:知ったかぶりなのは (スコア:1)
なのはさんはまあ…
でも、なのちゃんはディスるな
らじゃったのだ
いまのところ (スコア:0)
＞「人間自身が勉強や研究を怠ることはできない」としているそうだ。
ほんとこれ。
ChatGPTで自分の専門分野の質問投げたらいきなり大ウソが出てきたので、
少なくとも調べものに使うには、使う側の人間にある程度の専門性
（あるいは妥当性を検証する能力）が必要だなぁと思った。
まあ、ものの数年で克服されそうな気もするけど。