パスワードを忘れた? アカウント作成
16743457 story
テクノロジー

AI生成文章を"新証言"として展示する関東大震災100年企画、取りやめへ 45

ストーリー by nagazou
企画が通ったのが不思議 部門より
日赤東京都支部は24日、企画展「関東大震災 100年前の100人の新証言」とインターネット公開を中止すると発表した。企画展は、26日から東京都新宿区の同支部など2か所で開催予定だった(関東大震災100年プロジェクトの実施取りやめに関するお知らせ産経新聞ITmedia)。

この企画展は関東大震災の史料などをChatGPTをベースとするLLMに当時の文献60万字以上の情報を読み込ませ、新たに作り出した文章を証言として展示するというものだった。一部については人物画像もAIで生成した。しかし企画内容が報じられると、SNSを中心に同支部によると、「歴史の捏造につながるのでは」「フェイクニュースだ」「冒涜では?」など批判的な声が多く上がっていた。担当者は「新証言という表現を使って、実在した人が話したかのような内容にしたことで誤解を招いてしまった」と話している。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by simon (1336) on 2023年08月29日 13時48分 (#4518975)

    >私共の説明が不十分なため、本来の意図が伝わらず一部で誤解を
    >招いてしまい、本プロジェクトを通して伝えたかったことが
    >十分に伝えられない状況

    いや、誰も誤解なんかしてないよ。AIで捏造した証言をもとに震災被害を語るのは間違ってる、っていう当たり前の理解をしただけだよ。

    誤解ってあたかも受け取り側に問題があるみたいな言い方はやめてくれないかな?

    あとこれ、日本赤十字の中に生成AIの専門家がいるとも思えないので、どっかの怪しいコンサルがいい加減な企業とか研究室を紹介して金にしようと目論んだ結果なんじゃないの?そのへんのコンサルとか企業の名前が知りたいなあ

    • by Anonymous Coward on 2023年08月29日 14時15分 (#4518996)

      誤解というなら、その「本来の意図」をきちんと説明してほしい、とは思いましたね。
      それを言わずボンヤリと「誤解です」だけ言われても、違和感しかない。

      親コメント
      • by Anonymous Coward

        ITmediaの取材より
        「描かれている当時の状況やそこから見出せる教訓などを想像しやすくなるのではないかという想いから企画いたしました。」

        1人で企画進行していたわけでもないでしょうに、組織としてこういう方向に舵取りしたのは実に残念に思います

    • by Anonymous Coward

      この企画の日本赤十字の担当者が証言しているって言う体で、
      「俺がやった企画の何が悪い!AIに生成させたんだから、実在した人もそう思ってたに違いないだろう!正しいことを言わせて何が悪い!今回の企画を批判した人間も取りやめた上層部もみんな屑だ!タヒね!」
      って証言をChatGPTに生成して、それっぽい人物画像を添えて展示してあげれば、
      この企画の担当者も何が問題だったのか理解できるんじゃないかな。

    • by Anonymous Coward

      怪しいコンサルにたぶらかされたのだとしても、それは単なる捏造ですよね? という当たり前の判断を誰も(少なくとも上層部が)できなかった日本赤十字も十分やばい

  • 「当時の史料をAIに要約してもらってみた」ならいけたかもしれないのに。
    それでも生成APIが吐き出す情報の正確性についての認識の差が人によって大きいからダメかもしれんな。
    人は画面越しの情報と機械の言うことを真実だと思い込みすぎる。

    • 大量の資料をAIに処理させて
      「資料Aには○○という記述があり」「資料Bには△△という記述があり」「資料Cには□□という記述がある」ことから、これらをまとめて見ると「この時、●●であったことが推察できる」
      みたいな推論が出来たのであれば、
      そういうのは「AIが見つけた新事実」と言ってもいいと思う。

      「新証言」ではないですし、
      その場合は原典もきちっと明記して、人間の手で妥当な推察であることを検証するのが大前提ですけど。

      親コメント
      • by Anonymous Coward

        犯人は眼鏡を掛けた男性でスマートフォンを使用していた。

    • by Anonymous Coward

      別にAIかどうか、機械かどうかは関係ないよ。
      人間が書いた文章であっても「新証言」と銘打って創作小説を発表したら多くの人は真実だと誤認するし、
      創作だと知った後は今まで聞かされてきた「証言」も創作だったのでは?と疑心暗鬼を生む。
      当たり前の話。

      • by Anonymous Coward

        まー、どこぞの元戦車兵な歴史小説家さんの例もありますしねぇ……。

        #事故ならともかく意図的に人の集団を轢いてたら、戦車の履帯とか壊れちゃうよ。

        • by Anonymous Coward

          人間の集団を轢いてたら壊れるの?どんだけヤワな兵器だよ、だったら塹壕掘らないで、てきとーに材木とか転がしといたら十分じゃないか、人間の体より材木のほうがダメージでかいだろ。

      • by Anonymous Coward

        だからそれを史実として扱う、或いはそう誤解されがちな「はだしのゲン」が、学校図書館から排除されるのは正しい。

        • by Anonymous Coward

          ならば、司馬遼太郎の作品も撤去すべきだな

          • by Anonymous Coward

            まじそれ。事実だと言い張るひとが多くて閉口

  • 震災の混乱で「〇〇人が井戸に毒を入れている」「暴動を起こしている」ってデマが流布され、それに恐怖を感じたごく普通の一般市民が〇〇人(あるいは〇〇人と疑われた方言話者)が関東の各地で虐殺された、というのが関東大震災を語るうえで避けて通れない歴史的事実なのだが

    (たぶんいまだに100年前のデマを信じてる人がいるかもしれないけどこれは当時の政府がまとめた報告書にも記載のある事実です)

    https://www.bousai.go.jp/kyoiku/kyokun/kyoukunnokeishou/rep/1923_kanto... [bousai.go.jp]

    AIの証言者はこの虐殺についても「証言」するのだろうか。
    政治的な観点から証言をしなかったらそれは虐殺の否定であり歴史修正主義に加担することになるし、虐殺の証言をしたとしてもそれは今度は実際の虐殺の証拠に混ざりかねず危険である。(そうやって歴史的事実を捻じ曲げようとする人も出るかもしれない)

    いずれにせよ、歴史修正主義者に餌を与えることになりよろしくない。
    歴史的事実に基づいた実際の証言でデマの恐ろしさを伝えなきゃ駄目でしょ。

    追伸:スパムフィルタで「当時は日本が植民地支配していたコリア」が表記できないので「〇〇人」って表記にしましたがなんなんすかこのフィルタ。

    • by Anonymous Coward

      特段の制限をかけなければAIは証言するでしょう。
      AIは自ら証言してはいけないなんて判断しませんし、虐殺の虚実も判断しませんが、学習データ「当時の文献60万字」にあればそこから文章を再構築するだけです。
      AIの動作として特に問題は無いと思います。
      (誤った文章を構築してしまう可能性があるのは脇に置いておくとして)

      > 歴史的事実に基づいた実際の証言でデマの恐ろしさを伝えなきゃ駄目でしょ。
      これをさせたいならAI使わないほうがいいでしょう。
      このストーリーと同種の問題を引き起こします。

      • by Anonymous Coward

        学習データを語るのは、証言するといえるのですか?
        私も歴史の本はいくつか読んだことがあるから大震災を証言できますか?

    • by Anonymous Coward

      べき論で言うなら出てきたら出てきたでしかない
      むしろ、伝えなきゃダメ(出さなきゃダメ)という態度は『政治的な観点から証言をしなかった』と同レベル
      『政治的な観点から証言をさせた』でしかない
      目的は手段を正当化しない

    • by Anonymous Coward

      イタコに「あの時殺されて痛かったぞ」と証言させるようなもので、新証言!=新事実であることを強調して明示すれば、別に問題なかった気がする。

  • by Anonymous Coward on 2023年08月29日 13時22分 (#4518955)

    歴史資料にAIの手を加えて…っていうと思い浮かぶ先例が白黒写真にAIで色付けをするもの。あれも資料と現代の知識をもとにした推測に過ぎないという点では今回の件と同類なんですよね。

    つまりどちらも、事実ではないと理解したうえで「こんな雰囲気だったんだ」という空気感を理解しやすくするために使うのはまだいいかもしれないけど、「実際にこんな色・こんな発言があったんだ」と思われかねない危うさを持っている。

    • by Anonymous Coward

      あれは、当時日本にはカラー技術がなかったという事実が別に知識としてあるから、
      加工されたものだと自明。

      文章だとその点区別がつかなくなる可能性がある。

      誤解だ?
      こういう言い訳、キライ。
      捏造以外の何物でもないだろ

      • by Anonymous Coward

        時代によっては、数は少ないもののカラー写真が普通に存在しているので、さらにややこしい。
        オートクローム乾板は1908年には輸入されていたようで、
        大正時代位のカラー写真は皆無とか技術的に有り得なかったわけではないので…
        (実際その頃の日本をオートクロームで撮影した写真もわずかに現存する)

        #ここに「当時白黒写真に手で色づけしたもの」とかも加わると余計ややこしい

      • by Anonymous Coward

        知識として自明なのは君がおっさんおばさんで1970年前後で起こった変化(の余波)を経験してるからだぞ
        若い世代は既にもはや変化も余波も伴わない「昔の話」でしかないので具体的にいつ頃からというイメージは薄い
        おじさんおばさん世代も明治大正に対する「当時日本では」はかなり怪しいもんだろ
        もう若い世代では、君の言うその当時が「昔の話」の一括りに仲間入りしてるんだよ

    • by Anonymous Coward

      戦前戦中のカラー化は、広島などの写真が有名だけども、初期はAIにおまかせでした。
      しかし、反響が大きくなった頃から、当時のことを知る人などに聞いて可能な限り忠実に再現できるようにしているそうです。
      あるいは科学的・歴史的に調査して妥当な色としている。
      そういうプロジェクトもあるので、一緒くたにしない方がいいですね。

      それと、AIって結局学習元次第・学習条件次第なんですよね。
      時代考証しっかりした資料から学習してれば、十分それなりのものになる。

      ただ、もちろん、きちんとAI着色だと認識・表示することは必要ですが。

      あとコレ重要だけど、着色は生成AIとは別ジャンルです…。一緒にしないで欲しい。

      • by Anonymous Coward

        「AIによる着彩の不正確性」についてじゃなくて「AIによる着彩写真を実際のカラー写真だと誤認・誤解する人が出かねない」ってことが問題なんですよ

        写真の一部に「AIによる着彩」と表記する必要があると思います(でもトリミングでその表記を削ってカラー写真と偽って流布するやつもいるかもしれない)

        • by Anonymous Coward

          >> ただ、もちろん、きちんとAI着色だと認識・表示することは必要ですが。
          > 写真の一部に「AIによる着彩」と表記する必要があると思います

          AIの会話か?

    • by Anonymous Coward

      当時の着色絵葉書が結構残ってるからな。
      その辺と突き合わせてるのだろう。

  • by Anonymous Coward on 2023年08月29日 14時00分 (#4518985)

    1000年前のものについてはやっておk、とかそういうの

    • 実際、歴史小説とか記録文学とかの分野だとそのへんの加減ってどうやっているんですかね。

      太平洋戦争くらいだとギリギリ証言者がいるけど、日露戦争くらいだと記録に頼るしかない。江戸時代より前に遡ると記録もかなり減る(長編小説に仕上げるレベルとしては足りない)ので作家の創作部分が増えざるを得ない。

      逆に、(小説が書かれた時点から見て)最近すぎて登場人物や組織名を架空のものに変えた例も。

      読み手がそのあたりの前提を把握したうえで読むならともかく、ストレートに史実と捉えられてしまう「事故」もそこそこありそう。
      (戦国時代の武将の会話とか心情とか、全部記録で残っているわけないだろ!)

      親コメント
      • by Anonymous Coward

        ドラマを証拠に日本を非難する国がありますからなぁ。

      • by Anonymous Coward

        今期の大河ドラマでは、「史実に反する!」と熱くなっている方が多いようで。

        # ドラマだよ、ドラマ。松潤と佳純ちゃんなんだから熱愛に決まってるだろうに。

        • by Anonymous Coward

          でも史実性・時代考証をそこそこ追求した2012年「平清盛」は、史実(説)の所をえらく罵倒されてましたな。

    • by Anonymous Coward

      一次創作と誤認されないように©表記つけないと

  • by Anonymous Coward on 2023年08月29日 14時32分 (#4519004)

    まあ、AIと言わず、
    語り部活動みたいな物だってどんどん内容が新しく作られているという点では、似たようなものでしょう。
    事実を元にしたお話(創作)って言えばいいのにね。

    • by Anonymous Coward

      再現VTRの延長と見てあげればいいのに。セリフにしてもAIはダメで脚本家のアレンジならええんかと。

      • by Anonymous Coward

        問題が理解できてないんなら無理にコメントしなくてもいいんだよ。

        AIが再現VTR作ったりセリフをアレンジしても何も問題ない。
        今回の問題は「証言」を捏造したところ。

  • by Anonymous Coward on 2023年08月29日 20時59分 (#4519194)

    いつもの朝日ではないってことは、朝日では報道されてないのかな?

typodupeerror

コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell

読み込み中...