パスワードを忘れた? アカウント作成
17481196 story
テクノロジー

ガザ攻撃に関連したAIで制作したフェイク動画で印象操作が確認される 58

ストーリー by nagazou
虚実 部門より
あるAnonymous Coward 曰く、

パレスチナのガザ地区を実効支配するハマスによるイスラエルへの大規模攻撃を発端としてイスラエルによるパレスチナ爆撃が激化しているが、AIで生成したフェイク動画がSNSで出回り、それに騙されたイスラエルを支持する人たちが拡散する騒動があった。それを中東ジャーナリストの川上氏が確認した。

「ハマスが劇団員を使い、重傷者やレポーター、戦闘員と一人何役もやっている」という情報が流れたものの、使われた動画や画像を検索して探すと、イスラエルで開発されたAIビデオジェネレーターソフト「HeyGen」の宣伝動画が見つかったという。

病院で治療を受けているのはガザ地区ではなくヨルダン川西岸地区に住む少年で、イスラエル軍の侵攻によって重傷を負い、右足を失って車いす生活を送っている。その少年が偽レポーターに仕立て上げられてしまった。

HeiGenのサンプルらしい動画には今回のフェイク動画も含まれており、そのフェイク動画の生成人物と似た顔つきの治療を受ける少年の動画がデマのネタに使われたようだ。

よほど疑い深くないと見抜けないフェイク動画が印象操作に使われる時代になった。もはや映像で見せられてもすぐには信用できない。日本でもこのフェイク動画をそのまま流している人たちがいたが、あえてフェイクだと気づいても消したり訂正していない人もいるので、探してみると良いかもしれない。おそらくフェイクかどうかは関係ないのだろう。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by crass (35930) on 2023年11月09日 4時45分 (#4560700) 日記

    AIで生成した人物じゃなくて「Saleh Aljafarawi」はInstagram [instagram.com]やYouTube [youtube.com]で活動してる実在の人物なんだけど?

     さらに、これまでの写真で、フロント画像の中央にある緑色のTシャツをきた若者の背景には何もないが、その下の瓦礫の前でリポートする写真(元は動画)、さらに建物の前でレポートする画像と、ポーズがほとんど変わらないのに、Tシャツが黒になったり、背景も全く異なっていることに気づくだろう。

    え?そりゃ自撮りなんだからポーズは似るだろうし、別の日の撮影なんだから服は変わるだろうし、別の場所で撮った映像なんだから背景は異なるわな。

     では、このリポーターは何者なのか。

     男性をグーグルで画像検索すると、ヘブライ語のフェイスブックサイトが見つかった(写真下)。AIを使った動画生成アプリ「HeyGen」を宣伝しているアミハイ・シェケルというイスラエルのビジネスマンのサイトだった。

    https://www.facebook.com/reel/7274854129215939 [facebook.com]

    ん?HeyGenのビデオ翻訳 [prtimes.jp]の紹介動画だけど?その動画内で使われるとAIによる生成人物になるの?記事にある画像 [c.yimg.jp]で「Saleh Aljafarawi」の上に映ってる女性は「Noa Tishby」(このスピーチ動画 [instagram.com])という女優 [wikipedia.org]なんだが、彼女もAIによる生成人物なのか?

     このサイトにガザで瓦礫を背景にレポートしていた緑色のTシャツを着ている若者の写真が出てくる。ところが、背景は普通の街角である。壁を背景にした画像もある。これで「ガザレポーター」の背景のなぞが解ける。

    異なる場所で撮影された動画で背景が違うことはそもそも「なぞ」じゃないけど?

     イスラエル国内の路上でリポート映像をとり、背景をガザの瓦礫にしたり、破壊された建物にしたりして動画を作成し、アラビア語に翻訳、音声化したものであろう。Tシャツの色を緑から黒に変えることも、髪の跳ね具合を微妙に変えることも造作なくできるだろう。”IT先進国”イスラエルで開発されたAIが自然な動画生成を行うアプリのサイトなのである。こうなれば、「劇団員」はハマスではなく、イスラエル人だということになる。

    ・・・何を言ってるんだこいつ?Tシャツの色を変えたんじゃなくて、別の服を着てるんだよ?髪の跳ね具合を微妙に変えたんじゃなくて、撮影日時が違うだけだよ?

    ヤフーニュースの「エキスパート」による理解不能レベルの頭悪い記事は珍しくもないけど、なんでこれがスラドに掲載されたんだ?

    --
    しきい値 1: ふつう匿名は読まない
    匿名補正 -1
  • by Anonymous Coward on 2023年11月07日 16時37分 (#4559673)

    TBS「サンモニ」が10年前に存在していた画像を「生成AIで作られたフェイク画像」と報道 SNSで疑問の声噴出
    https://news.yahoo.co.jp/articles/2ec9481df1e41c9c5bd1ee6a7139e640ac934a6f [yahoo.co.jp]

    こっちの話じゃないのか。

    • by Anonymous Coward

      関口宏がAIで作られている可能性も...

    • by Anonymous Coward

      来週お詫びがあるのかな

      • by Anonymous Coward

        たぶんこれ↓ せいぜい以前もあったように、訂正したという証拠づくりのためだけの訂正。

        あえてフェイクだと気づいても消したり訂正していない人もいるので、探してみると良いかもしれない。
        おそらくフェイクかどうかは関係ないのだろう。

    • by Anonymous Coward

      それはフェイクというより誤報でしょうな。

      知らんけど、10年くらい前にフォトショ加工で作られたフェイク画像をイスラエル政府関係者が情報操作のためにXでばらまいたのをAIで生成したものとテレビ局スタッフが勘違いしたということかな。

      でもこのストーリーのやつはそっちの話とは別のもので、しかも写真ではなく動画。

      • by Anonymous Coward

        「フェイク」と「誤報」に区別は不要ですよ。間違いがわかったら謝ればいい。謝らない方針を取ってもいい。

        • by Anonymous Coward

          いるだろ。

        • by Anonymous Coward

          > 「フェイク」と「誤報」に区別は不要ですよ。

          おまえは何を言っているのだ。
          飲食店で食事中に皿を割ってしまったら、器物損壊罪で警察に逮捕でいいか?

    • by Anonymous Coward

      官房長官 偽動画めぐり “政府の偽情報発信 行うべきでない”
      https://www3.nhk.or.jp/news/html/20231106/k10014248471000.html [nhk.or.jp]

      こっちの話じゃないのか。

      • by Anonymous Coward

        こっちのAI生成フェイクは見る前に一掃されてしまったんだが、誰か内容を解説してくれないだろうか。

        たとえば沖縄県知事に関しては、非自民党系の知事は言ってもいないし、やってもいない政策を勝手にでっち上げられて誹謗中傷に晒されることを繰り返されてる。
        今現在でも。

        具体的には中国の手先とか、知事になったら中国が侵略してくる(といわれて何年も経ったが)、外患誘致罪(戦後の日本は武力行使をうけたことはないのに)に当たるなどなど。

        こういう特定政治家に関してのデマを作ることで民主主義をゆがめる動きが、岸田総理の顔や声で作られたって話?
        こういうの怖いね。
        マジで1984の世界になってしまいそう。

        • いつものニコニコキッズネタですよ。(内容的に大きな脅威は)ないです。政治的な意味合いがないからこそ、モデルケースとして予防接種的に取り上げておくことができたのかも。

          親コメント
        • by Anonymous Coward

          こういう特定政治家に関してのデマを作ることで民主主義をゆがめる動きが、岸田総理の顔や声で作られたって話?

          私はテレビで報道されたほんの数秒の短い動画をみただけだけど、岸田総理がしゃべっている動画になってました。
          ただ今回の動画に関しては品質は低めで、お面を張り付けたような合成感のある映像でした。(声までは不明)
          もちろんもっと高度なフェイク動画は現時点でも作れるので、すでに安心できない事態です。

    • by Anonymous Coward

      メディアが行うファクトチェックって思想的に左派な人たちがやるけど、ファクトチェックする対象も偏るんだよね。
      今回もハマスに不利な画像をフェイク認定して炎上したけど、日本赤軍との関係が今でも強いのかハマス支持に物凄い偏向するよね。

      • by Anonymous Coward

        全部TBSのことじゃないかw

      • by Anonymous Coward

        >メディアが行うファクトチェックって思想的に左派な人たちがやる
        ふーん?結果として妥当なFactを示せているなら問題ないと言いたいところだけど…
        そんなオフトピコメントをわざわざ放り込む君のゴールは、
        森羅万象公平に見ないファクトチェックなんか意味ないからみんな相手にするなよ!
        ってことでよろしい?
        あとよかったら君のその観測結果をチェックしてくれないかな、無根拠・想像上のストーリーを出発点にするのではなくて

        ところで思ったのは、じゃあ「左派じゃない人たち」はなんでファクトチェックしていないの?ってこ

        • by Anonymous Coward

          君みたいに暇じゃないのよ

        • by Anonymous Coward

          右派がせっかく調べたり昔の証拠の記事持ってきても、左派は全く認めないし反応もないから、一方通行でファクトチェックの意味がないんですよ。
          左派は右派の提示コメントを全く見てないことが、あんたのコメントでまたまた証明されてしまったようですね。

          • by Anonymous Coward

            なので客観的にコメントが見えちゃうコニュニティーニートが活躍してるんですよね。
            サンキューイーロン!

          • by Anonymous Coward

            > 右派がせっかく調べたり昔の証拠の記事持ってきても、左派は全く認めないし反応もないから、一方通行でファクトチェックの意味がないんですよ。

            それ、見かけたことないんだけど?
            昔の証拠って、なんの話だろう?

            昔読んだゴーマニズム宣言で、小林よしのりが南京大虐殺について、南京大虐殺論者の極右活動家たちが書いた本を根拠として「南京大虐殺は無かった」って主張してるのは見たことある。
            そういう証拠としての価値がない記事なんじゃないか?
            そういうのは何度も見たことある。

            そのうち歴史ファンタジー小説の日本国紀を根拠に日本の歴史論を主張する者も出てくるんだろうな。

            そういう人たちは歴史修正主義者と言われる。

            > 左派は右派の提示コメントを全く見てないことが、あんたのコメントでまたまた証明されてしまったようですね

            別ACだけど、何を証明してしまったのかさっぱり分からないのだが。

        • by Anonymous Coward

          > ところで思ったのは、じゃあ「左派じゃない人たち」はなんでファクトチェックしていないの?ってこと
          古くはKYから、ネットvsメディアのファクトチェック合戦はもうずっとやってたでしょ。
          ただ大手メディアじゃないから比べて広まらないだけ。君が知らないとしたら、それこそメディアの思うつぼだね。

      • by Anonymous Coward

        > メディアが行うファクトチェックって思想的に左派な人たちがやるけど、ファクトチェックする対象も偏るんだよね。

        いや、まったく違う。
        左派な人たちがやるわけではない。
        それにチェック対象が偏るのではなく、デマやフェイクが偏ってるってだけ。

        右派発の情報にデマや捏造や間違いが多くて、それが指摘されてるだけ。

        > 今回もハマスに不利な画像をフェイク認定して炎上したけど、日本赤軍との関係が今でも強いのかハマス支持に物凄い偏向するよね。

        ほらね。早速やってる。
        日本赤軍と関係がある、または好意的な人たちやマスコミなんて現在の日本にはほとんどいないよ。

        実際に「ハマス支持」ではなく「イスラエル批判」であって、「パレスチナ虐殺に反対」なだけだし。
        いないとは言えないが、知る限りで「ハマス支持」をしている人って見たことねえわ。

  • by Anonymous Coward on 2023年11月07日 16時32分 (#4559669)

    フェイク画像・フェイク動画がフェイクかどうかわからなくなる時代が来ます。
    その時、私たちは何を信じればいいのでしょうね。

    • by 90 (35300) on 2023年11月07日 17時27分 (#4559736) 日記

      常識とかじゃないすかね。今でも騙される…というか、味付けが濃くて自己効力感への飢えを徒にくすぐるプチ宗教にのめり込む人はいくらでもいるので。

      親コメント
      • by Anonymous Coward

        常識は人によって違うからね
        フェイク云々というのはすべてネット上の話でしょ
        人と会って話し納得しうるもの、自分の目で見たもの、がその答えでしょう
        多くの人と議論して得たものとか、家族や親友と話して理解納得できたものとか、自分自身の目で見たものとか
        それがない人がこういったネット上でいくら書き込みやってもわからないんじゃないかな

      • by Anonymous Coward

        人が持ってる常識っていとも簡単にひっくり返されちゃうことがある。

        立憲民主党のH議員が、参政党にあっさりと洗脳されちゃったのはビックリした。
        まともな人間だと思ってたのに、短期間で陰謀論にドボンと落ちることがあるなんて、私の常識には無かった。

        • by 90 (35300) on 2023年11月08日 11時36分 (#4560196) 日記

          人との繋がりを優先するとそうなっちゃうんですかね。

          「うま味」を「うまみ」と読んでしまう人のグループの中でで自分だけが真実を知っていたところで、そのグループに属し続けて承認欲求を満たし続けるためには「うま味」が正しいとしておかないと、理解納得や合意を維持できないじゃないですか。アラインメントがevil寄りの人はいつまででも客観的事実を最優先しておけるし、そういう人のグループは内部も外部もほぼ事実だけに保っておけるんでしょうけど、そうではない人は、折れるしかないのかも。

          親コメント
    • by Anonymous Coward

      家族から送られてきた写真、撮る時だけ作った演出上の笑顔か、その時間はずっと笑顔だったのか、区別付けられます?

      • by Anonymous Coward

        ま、普通はそういうのは気にしないところだが、家族に限らず親しい人が撮影のために作った笑顔と、ホントに楽しい・可笑しいと思って笑ってる笑顔の区別は普通にできますよねえ。

        親しくなくても、分かるときは分かるし。

        でもアスペルガーとか自閉症スペクトラムの人は分からないかもしれない。

    • by Anonymous Coward

      ファクトチェックが固まるまでに1年くらいかかることがザラになるで戦争は長びくでしょう。
      この武器はタダみたいなものだしね。

    • by Anonymous Coward

      信じる者は騙される

    • by Anonymous Coward

      画像はもともとイメージ操作に利用されやすいのでフェイクを疑うのがスタンダードになる方がむしろ健全説。

      • by Anonymous Coward

        ここでの話は画像ではなく、動画なんだよね。
        本物の人間そっくりのアバターに自由にセリフをしゃべらせることができるというAI生成動画を使って、背景や服装を変えたりしてフェイク動画を作り、イスラエル人がばらまいてるという話だ。

        足を失う重症を負った少年の映像は、少年の家族がTiktokに上げた本物の映像。
        そしてこの少年(レポーター)が次の日には元気で戦場レポートしている映像というのはフェイク。

        フェイク動画を出した者が何者かって裏を取ったらイスラエル人のAI生成ソフトの関係者だったというオチだよ。

        • by Anonymous Coward

          別に動画と画像を違う意味として言ってない。状況が切り取られたりニュアンスの異なる字幕が当てられたりぐらいなら日常茶飯事。
          イメージ操作ってのは思考を誘導するために素材を選択して利用すること。

    • by Anonymous Coward

      今回の場合で言えば、イスラエル寄りの映像はかなりの高い確率でフェイク動画が含まれてると疑ったほうが良い。

      パレスチナ側の映像は、映像としては本物の確率が高いものの、今起きてる攻撃による被害映像ではない可能性はある。
      そこまでするまでもなく、今の状態が過去最悪であり、別の場所や過去の映像を使う意味はないので、まあ本物だろう。

      なんでイスラエルの映像にフェイクが多く、パレスチナにフェイクが少ないって思うかって?
      そりゃ、イスラエルはそういう技術力を持ってて、パレスチナはそういう技術もネットで拡散する環境も無いから。
      フェイク動画技術は下手すりゃイスラエルが世界一ぃぃぃじゃないだろうか。

      そして今後の話としては、その映像の出元をチェックすることくらいしかないかな。

      BBCのカメラマンが撮影してBBCが流した映像なら信用できそう。
      しかしフジテレビがツイッターで広まっている物を拾ってきたというものは慎重に受け取るべき。
      ツイッターでどこからかわからない情報源からの映像は疑え。

      • by 90 (35300) on 2023年11月07日 17時59分 (#4559762) 日記

        やっぱり視聴覚クロスモーダルで感情的な誘導が効いている刺激じゃないと納得感がなくて、その縛りで真実を求めたい感じなんすかね。そこが難しいのかな。大変そう…

        親コメント
      • by Anonymous Coward
        • by Anonymous Coward

          イスラエルの映像にフェイクが多く、パレスチナにフェイクが少ない(パレスチナ側にフェイクが無いとはいっていない)
          の反例になってないようだけど?

      • by Anonymous Coward

        そもそも報道自体がフェイクというか偏向激しすぎてねえ

        日常的にパレスチナ人を殺しているイスラエルの所業はほとんど報道してこなかったくせに
        イスラエルがテロを受けたら大々的に被害者として報道するダブスタ

    • by Anonymous Coward

      これがエビデンスの弊害ってやつか

      • by Anonymous Coward

        エビデンスって言葉が濫用されすぎて本来の意味から乖離してる弊害だな

    • by Anonymous Coward

      結局のところメディアなり専門家なりソースをどこまで信用できるかだよね。
      絶対大丈夫なんて無理だけど何一つ信じないわけにもいかんし。
      そもそもそういうことを全く考えてなくて、誰だよこいつみたいなよくわからんソースの情報を鵜吞みにしてる人が多すぎてどもなりません。

    • by Anonymous Coward

      お前が信じるお前を信じろ!

      • by Anonymous Coward

        この世に自分ほど信じられんものがほかにあるかあああっ!

  • by Anonymous Coward on 2023年11月07日 22時17分 (#4559949)

    湾岸戦争のとき、油まみれの水鳥の写真で国際世論が大きく動いたことがあった。
    イラクからの攻撃を受けた人は、実際に人が亡くなっているのに人の命より鳥の命の方が大事なのかって憤慨してた。
    実際の悲惨すぎる写真を、AIで使えるレベルに抑えるのとか出てきそう。

    • by Anonymous Coward

      そら白人にしたら異教徒のアラブ人より水鳥のほうが大事でしょ。
      いい加減、そういう連中だと理解しろ。

typodupeerror

身近な人の偉大さは半減する -- あるアレゲ人

読み込み中...