パスワードを忘れた? アカウント作成
15649803 story
YouTube

YouTubeで性的コメントを連投するBotが出現、アダルト動画と誤判断され配信者がBANに 77

ストーリー by nagazou
悪質 部門より
YouTubeのライブチャンネルで、コメント欄に悪意を持つBOTが書き込むことにより、誤BANされてしまう事態が相次いでいるそうだ。配信中に卑猥なアイコンやコメントを連投されてしまうとのことで、YouTubeの判定システムに配信中の動画がアダルトな内容であると誤認させ、BANを誘発するという手口であるという(ねとらぼMogura VR News)。

配信者側が可能な対策としては、コメントを配信画面に載せない、NGワードを設定する、チャットをチャンネル登録者限定に設定する、といったものがあるようだがコメントの、どの部分でYouTube側のBAN判定に引っ掛かっているのか不明瞭であることから、確実な対処方法とは言えないという。すでに大手が運営するのMika Melatikaさんや、バーテンVTuber朔夜トバリさんなどのVTuberもこの手口でBANされた事例が報告されているとのこと。
  • 一種の脆弱性だねぇ (スコア:5, すばらしい洞察)

    by akiraani (24305) on 2022年05月12日 18時09分 (#4247989) 日記

    原因がはっきりしてないのでなんとも言えないけど、予想通り配信画面内の自動文字認識を元にいきなりチャンネルごとBANしてるのであれば、もはや脆弱性と言っても良いんじゃないか。

    とりあえず、なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか、とか、力入れる方向間違ってんじゃないの? と思われてもしょうがない。

    ここに返信
    • by Anonymous Coward on 2022年05月12日 18時49分 (#4248006)

      性的なコンテンツを事前に排除しろっていうのはできるにしても限界があるだろ
      コメントを映り込ませるというのは配信者が自身の責任において勝手にやっていること
      YouTube側は通報されたコメントもアイコンも動画も等しく削除するしかないのでは

      • by Anonymous Coward on 2022年05月12日 19時21分 (#4248037)

        問題の動画を削除するところまでは擁護できる
        アカウントBANして異議申し立てRejectはちょっと擁護できないかな~

      • by Anonymous Coward

        古のBBSの管理人みたいなもので、動画に対するコメントを配信者側で管理(削除)出来る以上コメントに対する責任は配信者側ってことなんですかねぇ
        大手だと専任者がチェックしているみたいですが、リアルタイム配信でコメント表示遅らせてリアルタイムチェックしているというのは見たこと無いなー
        ただスパチャ含めて配信というのはYoutubeの大きな柱ですから、プラットフォームとして対応はしていくと思いますよ

        • by Anonymous Coward on 2022年05月12日 19時21分 (#4248036)

          何が引っ掛かるかもわからんのに管理せってのは無理でしょ
          そもそもふん秒単位でBANされるんだから対応なんかできないよ

          ブラックリストがあるならそれでコメントできないようにすればいいのに何故Youtubeがやらないのかが不思議
          っつーかおかしい

        • by Anonymous Coward

          YouTubeにはすでにそういう機能があるんですよ
          表立って言わないだけで使ってるVTuberは結構いるのでは

          誤BAN嫌がらせ対策まとめ
           
          1. YouTubeStudio>設定>コミュニティで単語ブロック
           
          2. 配信設定のコメントと評価で「不適切な可能性があるコメントを保留して確認する」にチェックする
          ※ 試験機能で厳しい設定もできる模様(未検証
           
          3. 配信設定のカスタマイズで参加者モードをチャンネル登録者のみに pic.twitter.com/0URe6Hn4tl [t.co]

          • by Anonymous Coward

            今回は登録歴何分以上とかに設定してもやられてるという噂
            そのチェックを抜けてAPI直叩きされてるんじゃね? と言われてる

    • by Anonymous Coward

      脆弱性というか仕様の不備

      映り込んだらNGなコメントができる or 映り込んだらNGなアイコンが使える、というのがおかしい。

      • by Anonymous Coward

        >仕様の不備

        だから仕様に脆弱性があるんでしょ?

      • by Anonymous Coward

        XSSみたいなものなんだから脆弱性の一種

    • YouTubeがどういった方針なのか次第だけど、
      例えば、FIFAはサポーターが暴動を起こした場合はサポータだけでなくチームに対しても制裁を行っている。

      自動で投稿コメントを配信動画に載せていたとしても、
      配信者の判断でコメントを載せたとみなすのなら、
      第三者の意見だとしても配信者にも責任があると判断されるのでは?

      # TVのニュースでtwitterのコメントを拾って表示する番組があるけど、
      # あれで卑猥なコメントが表示された場合は問題にはならないの?

      • by Anonymous Coward on 2022年05月12日 20時40分 (#4248086)

        暴動と呼べる規模のものは悪意のある1人だけでは起こせない
        贔屓のチームにペナルティがかかるのが怖いという理由であっても
        周囲が理性的であれば暴動には発展しない

        でもYoutubeの場合は悪意ある1人の手で達成出来る

      • その昔「笑っていいとも」で、スタジオにFAX機を据えて、視聴者から送られてくるFAXの内容を紹介するコーナーが放送された。が、FAX機から全裸のオッサン画像が出力されて・・・

        コーナーは1回で打ち切りになったw
      • by Anonymous Coward

        同じようにBPOに通報して面倒ごとにすればいいじゃん

      • by Anonymous Coward

        コメントが本来なら公開されない物ならそうかもしれないが、
        画面に映さなくてもYoutubeの機能でバリバリ公開されるもんなんだよな

        そう思うとやっぱおかしい気はする。
        そもそもコメント入力できないようにして置けと。

    • by Anonymous Coward

      「コメントを配信画面に載せない」っていうのは「動画内にコメントが映り込まないようにする」って意味じゃなくて、「動画に対してコメントできないようにしろ」って意味だと思う。

      #性的なコメントが多く寄せられる動画は内容が性的だからBANしたろって、BAN判断AIが学習しちゃったんでしょ

    • by Anonymous Coward

      > なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか

      記事を誤読してますね。

      たとえば「くり」や「りす」という単語は特に性的な意味をもちません。あるボットが「くり」を連投しても、別のボットが「りす」を連投してもフィルタはされないでしょう。
      しかし「くり」と「りす」という2単語が大量に付与された動画の方には性的な意味が出てきます。人類のエロに対する妄想力はたくましいのです。
      こういうかんじで、投稿はOKと判定され、動画はNGとは誤判定される例はたくさんあるでしょう。

      つまり、Botが攻撃したのは投稿コメントの判定アルゴリズムじゃなくて、動画の判定アルゴリズムの方なのです。力を入れるのは動画の判定アルゴリズムのほうですね。

    • by Anonymous Coward

      一般の誰もが参加できるコメントのBAN基準と
      収益化も行ってるような配信者のコンテンツに対するBAN基準が違うのは当然では?

      そして配信中の動画にコンテンツとして載せてしまっている以上、
      配信者の責任範囲と捉えることは自然というか当たり前の解釈だと思う

      もうちょっと気を利かせてもいいんじゃない?ぐらいの感想はあるけど、YouTube側の落ち度するのは違うかと

    • by Anonymous Coward

      SQLインジェクションなどと同じように考えるべき時代かもね。
      ユーザー入力をサニタイズせずに使うのは脆弱性の温床になるという考え方が動画配信にも適用される。

  • この辺と似てるな

    ここに返信
  • by Anonymous Coward on 2022年05月13日 17時52分 (#4248639)

    そもそもあからさまな不正コメントはyoutubeのチャット欄には表示されないぞ。
    コメビュとかの外部ツールを使うとyoutube上では表示されない不正コメントも閲覧(表示)できるようになるんや。

    ここに返信
  • by Anonymous Coward on 2022年05月12日 18時57分 (#4248017)

    Amazon、自社サービス Twitch で自社の公式アカウントを一時停止 [it.srad.jp]

    Twitchで出演者の女性が乳首を露出してアカウントがBANされた事件に近いと思った
    対策としてはディレイ入れるとか、許可リスト方式にするとか、そんなところかな

    ここに返信
    • by Anonymous Coward on 2022年05月12日 19時22分 (#4248039)

      近いか?
      勝手にやってきてコメントする人のせいでBANなんだぞ

      スラドでいうなら安倍うんこの人にレスされたらBANに近い

      • by Anonymous Coward on 2022年05月12日 20時34分 (#4248081)

        うんこの人はトピックを選べば寄ってこないんだから回避のしようがある。 AnamesonCraftが殺害予告を投げたら終了という方が近い。

        • by Anonymous Coward

          日本語がちゃんとわかるなら、あれらの文章は殺人予告してないんだよ
          死ね連呼してるだけだし、予告ではない

      • by Anonymous Coward

        > 勝手にやってきてコメントする人のせいでBANなんだぞ

        勝手に配信して乳首だした人のせいでBANなんで、近いと思います。

      • by Anonymous Coward

        あべうんこが特にひどいけどそれ以外にもぽっぽがーだの暴力的なコメントがーだののせいで広告費を落とされて困ってますみたいなアナウンスがスラドでもあったような…
        てかスラドも日々過激化している気がしますね。根拠はなんとなくで、データもありませんが。
        # 大体うんこがだめで頭パーが許されるのが意味不明
        # さあアレどもいでよアレゲジャナイゾアレダゾ

        • by Anonymous Coward

          コメント番号だけを見れば過疎化すらしてないんですが、IDで書けないチキンが増えただけだよ。

  • by Anonymous Coward on 2022年05月12日 19時13分 (#4248029)

    悪質なのはアルゴリズム過信のYouTubeの運営では?

    ここに返信
    • by Anonymous Coward

      とはいえ、モロ出しアイコンなんぞをそのままにしておくこともできないので瞬間的にはやるしかないのでは?
      #もちろん、そんなアイコンを登録できる方が問題なので、そっちはそっちで対応してもらうとしても

      • by Anonymous Coward

        瞬間的にっていう対応ならアカウント丸ごとBANにする必要はなかろう。

  • by Anonymous Coward on 2022年05月12日 20時54分 (#4248097)

    youtube誤BANになった問題のスパムです😇
    モデレーターが気づいてくれて対処はしましたが、このあと20分ほどで一切の警告なく配信中にチャンネルが消滅しました。
    同じ被害者が出ないように情報共有致します🙇♀️
    https://t.co/QR8lzoQv1q [t.co]

    — ぷうちゃん@VTuber (@puuuu_ch) May 10, 2022 [twitter.com]

    アイコン小さすぎて見えねぇ……

    ここに返信
    • by Anonymous Coward

      なるほど…この動画で問題を理解した。
      YouTubeの裁定は誤りとは言えない。不特定個人の自由投稿を配信者のコンテンツに含めるシステムが問題と言えば問題だが大変だな。

      生配信の視聴者コメントはYouTube外のコメントサービスでオーバーレイ表示するような対策が必要なのかもしれない。

      • by Anonymous Coward

        一周回ってニコニコ動画(仮)の時代が来るのか

      • by Anonymous Coward

        載せてるのは配信者側であってYouTube側ではない

  • by Anonymous Coward on 2022年05月12日 21時05分 (#4248099)

    フルスピードで走るのが俺の人生だった

    ここに返信
  • by Anonymous Coward on 2022年05月12日 22時41分 (#4248140)

    そもそもユーザーのチャットを配信に載せる目的がよくわからない
    チャットはチャット欄で見えるし
    コンテンツへのノイズになるので載せるのをやめればいいのにと思っている
     

    ここに返信
  • by Anonymous Coward on 2022年05月13日 0時42分 (#4248180)

    現実に影響を及ぼす爆破予告とか、その辺の家の窓ガラスを割るのと同じようなもんなのに
    ウェブ上で完結してるような荒らし行為に対する対応が生ぬるいと思う
    営利でやってる奴のアカウント妨害するのなんて、その事務所の窓ガラスが割られるよりも遥かに損害はでかいだろうに。

    荒らしは業務妨害罪とかで厳正に対処した方がアホなことやるやつ減るんじゃないかな?

    ちなみにスラドも年初にタレコミで特定の個人を抽象するようなものを連投したやつが居て
    タレコミを自動でTwitterに投降する公式Twitter @sradjp_journalsがBANに追い込まれる被害受けてる
    https://ja.osdn.net/projects/slashdotjp/ticket/43631 [osdn.net]

    ここに返信
  • by Anonymous Coward on 2022年05月13日 2時28分 (#4248199)

    IDに見える無作為な文字列書き込むとか利用規約に触れる書き込みをbotでやる類

    ここに返信
  • by Anonymous Coward on 2022年05月13日 5時42分 (#4248227)

    合法コンテンツなら消さないんでしょ?

    ここに返信
  • by Anonymous Coward on 2022年05月13日 6時48分 (#4248243)

    これ誤BANだっていう奴居るけどYouTubeがアダルトと判断してBANするのは正しい。

    Live配信中にチャットできる機能が提供されているだけでそれを配信に映すかどうかは配信やってる側が決める事。
    で、配信を映像として記録して結果投稿するのがYouTubeの仕様。
    また、YouTube Studioの機能で動画編集するとチャットのリプレイが消えるのもYouTubeの仕様。

    そういった事を踏まえた上で、チャットのクオリティフィルターは各配信やってる側がコントロールしなきゃいけない事の一つ(そのためのモデレーター機能)
    なので、コメントとアイコンを自らの映像作品として取り込むことを選択したのだからそこにアダルトコンテンツがあった場合にYouTubeが機械的にBANをするのは正しい動作でしょ。
    リスクコントロールが出来てなかっただけ

    ここに返信
typodupeerror

ナニゲにアレゲなのは、ナニゲなアレゲ -- アレゲ研究家

読み込み中...