パスワードを忘れた? アカウント作成

YouTubeで性的コメントを連投するBotが出現、アダルト動画と誤判断され配信者がBANに」記事へのコメント

  • 一種の脆弱性だねぇ (スコア:5, すばらしい洞察)

    by akiraani (24305) on 2022年05月12日 18時09分 (#4247989) 日記

    原因がはっきりしてないのでなんとも言えないけど、予想通り配信画面内の自動文字認識を元にいきなりチャンネルごとBANしてるのであれば、もはや脆弱性と言っても良いんじゃないか。

    とりあえず、なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか、とか、力入れる方向間違ってんじゃないの? と思われてもしょうがない。

    ここに返信
    • by Anonymous Coward on 2022年05月12日 18時49分 (#4248006)

      性的なコンテンツを事前に排除しろっていうのはできるにしても限界があるだろ
      コメントを映り込ませるというのは配信者が自身の責任において勝手にやっていること
      YouTube側は通報されたコメントもアイコンも動画も等しく削除するしかないのでは

      • by Anonymous Coward on 2022年05月12日 19時21分 (#4248037)

        問題の動画を削除するところまでは擁護できる
        アカウントBANして異議申し立てRejectはちょっと擁護できないかな~

      • by Anonymous Coward

        古のBBSの管理人みたいなもので、動画に対するコメントを配信者側で管理(削除)出来る以上コメントに対する責任は配信者側ってことなんですかねぇ
        大手だと専任者がチェックしているみたいですが、リアルタイム配信でコメント表示遅らせてリアルタイムチェックしているというのは見たこと無いなー
        ただスパチャ含めて配信というのはYoutubeの大きな柱ですから、プラットフォームとして対応はしていくと思いますよ

        • by Anonymous Coward on 2022年05月12日 19時21分 (#4248036)

          何が引っ掛かるかもわからんのに管理せってのは無理でしょ
          そもそもふん秒単位でBANされるんだから対応なんかできないよ

          ブラックリストがあるならそれでコメントできないようにすればいいのに何故Youtubeがやらないのかが不思議
          っつーかおかしい

        • by Anonymous Coward

          YouTubeにはすでにそういう機能があるんですよ
          表立って言わないだけで使ってるVTuberは結構いるのでは

          誤BAN嫌がらせ対策まとめ
           
          1. YouTubeStudio>設定>コミュニティで単語ブロック
           
          2. 配信設定のコメントと評価で「不適切な可能性があるコメントを保留して確認する」にチェックする
          ※ 試験機能で厳しい設定もできる模様(未検証
           
          3. 配信設定のカスタマイズで参加者モードをチャンネル登録者のみに pic.twitter.com/0URe6Hn4tl [t.co]

          • by Anonymous Coward

            今回は登録歴何分以上とかに設定してもやられてるという噂
            そのチェックを抜けてAPI直叩きされてるんじゃね? と言われてる

            • by Anonymous Coward

              前々から登録しておけばいいだけだろ何を言ってるんだ・・・
              ch登録者数と配信やってるときの同接の解離が激しいのそういうBOTがフォローしてるからってのもあるんだよ

    • by Anonymous Coward

      脆弱性というか仕様の不備

      映り込んだらNGなコメントができる or 映り込んだらNGなアイコンが使える、というのがおかしい。

      • by Anonymous Coward

        >仕様の不備

        だから仕様に脆弱性があるんでしょ?

      • by Anonymous Coward

        XSSみたいなものなんだから脆弱性の一種

    • YouTubeがどういった方針なのか次第だけど、
      例えば、FIFAはサポーターが暴動を起こした場合はサポータだけでなくチームに対しても制裁を行っている。

      自動で投稿コメントを配信動画に載せていたとしても、
      配信者の判断でコメントを載せたとみなすのなら、
      第三者の意見だとしても配信者にも責任があると判断されるのでは?

      # TVのニュースでtwitterのコメントを拾って表示する番組があるけど、
      # あれで卑猥なコメントが表示された場合は問題にはならないの?

      • by Anonymous Coward on 2022年05月12日 20時40分 (#4248086)

        暴動と呼べる規模のものは悪意のある1人だけでは起こせない
        贔屓のチームにペナルティがかかるのが怖いという理由であっても
        周囲が理性的であれば暴動には発展しない

        でもYoutubeの場合は悪意ある1人の手で達成出来る

      • その昔「笑っていいとも」で、スタジオにFAX機を据えて、視聴者から送られてくるFAXの内容を紹介するコーナーが放送された。が、FAX機から全裸のオッサン画像が出力されて・・・

        コーナーは1回で打ち切りになったw
      • by Anonymous Coward

        同じようにBPOに通報して面倒ごとにすればいいじゃん

      • by Anonymous Coward

        コメントが本来なら公開されない物ならそうかもしれないが、
        画面に映さなくてもYoutubeの機能でバリバリ公開されるもんなんだよな

        そう思うとやっぱおかしい気はする。
        そもそもコメント入力できないようにして置けと。

    • by Anonymous Coward

      「コメントを配信画面に載せない」っていうのは「動画内にコメントが映り込まないようにする」って意味じゃなくて、「動画に対してコメントできないようにしろ」って意味だと思う。

      #性的なコメントが多く寄せられる動画は内容が性的だからBANしたろって、BAN判断AIが学習しちゃったんでしょ

    • by Anonymous Coward

      > なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか

      記事を誤読してますね。

      たとえば「くり」や「りす」という単語は特に性的な意味をもちません。あるボットが「くり」を連投しても、別のボットが「りす」を連投してもフィルタはされないでしょう。
      しかし「くり」と「りす」という2単語が大量に付与された動画の方には性的な意味が出てきます。人類のエロに対する妄想力はたくましいのです。
      こういうかんじで、投稿はOKと判定され、動画はNGとは誤判定される例はたくさんあるでしょう。

      つまり、Botが攻撃したのは投稿コメントの判定アルゴリズムじゃなくて、動画の判定アルゴリズムの方なのです。力を入れるのは動画の判定アルゴリズムのほうですね。

      • by Anonymous Coward

        >記事を誤読してますね。
        実例が動画で出てるのにここまで断定出来る神経って凄いな。

      • by Anonymous Coward

        判定アルゴリズムもbotも辞書でエッチな単語を引いて興奮する中学生と同じレベルってことか。
        もっと大人になれよ(違

    • by Anonymous Coward

      一般の誰もが参加できるコメントのBAN基準と
      収益化も行ってるような配信者のコンテンツに対するBAN基準が違うのは当然では?

      そして配信中の動画にコンテンツとして載せてしまっている以上、
      配信者の責任範囲と捉えることは自然というか当たり前の解釈だと思う

      もうちょっと気を利かせてもいいんじゃない?ぐらいの感想はあるけど、YouTube側の落ち度するのは違うかと

    • by Anonymous Coward

      SQLインジェクションなどと同じように考えるべき時代かもね。
      ユーザー入力をサニタイズせずに使うのは脆弱性の温床になるという考え方が動画配信にも適用される。

    • 他にも組み合わせがあるのだろうな
      非常に簡単な仕組みなので、
      善意の上に成り立っているものが既に成り立たないってことでしょう。

私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson

処理中...