パスワードを忘れた? アカウント作成
328885 story

Facebook、児童ポルノの拡散防止へ画像自動検出・ブロック機能を導入 36

ストーリー by hylom
精度はどのくらいなのだろうか 部門より

headless 曰く、

Facebookが児童ポルノ拡散防止の取り組みとして、National Center for Missing and Exploited Children(NCMEC)のPhotoDNAプログラムに参加する(The Official Microsoft Blogの記事COMPUTERWORLD.jpの記事The New York Timesの記事)。

PhotoDNAはMicrosoft Researchとダートマス大学が共同で開発した画像マッチング技術で、NCMECに無償でライセンスされている。NCMECのPhotoDNAプログラムでは、既知の児童ポルノ画像からシグネチャを作成し、それを用いて児童ポルノ画像を検出・ブロックする。MicrosoftはNCMECの提供するシグネチャを使用し、SkyDriveで1,000点以上、Bingのインデックスで1,500点以上の児童ポルノ画像を検出したとのこと。

Facebookは5月20日15時(東部標準時)に児童ポルノ根絶の取り組みに関する討論イベントを開催し、Facebook上でライブ中継した。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • このままFacebookが世界中に広まって、
    うちの伝統衣装では、女性は胸出してるし男性は局部ケースですよー
    ていう土地で、Facebookのプロフページがどうなるかが気になります。

    #そこでのポルノは、逆に着衣だったりしてね。

  • 日本ごとBANされそうです。
    • 三次での話だ。

      imagefapで18歳以上だけど幼く見える画像をアップしたら垢バンされた。
      実際、彼ら米国欧州系にとっては日本人はロリの代替として機能している。
      そして、そういった機能していることをもってロリだと判断しているのが
      欧米人の低能さがよくでている。

      最初は18歳以上のモデルで選んでいたが、それでもバンされちゃうし、
      そのうち規約も「18未満に見えるかどうか?」に変えていたりする。
      しかし「わたしには見えない」で投下してあげいたりする、

      二次になってくると、もっと話はわやくちゃで、気違いが多い
      欧米人にとってはアニメはアウトらしい。で、この女性の年齢を
      教えてください、あなたのサイトではオッケーですか?と1万通
      ほど問い合わせたら相手が逃げた...www

      欧米人の年齢判断は低能だということがわかったという結末。

      親コメント
      • by Anonymous Coward on 2011年05月25日 7時38分 (#1958500)

        で、この女性の年齢を
        教えてください、あなたのサイトではオッケーですか?と1万通
        ほど問い合わせたら相手が逃げた...www

        いたたたたたたたたたたたたた

        親コメント
        • >いたたたたたたたたたたたたた

          実際、判断はわたしがするとかいった回答があったわけだ。
          画像全部を1枚ずつについて画像と適否判断応答用文章で
          送るスクリプト書いて送ってさしあげたんだ。

          画像いりだからそれなりサイズはでかくなって最初の600通くらい
          でメールボックスがいっぱいで受け取れないメッセージになったんだな。
          そこでスクリプトを書き直して、いっぱいなった応答で1時間ほど
          休んで再開という風にして3週間ほどかかったよ。
          で、明確にこれはだめという回答がなかったので、また一斉に投稿して
          差し上げて、垢バンもらって、また1万通..www
          そのうち、そのアドレスは消えたね。

          外人さんって、結構あたま悪いなぁ..と思ったわけです。

          親コメント
          • by Anonymous Coward

            はあ、1万件もそんな画像どうしたんだ?自分でそんなに用意できないよな?とかも思うが、多分日本人でも触らぬなんとかに祟りなしって事で垢バンで放置となると思われ。
            明らかに嫌がらせとしてやってますのでご苦労様です。

            こういうのを聞くと規約でたまにある予告無し説明なしでの排除ってのも現実的に必要だなとか、とりあえずでも話を聞く態度を見せてはいけない粘着な奴もいるのがWebの不特定多数の怖さだな、とか思うわけだ。

            その外人さんの対応で評価できるのは、その後にいちいち相手をしなかったこと。
            評価できないのは、迷惑だからメールを止めろと言わなかったことか。

            • >1万件もそんな画像どうしたんだ?

              集めましたよ。

              >自分でそんなに用意できないよな?

              フォルダにまとめているけど、画像全部で100万枚はあるよ。

              >こういうのを聞くと規約でたまにある予告無し説明なしでの排除ってのも現実的に必要だな

              うん、バカがMLのアドレス晒して「自分が判断する!」とか豪語していて、
              結局数千枚レベルで逃げちゃうってのがメンバーにいると大変みたいですよね。

              >その外人さんの対応で評価できるのは、その後にいちいち相手をしなかったこと。

              結局、垢バンに新しい連絡先に1万メールが続いていたりする。
              ちゃんとやるといった以上、やらないとダメなんだけど、外人さんの
              知能レベルだと無理らしい。
              試しにいくつか分散登録してみたら、生き残っているIDもあったりして、
              こういう「ちゃんと判断できない低能が判断すると言いはっている」のが
              わかる様になっているのが、欧米人のレベルなんだねぇ..とわかるわけです。

              >評価できないのは、迷惑だからメールを止めろと言わなかったことか。

              そりゃ、言えないでしょ?最初に「自分が判断する」といっているわけですから。
              拒否したら、それは嘘でしたってことになっちゃいますからね。

              親コメント
        • by Anonymous Coward

          これを自慢気に語るんだから、さすがタレコミと日記をspamして/.Jからbanされただけのことはありますな。

      • いつから写真アップロードするときも、身分証明書やパスポートやらもまとめてうpしないとダメなんでしょうか・・・

      • by Anonymous Coward

        日本人のポルノ愛好家がキ印と思われて居なきゃ良いが。
        なんでネットだとこういう迷惑行為の武勇伝として語る奴が出て来るのか、ってのはスレ違いだな。

        • >日本人のポルノ愛好家がキ印と思われて居なきゃ良いが。

          いや、自分からジャッジするとか言ってきたんだよなぁ。
          わたしの投稿枚数から「そりゃ無理じゃね?」とは思ったんだけど、
          相手がそういうからねぇ。

          親コメント
          • by Anonymous Coward

            自分の相手がどれだけバカかを主張しても
            自分がバカでない証拠にはなりませんよ。
            バカの評価軸は一本じゃないですし。

            • >自分がバカでない証拠にはなりませんよ。

              なにも、そんな自明なことを証明しようとは思わないけどね。

              >バカの評価軸は一本じゃないですし。

              そうですよね、あの外人さん、偉そうに言っていて、逃げ回って、
              あげくはメール問い合わせ拒絶しちゃってユーザからぶうぶう
              言われていて、笑っちゃいました。

              親コメント
    • by Anonymous Coward

      『なれる!SE』には見た目中学生だけど実年齢不詳の(週刊アスキーの番外編からは30代と推測される)凄腕エンジニアとかいう無茶な設定のヒロインが出てきました。

      • by Anonymous Coward on 2011年05月25日 2時02分 (#1958448)

        30代のときに中学生と間違われて補導された/されかけた女性を2人ほど知ってますが

        親コメント
        • by Anonymous Coward
          まぢですか?

          漫画でそういう話なら幾つか読んだことはありますが、リアルであるとは。
          # 漫画のキャラの絵柄が設定年齢より若く見えたとしても、劇中では
          # その年齢で無問題なのが普通で、漫画劇中でさえも、補導されかけ
          # るってのはギャグ以外にないと思ってました。
    • by Anonymous Coward

      イエローモンキーなんてどうでもいいのがFacebookの社風だからな。

  • by Anonymous Coward on 2011年05月24日 20時42分 (#1958174)

    Skydriveってオンラインストレージサービスですよね…
    そういう非公開目的のところにもチェックかけるのが児童ポルノ対策では普通なんですか?

    • by Anonymous Coward on 2011年05月24日 21時58分 (#1958262)

      倫理規定 [live.com]の禁止事項に

      テキスト、画像、音声、映像、データ、情報、ソフトウェアを含む次のようなコンテンツのアップロード、投稿、送信、転送、配布を行ったり、次のようなコンテンツの配布を促進したりしないものとします。また、次のような方法では本サービスを使用しないものとします。

      • 児童ポルノ、獣姦、近親相姦、違法薬物、ソフトウェアの不正コピー、嫌がらせをはじめとする、適用される地域や国の法律に違反している又は違法なコンテンツ

      とありますので、アップロード自体も禁止されていますね。

      なお、児童ポルノ以外の一般的なポルノや成人コミックの様なエロものも

      • 全体又は部分的な人の裸体、又はアニメ、ファンタジー アート、漫画などの人間以外の形態での裸体を含む、あらゆる種類の裸体の描写が行われているコンテンツ
      • ポルノ、わいせつ、俗悪、冒涜、憎悪、偏見、人種差別、不当な暴力を誘発、促進、又は表現するコンテンツ

      以上のようなものが禁止されているので、自分だけが利用するような非公開設定であってもNGです。

      # アニメ・漫画等絵のわいせつわいせつ図画は日本はモザイク等をかければ黙認している所が多いようですが、Google等の外国企業のサービスでは大抵禁止されています。

      親コメント
    • 物理的な物の所持も違法な国もあるから普通な気もします。

      親コメント
    • by Anonymous Coward on 2011年05月24日 21時23分 (#1958221)

      相手も慈善事業でやっている訳ではなく、商売なのです。
      集積されたデータから統計を取って、会社に反映したり
      どこぞから突っ込みを食らう前に、先んじて芽を摘む位の事は十分ありえるでしょう。

      # 他人に見られたくない情報を判別可能な形で預けている時点でどうなのでしょう?

      親コメント
    • by Anonymous Coward on 2011年05月25日 9時14分 (#1958532)
      Skydriveにアップしたデータは一般公開もできますよ。
      親コメント
    • by Anonymous Coward

      アメリカでは隣人の児童虐待も市民の義務として通報する気がします………子煩悩な私としては怖いなぁ

      • by Anonymous Coward
        日本でも隣人が児童虐待してたら普通通報するだろ。 もうちょっとマシなことに時間なり労力なりを振り向けたらいいと思うけど、 まぁ、みんな暇なんだろうな。
        • by Anonymous Coward

          いやいや、隣人の児童虐待を通報するのは十分以上に有益だと思うぞ。

  • by Anonymous Coward on 2011年05月25日 0時29分 (#1958394)

    「赤い水着で14歳ボディー披露」
    http://www.asahi.com/showbiz/nikkan/NIK201105240048.html [asahi.com]

    #タイトルすら卑猥に読める

    • by Anonymous Coward on 2011年05月25日 0時36分 (#1958397)

      ヌード画像検出アルゴリズムをキャッシュに貯まった画像データに対して試用したら、
      大相撲の報道画像が山程引っかかった、という話を思い出しました。

      親コメント
      • http://pc.watch.impress.co.jp/docs/news/20110519_446835.html [impress.co.jp]
        また、映像処理エンジンを「ギガクリア・エンジンII」に強化。ちらつきが発生しやすい箇所を自動検出してちらつきを抑える超解像技術、
        解像度を判別して超解像レベルやブロックノイズリダクションの自動設定、肌色部分の超解像コントロール、専用のユーティリティ
        「ギガクリア・ウインドウ」(Windows Vista/7用)による範囲を指定した超解像適用などが行なえる。

        とか天下の三菱も売りにしてるし

        親コメント
      • by Anonymous Coward

        わんぱく相撲大会とか
        18歳未満の子の肌の露出の多い画像だが
        果たしてどうなるんだろうなあ。

        • by Anonymous Coward

          子供同士に取っ組み合いのケンカを強要するなんて虐待以外の何物でもないだろう

          とかマジで言いそうだからなぁ

  • by Anonymous Coward on 2011年05月25日 1時29分 (#1958431)

    オレのコレクションの真価を試すときが来たようだな。

  • by Anonymous Coward on 2011年05月25日 8時00分 (#1958506)

    パレスチナ支持故、facebookページ削除 [seesaa.net]
    レアル・マドリードの選手がパレスチナ支持を表明したら速攻削除。
    創業者がユダヤ人にもかかわらずこういうセンシティブな問題をまともにハンドリングできない杜撰な企業文化。

  • by Anonymous Coward on 2011年05月25日 13時16分 (#1958718)
    逆に全く関係ない画像で自動検出に引っかかる画像を用意する遊びをしてもいいのではないかとヒネた考えがでました
typodupeerror

Stay hungry, Stay foolish. -- Steven Paul Jobs

読み込み中...