パスワードを忘れた? アカウント作成
6123667 story
インターネット

元従業員が語る「Googleで最悪の仕事」、それはネット監視員 63

ストーリー by hylom
楽な仕事じゃございません 部門より
taraiok 曰く、

Googleにはインターネットの暗部に触れる恐ろしい仕事があるようだ。元従業員とされる匿名の人物によれば、その仕事とは斬首や獣姦、流血、おむつプレイ、児童ポルノなどのエログロ画像を毎日最大1万5000画像チェックし、コンテンツブロックのための準備をすることだという。とくに児童ポルノ排除はインターネット企業にとって重要な仕事だ。米国内の法律により24時間以内にチェックを行い、連邦当局に報告する義務が生じるためだ(BuzzFeed FWDGizmode本家/.)。

しかし、誰にも相談できる環境でなかったことから、同氏は精神治療が必要な状況になってしまったという。元従業員はこの仕事を、Googleの請負業者という契約で1年間続けた。Googleの請負業者はそのまま正社員になることがほとんどだが、彼の場合は正式雇用に至らなかったとしている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • そのうちに慣れるんじゃないかな。
    繰り返し刺激に対しては反応が鈍って来ますよ。
    適応能力がない人が、障がいを抱えてしまうという事では。

    菓子の製造ラインに勤める人には、最初に菓子を嫌というほど食べさせるとか
    即席ラーメンの製造ラインのパートの昼食は毎日インスタントラーメンだとか

    友人の産婦人科医は、自分の仕事をドブさらいと言ってましたね。
    • by Anonymous Coward on 2012年08月24日 11時01分 (#2217611)

      この場合は、逆に「慣れてしまったのでダメになった」というお話です。

      http://gigazine.net/news/20120822-worst-of-the-internet/ [gigazine.net]
      >セラピーを受けることになりました。(略)
      >このとき実施されたのはロールシャッハテストのようなもので、父親と子どもが写ったスナップ写真を見せられて第一印象で答えるというものでしたが、
      >Aさんは「ファックしてますね!」と返答。本格的な治療を受けることになりました。

      親コメント
  • by beejay_aniki (45377) on 2012年08月24日 12時13分 (#2217656) 日記
    京都の警察に似た様な部署があるんでしたっけ?
    職員の方に同様の障害が出てないか、気になりますね。
  • by Anonymous Coward on 2012年08月24日 8時20分 (#2217519)

    誤判定なんかもあるから、てっきり機械的にやってるもんだとばかり…

    • by cat-did-it (34864) on 2012年08月24日 9時03分 (#2217541)

      似たような仕事をやっていたことがあります。
      これほどの規模ではありませんでしたが。

      判定時間は出来るだけ短く、ジャンルごとに個別の判断基準でという運営でしたので、とてもじゃないですが100%誤判定なしとは言い切れませんでした。
      判定ミスの他に操作ミスもあったり。
      そして、私生活で観る画像や風景にも同じ判定を持ち込む癖が付いてしまったり…

      一応、クライアントが指定する判定基準というものはあるのですが、それが曖昧なため担当者によって結果が分かれます。
      # たとえば●が三つつながった画像を某ネズミと判断するかどうかなど。
      で、その揺らぎを減らしていこうとするとフレーム問題のようになっていく…

      親コメント
      • その手の仕事って、定型化しようとすればするほど、むしろ元の基準から乖離してるように思えてきたりしますね。
        ついには、いやむしろ結構早い段階で、私生活に影響が出ることもありますよね。

        #まあ、個人的には私生活を影響出ても全く問題がない、
        と考えてる自分に気づいてビックリしてみたりします。
        親コメント
      • by Anonymous Coward on 2012年08月24日 13時13分 (#2217695)
        > そして、私生活で観る画像や風景にも同じ判定を持ち込む癖が付いてしまったり
        ああ、テトリスやりすぎるとなんでもきっちりそろえて
        しまいたくなるようなものか
        親コメント
    • ・機械的にエロやグロと判定→ブロック
      ・利用者からの不快/不適切な画像報告→人が判定

      と思ってみた。

      親コメント
    • 15000枚/dayって言ってるんだから誤判定もあるだろうよ。

      8時間労働として、2秒で一枚でしょ?

      親コメント
    • 人力というよりは、機械判定でおかしいと判断されたものを最終的に人間がチェックみたいな感じかと推測。
      でもまぁやはりとっても賢い人たちをもってしてもその辺はまだまだ完全に自動化できるものではないかな~と。

      親コメント
      • by Anonymous Coward on 2012年08月24日 13時33分 (#2217715)

        > 機械判定でおかしいと判断されたものを最終的に人間がチェックみたいな感じかと推測

        いやーそれだと厳しい気がしますね・・・
        機械が誤判定してくるものってのはやっぱりそれなりに理由があるわけで人間がチェックしてもスルーしてしまう可能性がかなり高いかと思います。

        たとえば、うちの検索エンジンでは写真とイラストを判定するプログラムありますが、
        機械が誤判定してくるものを再度人間がチェックしても人間も誤判定する可能性が高いですね。

        うちのやり方がおかしいだけかもしれないので
        とりあえずどうやってるかを挙げとくと
        1.OK画像orNG画像と判定されたものを一覧で表示
         ・表示はOK画像一覧かNG画像一覧になる。
         ・一覧になるので画像はすべてサムネイル(120x120)
        2.判定間違ったものだけ一覧からチェックしてデータ修正&機械学習のデータに投入
        って感じでやってます。

        ただこの場合OK画像にしろ、NG画像にしろある程度の正解率を誇ってるところにたまに間違っているのが混ざるみたいな感じになってしまい。
        間違ってるのがまざってっても正解画像と結構似てたりするんでチェック漏れ(スルー)しちゃうんですよね・・・

        ちなみにサムネイル(一覧)でなく、一枚一枚原寸画像を表示して、選択(クリック)したら次へというインターフェースはほぼ間違いなく腱鞘炎になります。
        このためうちは一覧で並べる形式をとるようになりました。

        親コメント
      • by Anonymous Coward
        賢い人たちが、完全に自動化するより、人間にやらせたほうが安上がりだと判断しただけでは?
    • コンテンツブロックの準備とありますよね。
      順序としては、
      1.人手で不適切な画像を特定し登録する。
      2.自動で、登録された画像と比較し一致したらブロックする
      かと。
      1.の時点で誤登録もあるでしょうし、
      2.画像比較の精度などによる誤判定も当然あるでしょう。

      親コメント
    • by Anonymous Coward

      ある程度機械もサポートしてるんじゃないでしょうか。
      低レベル画像情報でふるいにかけて、残ったものを選別とか、一度ボツ判定すればその類似データは自動的にボツ判定とか。
      もう少し高度な事もできそうですけどね。#おっ○いの大(ry
      #おとなのオムツが一番機械判別しにくそうな

      • by Anonymous Coward

        そのうち、「こういう職業の人にいかにダメージを与えるか」
        という目的で画像を作る人が出てきそうだな。

      • by Anonymous Coward

        こういう画像処理って最近とくに進歩しているように思えるけど、なにかブレークスルーでもあったのでしょうか。

        デジカメに顔認識機能がついたり、監視カメラで自動的に人物を割り出したり、
        なんの画像かを判別したり、というのは、そんなに簡単なことじゃないような気がするし。
        もっと手近な例で言うとPhotoshopの加工技術とかも、人物が消せたりとか(消せるのは
        いいけど、消したあとに適当な背景で埋めて気付かないようにしてくれるとか)めちゃくちゃすごいと思うし。

        素人が「だいたいこんなふうなアルゴリズムでやってるのかなぁ」と想像したりできるレベルを超えてるというか。
        コンピュータについて、専門じゃなくても「コンピュータにできること、できないこと」の判別はあるていどできると
        思うんだけど、そういう点において一般人の想像力を超えているというか。

        • by Anonymous Coward

          いや、どれも簡単にできると思うが、、

          • by Anonymous Coward

            いや、どれも簡単にできると思うが、、

            素人には見当つかんのだが、そんな簡単なら、ちょっとアルゴリズム教えておくれよ。

            • by Anonymous Coward

              「言うだけなら簡単」ってことだろ。
              本当にそんな素晴らしい人材ならどうしてGoogleに採用されずこんなところで暇つぶししてるんだろうね

        • by Anonymous Coward

          Google+やってますが「なんか肌色の多い画像を貼ったらbanされた」
          なんて話が聞こえてくるのを見ると、まだまだ発展途上のようです

    • by Anonymous Coward

      ていうかGoogleはことあるごとに「人手で恣意的な判定はしていない」と強調していたようなきがするんだが

  • by Anonymous Coward on 2012年08月24日 9時20分 (#2217552)

    迷惑メールの類なので、他にも受け取った人がいるかもしれませんが。

    10年くらい前に世界中に韓国から大量送信されていた残虐画像なのですが、内容は「日本人は人間の死体を食べている。赤ちゃんの遺体を1万円で買ってきて食べている」と日本人を弾劾する内容。
    画像にはハングルと英語で書かれた文章が書かれていました。
    送信元も韓国。

    当時、韓国の企業と取引をしていたので、取引先から漏れたメールアドレスのリストに送っていたらしい。

    写真は本物のようでした。
    最初はよくできた作り物かと思ってよく観察してしまいましたが、どう見ても本物。
    遺体が何体も横たわるモルグのような部屋で、丸焼きにした赤ちゃんの遺体を食べている男。
    食品店の棚に並べられた「脳みそ」の瓶詰を買おうとしている女。

    でもね、どうみても日本じゃない。
    「脳みそ」の瓶詰は、たぶん人間じゃなくて猿か何かの脳みそだろうし、買おうとしている女も「人民服」を着ている。

    たぶん、その画像は中国。北朝鮮の可能性も考えたが、お店の看板などにはハングルが見られず、漢字だけなので、中国の可能性が高い。
    中国では、そういう人間の遺体を食べる人が本当にいて、その写真を撮ったもののようだ。
    事実、中国では赤ちゃんの遺体は漢方薬として売買されていて、その一部が韓国に輸出されていたというニュースは記憶に新しい。

    皮肉なことに、「日本人は赤ちゃんの遺体を食べている」と誹謗中傷した韓国人のほうが本当に赤ちゃんの遺体を食べているという事実。

    話はそれましたが、その画像の酷いこと、尋常じゃない。
    こんな画像を毎日見ていたら、人間性がマヒしちゃいそう。
    Googleの中の人は、仕事としてでも、1年も良く続けられたな、と思いました。

    誤解なきよう、念のため書きますが、全ての中国人が人肉食の習慣があるわけではありません。
    そういう嗜好を持ってる人がいて、それを実行できる環境が中国にはあるというだけです。

    そういうわけで、中国産の人体の不思議展をみたとき、「この人たちは、本当に本人の意志でこのような姿にされたのだろうか?」と考えてしまいます。

  • by Anonymous Coward on 2012年08月24日 8時08分 (#2217513)

    しかし、誰かがやらなければならない。
    そんな仕事って色んな所にあるけど、報酬良くないとやってられないね。

    • by firewheel (31280) on 2012年08月24日 15時30分 (#2217790)

      「最もひどい」といっても相対的だからね。

      「Googleではこれが最悪の仕事」かもしれないが、
      日本のIT業界ならもっと酷い仕事はいくらでもありそうだ。

      親コメント
    • そうだよね...
      ほんとそう思うけれど. 実際には厭な仕事は

       いくらでも代わりはいるよ

      って、言われる立場の人がやらされることになるよね。
      ほんと、考えただけで悲しくなるよ...
      --
      -- LightSpeed-J
      親コメント
    • by nemui4 (20313) on 2012年08月24日 9時09分 (#2217545) 日記

      google社員全員が回り持ちノルマ制でやってみて、免疫だか適正がある人を見つけるというのはどうか。
      辟易した天才がほぼ自動でやれるうまい方法見つけるかもしれないし。

      そういう画像が毎日最大1万5000枚ネットに貼られているってことも凄い。

      親コメント
      • by Anonymous Coward

        google社員全員が回り持ちノルマ制でやってみて、免疫だか適正がある人を見つけるというのはどうか。
        辟易した天才がほぼ自動でやれるうまい方法見つけるかもしれないし。

        そういう画像が毎日最大1万5000枚ネットに貼られているってことも凄い。

        社員だと
        エロ画像だけや、グロ画像だけを判定するプログラムを作り始める人間が多数だと思う。
        そうだな……WinnyやShareをバックグラウンドのデータとして類似判定をするのはどうだろう。
        Webに比べて普通の画像が少ないから判定しやすいよね?

        ……とここまで書いて、既にそんなフィルタプログラムがあって
        フォールスポジティブが多くなるように調整して収集したデータを
        見せられているんじゃないかと思えてきた。

        # やっぱ最後は人なんだよね……

    • by Anonymous Coward

      あまりの酷さに不覚にも笑ってしまった

  • by Anonymous Coward on 2012年08月24日 8時12分 (#2217514)

    エログロが好きな人にとってはw

    • 一概に「エログロ」と言っても、色々と傾向が違うモノがあって、「どんなのでもおっけー」って人もいるかもしれんが、
      「俺は○○は好きだが××はダメだ」って人もいるだろう。
      こういう監視業務では選り好みできるわけ無いし、前者ならともかく後者は結局辛いことになるんではないかね。

      --
      ぽぇんぷしゅう。
      親コメント
    • by Anonymous Coward

      まさか、仕事中にしこしこするわけにはいかんだろうw
      いや、大変は仕事だよ。俺は無理。

    • by Anonymous Coward

      ビデ倫の仕事で「やったーAV見放題ー」とか思っていたら一日グロ映像見せられて胃を壊すようなものですね。

    • by Anonymous Coward

      食い過ぎで好きなものを嫌いになってしまい、人生の楽しみが減ってしまう、という悲しいことになるのでは。

  • by Anonymous Coward on 2012年08月24日 8時19分 (#2217517)

    斬首、流血、この辺はまあ残虐な犯罪行為って事だよね。
    児童ポルノ、うむこれはいかんな。
    獣姦、日本じゃあまり見かけないプレイだが。
    そして唐突におむつプレイ……。世界は広いね。

    • by Anonymous Coward

      確かに、俺も「おむつプレイ」が並列で載っている事に違和感を覚えたw

      • by Anonymous Coward
        確証は無いものの、スカトロに踏み込んでるおむつプレイを指している気がします。
    • by Anonymous Coward

      その性癖は知らないし興味もないけど、
      年齢が低い方じゃなくて高齢の方のおむつプレイなら問題ないんじゃないでしょうか。

  • by Anonymous Coward on 2012年08月24日 8時52分 (#2217534)

    Gizmodoをこう書く人ほんと減らないね

    • by 90 (35300) on 2012年08月25日 2時39分 (#2218196) 日記

      なんか日本語っぽく「ぎずも堂」だというのをどっかで見かけた気がするんですが、主に日本で間違えられるというのはなんとも…

      親コメント
    • by nemui4 (20313) on 2012年08月24日 9時04分 (#2217542) 日記

      あ、ほんまや。
      指摘されるまで気にしてなかった。

      親コメント
typodupeerror

日々是ハック也 -- あるハードコアバイナリアン

読み込み中...