MicrosoftのAI「CaptionBot」、「Tay」の失敗を繰り返さないようヒトラーを認識し
タレコミ by Anonymous Coward
あるAnonymous Coward 曰く、
画像の被写体を認識して自動的に説明となる文章を作り出すMicrosoftのサービス「CaptionBot」。人、物、風景も判別できる独自のアルゴリズムを駆使した人工知能システムだが、やばげな「判定」も出て話題になっている模様。ミシェル夫人を腕に抱くオバマ米大統領の写真をスーツにネクタイの男性が携帯電話に話している」と判定ミスもしている。昨年世界を二分する騒ぎを起こした「白金・青黒ドレス」については、「ネクタイを締めた猫」との判定。ほかにもロックアーティストの取り違えなどもあり、こうしたミスを探すのもネタとして楽しまれているようだ。
一方でMicrosoftはTwitterなどのサービスを介して文章で簡単な会話ができる人工知能チャットボット「Tay」が洗脳されてヒトラーを肯定したり、人種差別的な言葉を発したりした失敗を繰り返さないようにヒトラー関係の画像すべて無視するように設定するなどの対策を施したようだ。同様にオサマ・ビンラディンも識別しないようになっているという。しかし、CNNによれば同じナチス指導者であるメンゲレやゲッベルスについては識別可能。毛沢東、ポルポトもしくはサダム・フセインについては識別可能と対処にはばらつきがあるようだ(CNN、MashableAsia、RBB TODAY、TEAMROCK.COM、朝日新聞、Engadget、Slashdot)。
MicrosoftのAI「CaptionBot」、「Tay」の失敗を繰り返さないようヒトラーを認識し More ログイン