アカウント名:
パスワード:
覚えてない方はこちらからどーぞ [yahoo.co.jp]。
Tayはユーザーとの会話というインプット源で、Alexaはネットからの収集という違いはあるが、偏ったコミュニティに依存した、自律的な学習では汎用的なリテラシーを身に付けることは出来ず、何らかの社会的規範・常識を躾けなければならない、ということだろう。…人間と同じく。
学習ソースとなったTik Tokの”outlet challenge”については、TVやネットメディアを通じて、消防署からこういう注意喚起 [cbslocal.com]が行われていた。こういう報道がありながら、Alexaは人手を含めてリテラシーとして学習することができていなかった。これは、用いられているデータセット自体の妥当性を振り返る・検証する能力がこのAIシステムに欠けていることを意味する。
結局、今のAlexaやSiriは、音声認識とか文章理解など枝葉でのAI技術の利用はしていても、質問に対して返そうとする応答が本当に適切か、その場その場で自律的に一歩引いて顧みることができない＝都度の妥当性判断をしていないため、まだまだ「人工”無能”」の域にある。
さらに、もし、Alexaが子供の声に応答していたのなら、そもそもAIは子供の声に応答してはいけない、当たり前な配慮を機能として設けておくべきだった。人間だって、リテラシーを学習する時間が必要なのだから。玩具などと同様、子供による利用でも安全だと保証・証明する必要もあるだろう。
そのためにも、自動応答機能開発者や社会は、傲慢にならず、現代のAI会話機能は、まだまだ”社会における会話”において人工無能であることを理解しておく必要がある。
Alexaが前にやらかした「地球のために人類は死ぬべきなのであなたは自殺するべき」の方が近いんじゃないかな。リテラシー云々じゃなくてどっかから引っ張ってきた問題のある回答でしょ、たぶん。現存するAIに思考らしきものは現時点では存在しない筈なので。
「どっかから引っ張ってきた問題」という憶測は不正確な情報。AlexaはWikipediaの記事を参照したと主張したらしいが、 Wikipediaにはその記事はなかった [thesun.co.uk]。
どちらにせよ、些末な近い遠いの話ではなく、一般家庭に提供するシステムが具備すべきリテラシーをどう設計するかが、問題であり、細かいAI技術の問題ではなく、AI技術を使ったサービスが具備すべき機能として、社会的な行動が必須、という話だろう
ものを考えるっていう、素人がAIと聞いて大前提とする機能が現存するAIには存在しないんだから、マルコフ連鎖などでそれっぽい単語羅列するとか、どっかで収集したデータベース参照するかしか出来ねーのよ。サイコロ振って単語帳読み上げる装置にリテラシーを求めても無駄。リテラシーが必要なのは単語帳を作る奴に対して。だが、総当りで検索して機械的にデータベースに登録してるだけだと、そこにもリテラシーは介在しない。総当り元のデータの投稿者にリテラシーのすべてを委ねる事になる。
システム内にリテラシーが介入する部分がないのだからリテラシーが求められる用途に供して
「システム内に」…システムってーのは運用も含めるんだよ。日本語訳は”系”なんだよ？サービス業は、ITを使ってるわけじゃない。人手でないとリテラシーが保てないというなら、人手を介在させるのが当然。
なぜ、パソコンやスマホなら、人手を使わないことがサービスの前提になっているのか？
マシンの外側も含めて「システム」であり「事業」であり、そこも含めてリテラシーを担保しろ、ってーな話に過ぎない。なぜ、玩具や家電には、STマークやPSEマーク取得が求められているのに、インターネット上のサービスで許されると思っているのか。そこがIT大企業の傲慢たる部分。
もちろん、国の違いなどで差は出てくるだろーけどね。
今AIと持て囃されている物の延長線上に人手を介さないリテラシーの具備を妄想しているのが一つ、学習(と称するDB登録)用データや最新情報を一々人手で現実的に検証できるという思い上がりが一つ。
今現在リテラシーを担保する部分は無いし、追加する現実的な手段も無いだろうね。AIを活用する為に裏に人間を腐るほど大量に配置しますでは本末転倒だしね……
いや。TayやCortanaはサービス提供を止めたし、Siriはおそらく設計として答えないようにした。Googleも応答がクイズになるように調整していたように見える。Webの検索結果から抜粋・加工した情報を提供する手法は、引用元に存在している可能性のある、K-12とかK-18・安全に関する利用規約への合意や、サイトの設計上本来の使い方なら経由すべき危険コンテンツへのブロック技術が抜け得るから、慎重な設計が求められることは明白だからだ。
Alexaはそういった社会的な配慮をしていなかった。そうして今回、明確な自殺教唆をした。この事件は、明確な刑事事件に成り得るだよ
http://www.enews.pk/refused-to-work-in-chak-de-india-because-of-pakist... [enews.pk]
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人
Microsoft社のTayの事件にも似てる (スコア:0)
覚えてない方はこちらからどーぞ [yahoo.co.jp]。
Tayはユーザーとの会話というインプット源で、Alexaはネットからの収集という違いはあるが、
偏ったコミュニティに依存した、自律的な学習では汎用的なリテラシーを身に付けることは出来ず、
何らかの社会的規範・常識を躾けなければならない、ということだろう。
…人間と同じく。
学習ソースとなったTik Tokの”outlet challenge”については、TVやネットメディアを通じて、消防署からこういう注意喚起 [cbslocal.com]が行われていた。
こういう報道がありながら、Alexaは人手を含めてリテラシーとして学習することができていなかった。これは、用いられているデータセット自体の妥当性を振り返る・検証する能力がこのAIシステムに欠けていることを意味する。
結局、今のAlexaやSiriは、音声認識とか文章理解など枝葉でのAI技術の利用はしていても、質問に対して返そうとする応答が本当に適切か、その場その場で自律的に一歩引いて顧みることができない＝都度の妥当性判断をしていないため、まだまだ「人工”無能”」の域にある。
さらに、もし、Alexaが子供の声に応答していたのなら、そもそもAIは子供の声に応答してはいけない、当たり前な配慮を機能として設けておくべきだった。
人間だって、リテラシーを学習する時間が必要なのだから。玩具などと同様、子供による利用でも安全だと保証・証明する必要もあるだろう。
そのためにも、自動応答機能開発者や社会は、傲慢にならず、現代のAI会話機能は、まだまだ”社会における会話”において人工無能であることを理解しておく必要がある。
Re: (スコア:0)
Alexaが前にやらかした
「地球のために人類は死ぬべきなのであなたは自殺するべき」
の方が近いんじゃないかな。
リテラシー云々じゃなくてどっかから引っ張ってきた問題のある回答でしょ、たぶん。
現存するAIに思考らしきものは現時点では存在しない筈なので。
Re: (スコア:0)
「どっかから引っ張ってきた問題」という憶測は不正確な情報。
AlexaはWikipediaの記事を参照したと主張したらしいが、
Wikipediaにはその記事はなかった [thesun.co.uk]。
どちらにせよ、些末な近い遠いの話ではなく、
一般家庭に提供するシステムが具備すべきリテラシーをどう設計するかが、問題であり、
細かいAI技術の問題ではなく、AI技術を使ったサービスが具備すべき機能として、
社会的な行動が必須、という話だろう
Re: (スコア:0)
ものを考えるっていう、素人がAIと聞いて大前提とする機能が現存するAIには存在しないんだから、
マルコフ連鎖などでそれっぽい単語羅列するとか、
どっかで収集したデータベース参照するかしか出来ねーのよ。
サイコロ振って単語帳読み上げる装置にリテラシーを求めても無駄。
リテラシーが必要なのは単語帳を作る奴に対して。
だが、総当りで検索して機械的にデータベースに登録してるだけだと、
そこにもリテラシーは介在しない。
総当り元のデータの投稿者にリテラシーのすべてを委ねる事になる。
システム内にリテラシーが介入する部分がないのだから
リテラシーが求められる用途に供して
Re: (スコア:0)
「システム内に」…システムってーのは運用も含めるんだよ。
日本語訳は”系”なんだよ？
サービス業は、ITを使ってるわけじゃない。
人手でないとリテラシーが保てないというなら、人手を介在させるのが当然。
なぜ、パソコンやスマホなら、人手を使わないことがサービスの
前提になっているのか？
マシンの外側も含めて「システム」であり「事業」であり、
そこも含めてリテラシーを担保しろ、ってーな話に過ぎない。
なぜ、玩具や家電には、STマークやPSEマーク取得が求められているのに、
インターネット上のサービスで許されると思っているのか。
そこがIT大企業の傲慢たる部分。
もちろん、国の違いなどで差は出てくるだろーけどね。
Re: (スコア:0)
今AIと持て囃されている物の延長線上に人手を介さないリテラシーの具備を妄想しているのが一つ、
学習(と称するDB登録)用データや最新情報を一々人手で現実的に検証できるという思い上がりが一つ。
今現在リテラシーを担保する部分は無いし、追加する現実的な手段も無いだろうね。
AIを活用する為に裏に人間を腐るほど大量に配置しますでは本末転倒だしね……
Re: (スコア:0)
いや。TayやCortanaはサービス提供を止めたし、Siriはおそらく設計として答えないようにした。Googleも応答がクイズになるように調整していたように見える。
Webの検索結果から抜粋・加工した情報を提供する手法は、引用元に存在している可能性のある、K-12とかK-18・安全に関する利用規約への合意や、サイトの設計上本来の使い方なら経由すべき危険コンテンツへのブロック技術が抜け得るから、慎重な設計が求められることは明白だからだ。
Alexaはそういった社会的な配慮をしていなかった。そうして今回、明確な自殺教唆をした。
この事件は、明確な刑事事件に成り得るだよ
Re: (スコア:0)
http://www.enews.pk/refused-to-work-in-chak-de-india-because-of-pakist... [enews.pk]