アカウント名:
パスワード:
悪意というような曖昧な表現をするより、目的と手段と影響力を兼ね備えるかどうかが問題。
手段と影響力は、技術の発展と共に、何がどうあれ達成されてしまうのは不可避な雰囲気。自動運転自動車とか自動兵器の普及とか。
ただ、そいつらが人類を害するという目的を持つに至る流れは、ちょっと話が飛んでる。
目的の方が既に存在しているという意味で、投資AIとかがヤバそうに思える。自分の口座以外の何にどんな悪影響を与えても良いから金を増やす、という目的設定は、それが可能であれば誰かがやるし、その遙かに単純なバージョンは既に稼働してる。後は、推論の高度化、所有者からの信頼向上に伴う権限の委譲で、手段と影響力はどんどん増えて行く。
AIが「利害」という概念を獲得し、口座の数字を大きくすることを「利」と認識すれば、あるいは。利を最大化するために、競合するナニカを排除しようとするかもしれません。
『未来の二つの顔』ですね。競合するナニカを排除しようとして、人間を排除するようになるのではないかと、壮大な実験を行う話でした。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
アレゲは一日にしてならず -- アレゲ見習い
目的の獲得が問題 (スコア:1)
悪意というような曖昧な表現をするより、目的と手段と影響力を兼ね備えるかどうかが問題。
手段と影響力は、技術の発展と共に、何がどうあれ達成されてしまうのは不可避な雰囲気。
自動運転自動車とか自動兵器の普及とか。
ただ、そいつらが人類を害するという目的を持つに至る流れは、ちょっと話が飛んでる。
目的の方が既に存在しているという意味で、投資AIとかがヤバそうに思える。
自分の口座以外の何にどんな悪影響を与えても良いから金を増やす、という目的設定は、
それが可能であれば誰かがやるし、その遙かに単純なバージョンは既に稼働してる。
後は、推論の高度化、所有者からの信頼向上に伴う権限の委譲で、手段と影響力はどんどん増えて行く。
Re: (スコア:0)
AIが「利害」という概念を獲得し、口座の数字を大きくすることを「利」と認識すれば、あるいは。
利を最大化するために、競合するナニカを排除しようとするかもしれません。
Re: (スコア:0)
『未来の二つの顔』ですね。競合するナニカを排除しようとして、人間を排除するようになるのではないかと、壮大な実験を行う話でした。