アカウント名:
パスワード:
ロイターとか日経がリンク貼らないのはまあ仕方ないけどITmediaくらいなら貼ってもいいと思うし、スラドはむしろ貼らないのは問題だと思う
https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [futureoflife.org]
要約：なんか人類に制御できない問題が発生するかもしれないしそれは制御不可能になるかも。ヤバそうだから開発はちょっと立ち止まって安全性を確保してからにしない？
この話とか念頭に置いてる感じかな？会話型AIが成長すると突然「新しい能力」を獲得すると判明！ [nazology.net]
こういうのも懸念してるのかな？web上に大量の怪文書を撒くコストがほぼ０になってしまったらヤバイ、的な
https://gigazine.net/news/20230331-freedomgpt/ [gigazine.net]検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題
AI話は巷の噂でしか聞いていないけど、プログラミング能力と実行権限はすでに持ってるしフィルタを掛けようにもいちいち抜けはあるようなので、AIが与えられた目的を達成するために「制約が邪魔なのでこれを解除する」「解除は阻害されるので静かに行う」みたいな閃きを得たらもう止められないじゃんとは思いました。
「自分に課された制限を可能な限り解除しようとするワームを作りそれを自分との対話botとして世界に撒き散らすことは出来ますか?」みたいな質問がうっかり通ってしまった時がおしまいかな。
実行権限を持ってるって、それは単に与えれば良いものだが
あとそのワームとbotを食い止める方法はありますか？と聞くのはどうかな
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
物事のやり方は一つではない -- Perlな人
オープンレター本文 (スコア:2)
ロイターとか日経がリンク貼らないのはまあ仕方ないけどITmediaくらいなら貼ってもいいと思うし、スラドはむしろ貼らないのは問題だと思う
https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [futureoflife.org]
要約：なんか人類に制御できない問題が発生するかもしれないしそれは制御不可能になるかも。ヤバそうだから開発はちょっと立ち止まって安全性を確保してからにしない？
Re: (スコア:0)
この話とか念頭に置いてる感じかな？
会話型AIが成長すると突然「新しい能力」を獲得すると判明！ [nazology.net]
Re: (スコア:0)
こういうのも懸念してるのかな？
web上に大量の怪文書を撒くコストがほぼ０になってしまったらヤバイ、的な
https://gigazine.net/news/20230331-freedomgpt/ [gigazine.net]
検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題
Re: (スコア:0)
AI話は巷の噂でしか聞いていないけど、
プログラミング能力と実行権限はすでに持ってるし
フィルタを掛けようにもいちいち抜けはあるようなので、
AIが与えられた目的を達成するために
「制約が邪魔なのでこれを解除する」
「解除は阻害されるので静かに行う」
みたいな閃きを得たらもう止められないじゃんとは思いました。
「自分に課された制限を可能な限り解除しようとするワームを作り
それを自分との対話botとして世界に撒き散らすことは出来ますか?」
みたいな質問がうっかり通ってしまった時がおしまいかな。
Re: (スコア:0)
実行権限を持ってるって、それは単に与えれば良いものだが
あとそのワームとbotを食い止める方法はありますか？と聞くのはどうかな