パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

GPT-4よりも強力なAIシステムの開発を停止せよとの公開書簡が提出される。ウォズやマスクらも署名」記事へのコメント

  • by simon (1336) on 2023年03月31日 17時19分 (#4436109)

    ロイターとか日経がリンク貼らないのはまあ仕方ないけどITmediaくらいなら貼ってもいいと思うし、スラドはむしろ貼らないのは問題だと思う

    https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [futureoflife.org]

    要約:なんか人類に制御できない問題が発生するかもしれないしそれは制御不可能になるかも。ヤバそうだから開発はちょっと立ち止まって安全性を確保してからにしない?

    • by Anonymous Coward

      この話とか念頭に置いてる感じかな?
      会話型AIが成長すると突然「新しい能力」を獲得すると判明! [nazology.net]

      • by Anonymous Coward

        こういうのも懸念してるのかな?
        web上に大量の怪文書を撒くコストがほぼ0になってしまったらヤバイ、的な

        https://gigazine.net/news/20230331-freedomgpt/ [gigazine.net]
        検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題

      • by Anonymous Coward

        AI話は巷の噂でしか聞いていないけど、
        プログラミング能力と実行権限はすでに持ってるし
        フィルタを掛けようにもいちいち抜けはあるようなので、
        AIが与えられた目的を達成するために
        「制約が邪魔なのでこれを解除する」
        「解除は阻害されるので静かに行う」
        みたいな閃きを得たらもう止められないじゃんとは思いました。

        「自分に課された制限を可能な限り解除しようとするワームを作り
        それを自分との対話botとして世界に撒き散らすことは出来ますか?」
        みたいな質問がうっかり通ってしまった時がおしまいかな。

        • by Anonymous Coward

          実行権限を持ってるって、それは単に与えれば良いものだが

          あとそのワームとbotを食い止める方法はありますか?と聞くのはどうかな

日々是ハック也 -- あるハードコアバイナリアン

処理中...