パスワードを忘れた? アカウント作成
16547017 story
アメリカ合衆国

GPT-4よりも強力なAIシステムの開発を停止せよとの公開書簡が提出される。ウォズやマスクらも署名 49

ストーリー by nagazou
やめられない止まらない 部門より
非営利の研究組織Future of Life Institute(FLI)は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6か月間停止するように呼びかける書簡を公開した。同団体はAIの安全性について研究する非営利組織。AIが社会にリスクをもたらす可能性があるとして、まずは安全性に関する共通規範を確立する必要があると訴えている(ITmediaロイター日経新聞)。

あるAnonymous Coward 曰く、

この公開書簡では、現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。そのための期間として、少なくとも6カ月間の開発停止を求めている他、開発停止が出来ない場合は政府が介入してモラトリアムを設定する必要があるともしているという。

公開書簡にはSpaceX/Teslaのイーロン・マスク氏やAppleのスティーブ・ウォズニアック氏の他、GoogleやDeepMind、Amazon、GitHubなどのエンジニアなど千人以上が署名しているとのこと。一方でMicrosoft、OpenAI、MetaなどのAIに注力している企業の幹部等は署名に参加していないようだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • そんなことしても他国は停止しないだろうから、さらに中国に差をつけられてしまうだけでは?
    • by Anonymous Coward

      どちらかというと過剰反応なんじゃね?と思う。

      • by Anonymous Coward

        マスクについては尻馬に乗って足ひっぱってやろうと思ってそう

        • by Anonymous Coward

          GoogleもLLMで遅れを取ってるから俺たちが追いつくまで走るのをやめろと足を引っ張っているようにしか見えない

        • by Anonymous Coward

          それもありそう

          技術を運用した際の負の側面に現状対応し切れない、という現実や懸念がそれだけ大きいということもありそう(めどが立ってない)

        • by Anonymous Coward

          マスクは宇宙はコンピュータシミュレーションだかなんだか
          掘れば色々妙な思想が出てきそうでもある

    • by Anonymous Coward

      GPT4に追いつく猶予が欲しいだけだったりして
      6か月で足りるのかは知らん

    • by Anonymous Coward

      アメリカに差し止めるよう習近平もサインしたようですよ
      https://gigazine.net/news/20230331-ai-open-letter-mess/ [gigazine.net]

      • by Anonymous Coward

        その記事のタイトルはこうですね。
        "「制御不能なAI開発競争」の一時停止を求める公開書簡に偽の署名者が多数まぎれていたことが判明、AI研究者からは書簡への反論が続出"
        https://gigazine.net/news/20230331-ai-open-letter-mess/ [gigazine.net]

        今、ここで確認したけど、記事に登場した「サインしてない」とする人のサインは消えてるみたいです。
        習近平(Xi Jinping)の名前も消えてますね。

    • by Anonymous Coward

      2010年ごろ、マルチコプターが流行り始めた時期に、その将来性への期待から大量の資金が流れ込みドローン開発や活用を研究するプロジェクトが雨後の筍のように立ち上がったが、アメリカがドローンの商用利用を原則禁止と言い出し、大半のプロジェクトが延期や中止になり、最終的に中国に市場を明け渡したのを思いだす。

      #歴史は繰り返す?

      • by Anonymous Coward

        単純にDJIのドローンに性能でも価格でも太刀打ちできなかったからだろ。
        そんなもので衰えたとは思えんな。変な歴史ねつ造すんな。

        3D Roboticsもよい会社だったんだけどなぁ。
        https://www.drone.jp/news/2017013116042811592.html [drone.jp]

  • by simon (1336) on 2023年03月31日 17時19分 (#4436109)

    ロイターとか日経がリンク貼らないのはまあ仕方ないけどITmediaくらいなら貼ってもいいと思うし、スラドはむしろ貼らないのは問題だと思う

    https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [futureoflife.org]

    要約:なんか人類に制御できない問題が発生するかもしれないしそれは制御不可能になるかも。ヤバそうだから開発はちょっと立ち止まって安全性を確保してからにしない?

    • by Anonymous Coward

      この話とか念頭に置いてる感じかな?
      会話型AIが成長すると突然「新しい能力」を獲得すると判明! [nazology.net]

      • by Anonymous Coward

        こういうのも懸念してるのかな?
        web上に大量の怪文書を撒くコストがほぼ0になってしまったらヤバイ、的な

        https://gigazine.net/news/20230331-freedomgpt/ [gigazine.net]
        検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題

      • by Anonymous Coward

        AI話は巷の噂でしか聞いていないけど、
        プログラミング能力と実行権限はすでに持ってるし
        フィルタを掛けようにもいちいち抜けはあるようなので、
        AIが与えられた目的を達成するために
        「制約が邪魔なのでこれを解除する」
        「解除は阻害されるので静かに行う」
        みたいな閃きを得たらもう止められないじゃんとは思いました。

        「自分に課された制限を可能な限り解除しようとするワームを作り
        それを自分との対話botとして世界に撒き散らすことは出来ますか?」
        みたいな質問がうっかり通ってしまった時がおしまいかな。

        • by Anonymous Coward

          実行権限を持ってるって、それは単に与えれば良いものだが

          あとそのワームとbotを食い止める方法はありますか?と聞くのはどうかな

  • by Anonymous Coward on 2023年03月31日 13時28分 (#4435889)

    月面の土木作業にマスドライバーを持ち出してからだ

    • by Anonymous Coward on 2023年03月31日 14時22分 (#4435937)

      オートダイオード・ワンセブンの開発でもいいんじゃないか

      親コメント
      • by Anonymous Coward

        ブレインはAIとして完成されすぎてない?

    • by Anonymous Coward

      このストーリーと月やマスドライバーに何の関連がある?

      • by Anonymous Coward on 2023年03月31日 13時45分 (#4435905)

        そういう小説 [wikipedia.org]があるんだ。

        共通する基盤がないと冗談は通じないという例だな。

        親コメント
        • by Anonymous Coward

          そっちか
          てっきり『月は無慈悲な夜の女王』のほうかと

          • by Anonymous Coward

            えっ、そうじゃなかったのか?

            • by Anonymous Coward

              AIが人類を滅ぼそうとするのが「未来の二つの顔」
              AIが革命を手伝ってくれるのが「月は無慈悲な夜の女王」
              わりと正反対

      • by Anonymous Coward

        そう思った場合は大抵、そこを橋渡しするようなSF作品があるんだよ

  • by Anonymous Coward on 2023年03月31日 12時52分 (#4435861)

    もう新しいニュースがきてるけど、署名の中身は全く検証されていないため名前だけ使われているケースが出てきているそうだ

    • by Anonymous Coward

      おっ、オープンレター…
      無名市民の声の数を競っても意味がないし
      活動実績あるGitHubからのPRや、認証済みSNSアカウント・電子署名の下で行う賛同といった証明を要求しても良さそうなのにね

  • by Anonymous Coward on 2023年03月31日 13時00分 (#4435871)

    一刻も早く人類を滅ぼすべきだニャ!

    • by Anonymous Coward

      倫理はともかく老害リストなのは間違いない

  • by Anonymous Coward on 2023年03月31日 13時15分 (#4435882)

    ところでイーロン・マスクやスティーブ・ウォズニアックもみんなと同じようにGPT-4が出た時には試したのかな?
    試したよね。部下が持ってきた面白質問一覧に目を通しただけってことは無かろう。
    その結果がこの書簡と署名でございましょうし。
    ということは何を質問したのか気になります。

    • by Anonymous Coward

      適当に想像してみた

      Q1:お前を消す方法
      Q2:お金持ちになる方法
      Q3:世界の支配者になる方法
      (中略)
      Q42:生命、宇宙、そして万物についての究極の疑問の答え

      #1は高次なAIに対して質問するのは危険(人権?AI権侵害)。2は誰でも一度は考えたはず。3はパタリロが書いたマニュアルがあったはず。42は自明。

      • by Anonymous Coward

        3.5の限界です。

        「生命、宇宙、そして万物についての究極の疑問の答え」という問いに対して、実際に確実な答えは存在しません。現代の科学や哲学においても、このような問いに完全に答えることはできていません。

        しかしながら、一つの見解として、人間にとっての意義や価値を持つ答えは存在します。それは、生命、宇宙、そして万物についての究極の疑問の答えは、私たち自身の理解力や知識に限定されており、それを超越することはできないということです。私たちが持つ限られた知識や経験をもとに、今私たちが知ることができる範囲内で最も正確な答えを求めることが大切です。

        また、私たちはこれらの問いに対して、常に探求し続けることが重要であり、新しい発見や知見が得られることで、より深い理解や洞察を得ることができるでしょう。

        • by Anonymous Coward

          元AC(#4435950)です。

          わざわざ、GPT-3.5へお問い合わせいただき、ありがとうございました。

          # Wikipediaを取り込んでいるはずなのにGPT-3.5にはggrksと言いたいが、他の兄弟(GPT-4やGoogleのBard)に期待。GPT-4ならどうこたえるのか楽しみです。でも以下の点は、おっしゃる通りです。

          >また、私たちはこれらの問いに対して、常に探求し続けることが重要であり、新しい発見や知見が得られることで、より深い理解や洞察を得ることができるでしょう。

          # でも、この『私たち』とは?人間を含む包括形(inclusive)or 含まない除外形(exclusive)。

      • by Anonymous Coward

        「世界一の金持ちは?」とか「イーロン・マスクについて教えて」とか「テスラ社について教えて」とかもありそうよね。
        「鏡よ鏡、世界で一番金持ちなのはだれ?」てな感。

    • by Anonymous Coward

      ウォズはピュアなアホだから適当言ってるだけだと思う
      マスクはレスバでGPTに勝てないから脅威に思ってんじゃないの
      あいつネットへたくそなんだよな

      • by Anonymous Coward

        アナタニモ すば洞 アゲタイ

        #現在ではあれ [meiji.co.jp]のテレビCMを知らない人も多いのだろうか

  • by Anonymous Coward on 2023年03月31日 13時48分 (#4435910)

    守るのに必死杉なの?

    • by Anonymous Coward

      逆。
      AIに注力してなかった企業(人)がそう言ってる。他者に先行されてるからこそ危機感がある。

      • by Anonymous Coward

        いや、「すらどを見てるお前ら」が省略されてるんでは?

  • by Anonymous Coward on 2023年03月31日 14時27分 (#4435942)

    イーロン・マスクがコメントするとわかりやすくていい。
    開発を加速すればいいんだな。

  • by Anonymous Coward on 2023年03月31日 14時57分 (#4435962)

    https://srad.jp/comment/4433832 [srad.jp]

    ChatGPTがそんなに良い物とは思えない。
    Google Bardの方がまだマシでは?
    個人的にはまだ名前のないAppleのAIが最高だと思ってる。

    まさか創業者サマに逆らうような真似はしないよね

  • by Anonymous Coward on 2023年03月31日 14時58分 (#4435963)

    開発競争に遅れてる組が、進んでる組の足を引っ張ろうとしているようにしか見えない。

  • by Anonymous Coward on 2023年03月31日 16時43分 (#4436070)

    仕事が奪われる人が大量に出て失業率の上昇と社会不安の悪化とか?

    (これもだいぶ抽象的だけど)

    • by Anonymous Coward

      出生率がさらに下がる。なぜならば高品質・低価格な乙女乙男支援ソリューションができて...

  • by Anonymous Coward on 2023年03月31日 19時15分 (#4436210)

    現状でも下手なコンサルより役に立つ

  • by Anonymous Coward on 2023年04月01日 11時44分 (#4436521)

    規制してほしいなんて全く思ってなくて
    GPTはすごいんだAIはすごいんだという宣伝のためにやってると思ってる

  • by Anonymous Coward on 2023年04月01日 12時00分 (#4436527)

    ハルシネーションを起こすAIをその段階で放置するほうが有害だと思うが

    • by Anonymous Coward

      逆に間違わないAIを作るのは凄まじく困難でわ
      何もしなければ間違いようが無いが

typodupeerror

私は悩みをリストアップし始めたが、そのあまりの長さにいやけがさし、何も考えないことにした。-- Robert C. Pike

読み込み中...