パスワードを忘れた? アカウント作成
16636784 story
人工知能

人工知能技術への対策を求め多数の著名学者らが書簡を公表 44

ストーリー by nagazou
どんな内容の危機を想定しているのだろう 部門より
あるAnonymous Coward 曰く、

朝日新聞の記事によると、米非営利団体「センター・フォー・AIセーフティー」が、最新の人工知能(AI)技術が「人類絶滅のリスク」につながる可能性があるとして対策を求める書簡を公表したそうだ。

書簡では、AI技術が疫病や核戦争と並ぶリスクがあるもので対策するべきであるとして、多数の著名学者やChatGPT開発元のOpenAI社CEO等が署名したそうだ。

タレコミにあるようにCenter for AI Safety(CAIS)は5月30日、声明を発表した(CAISの声明)。声明にはOpenAIのサム・アルトマン最高経営責任者(CEO)や、AIの「ゴッドファーザー」と呼ばれるジェフリー・ヒントン氏、Google傘下のAI企業幹部や研究者など350人以上が署名している(CNNロイター)。

声明の内容は

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

AIによる人類滅亡のリスク軽減は、パンデミックや核戦争といった他の社会的規模のリスクと並ぶ世界的な優先課題であるべきだ。

という一文だけの内容となっている。しかしそれには理由があるという。この問題は重要かつ緊急的なリスクではあるものの、懸念を表明することが難しい部分も多い。このため今回の簡潔な声明文は、とにかく議論を開始することを目的としているのだという(JBpress)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 理由もわからず危険視してくる連中に「ちゃんと考えてる。角度とか」といってるだけに見える。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
  • 核関連と違って、物理的な施設はあまり必要ないし、分散できちゃう。
    機材も汎用のパソコン等と大差ないから、そっち方面での監視や規制はできない。
    研究を禁止する、あるいは使い方に制限をかける条約を作っても、実効性は見込めない。

    現実的にコントロールする方法がない以上、悲観的に騒ぐよりは、なるようになるって思ってるしかないんじゃない?

    • by Anonymous Coward on 2023年06月05日 14時54分 (#4472095)

      AIの進化を食い止めるとかとはちょっと違うと思う。
      AIに急な進歩に対し社会の認識が追い付かず対応が後手に回っている状況に対して、
      集中審議して社会の認識のアップデートや、どのようにAIを制御し社会システムをどういう方向に変えていくかを意思決定する必要があるのだと思う。

      AI製の画像の是非が見極められないうちに、その活用があらゆる方向に拡大しているが、
      例えばそれは優れたフェイクニュースのような問題を引き起こし、戦争の引き金にもなりうる。
      社会はそのようにして精巧な画像・映像が展開されうることを認識し、精巧さは真実性を全く保証しないことが確実に認知されなければならない。
      その対応が不足していると、暴動や混乱のような事態を引き起こしてしまう。

      親コメント
    • by Anonymous Coward

      ちゃんとしたAIを作ろうとするとかなりのお金がかかるってわかってきたからね。
      お金の流れをコントロールすれば規制できる。

    • by Anonymous Coward

      お絵描きAIぐらいなら個人所有のGPUぐらいでもいけてるけど、GPT-4並みのAIを開発しようと思ったらスパコンランキングに載るぐらいの機材が必要では。

      • by Anonymous Coward

        現在、どんどん省メモリ化とか学習の高速化とかが進んでいて、GPT3.5レベルなら、個人で買うのはためらわれるレベルのパソコンで一から学習出来そう。スパコンまではいらないやも

        自然に会話させるのが目的なら、学習済のものをダウンロードしてファインチューニングする方が良いだろうし、そうなるともっとハードルは下がる。電気代かクラウド代だかはそれなりに必要だろうけど、個人でも可能ではないかな

        企業や団体なら、個人よりもやり易かろう

        シxxプが二言目にはプラズマクラスタとか言ってくる物を作ることも可能だし

        そうよな、困ったBotとかは出てくるだろうな…

        善を為すBotとか誰か作ってくれ

  • by Anonymous Coward on 2023年06月05日 14時11分 (#4472038)

    映画ターミネーターとかブレードランナーに出てくるような人類の敵となることを懸念してる感じ?
    鉄腕アトムやドラえもんを見て育った日本人の考えるAIのイメージと随分違ってそう

    • by Anonymous Coward

      そうなる前段階だと思う
      仕事を奪われ、知識や想像を求めることを人類がやらなくなり文明が停滞・崩壊とか
      AIに頼りすぎてAIに「生かされる」存在になるとか

      • by Anonymous Coward

        AIが生かしてくれるんなら大変結構やけどな
        想像性を発揮しなきゃ死んじゃうようなクリエイター気質の人はAI使って、あるいは協力して何かやるだろうし
        そうでもない俺みたいな人はのほほんと生きるだろう

    • by Anonymous Coward

      ターミネーターのスカイネットは典型として、その次にヤバイのはドラえもんだと思うが
      てかやってる事はほぼ同じ・・・カワイイのガワ被ってるだけで

      ブレードランナーはそもそもAI関係無い
      レプリカントは高性能な人造人間
      まあ人造で高い知性は持ってるけど
      奴隷といか消耗品扱いされたそれが限られた寿命でテロ起こすって話

      • by Anonymous Coward

        ドラえもんは栗まんじゅうを無限に増やして、手に終えなくなっなら宇宙に打ち上げるとか、やることがターミネーターの比でなくヤバいだろう論

      • by Anonymous Coward

        ドラえもんの怖さって何の脈絡もなく野比家や街に馴染んでるところだと思う。

    • by Anonymous Coward

      AI叛乱物の話をする気なら、まずは「未来の二つの顔」くらいは読め。

      基礎知識だろう。

  • by Anonymous Coward on 2023年06月05日 14時28分 (#4472055)

    大人しく人類は滅ぶべきだニャ!

    • by Anonymous Coward

      人類が滅んだら猫カスの天下も終わるのでは?

      • by Anonymous Coward

        AIが新しい下僕になるのだろう、何も問題ない

  • by Anonymous Coward on 2023年06月05日 14時40分 (#4472077)

    Amazonが近所の本屋や商店を潰した時、みんな「いいぞいいぞ、時代についてこれない無能は氏ね」と手を叩いて喜んでたのに。
    Appleが色んな家電を陳腐化させた時も「いいぞいいぞ、Apple様に逆らう奴はみんな市ね」って笑ってたのに。
    AIは違うん?
    たとえ将来、AIが主導で人間を選別しコロコロする日が来るとしても、うまくAIに阿って生き残る有能も多いだろうに。

    • by Anonymous Coward on 2023年06月05日 15時01分 (#4472102)

      AIの普及について手を叩いて喜んでる人もいるし
      本屋でもなんでも反対意見言ってる人もいるやん
      こんな感じの提言だっていくらでもあった

      でもそれは考え方や立場が違う人たちなんだから当然でしょ
      それが全部同じ人に見えるんならちょっと目医者言ったほうがいいで

      親コメント
    • by Anonymous Coward

      重大な事実に気がついた。
      Amazon, Apple, そしてAI。
      すべてAからはじまっている!!!

    • by Anonymous Coward

      AmazonやAppleに疫病や核戦争と並ぶリスクがあるとは思えないしね

      • by Anonymous Coward

        チカラを持ち過ぎた私企業が世界を支配するディストピアってのは、AIによる人類滅亡と同様にSFの定番ネタですよHAHAHA

    • by Anonymous Coward

      Appleは滅びるべきだけど「AIは制御ができないかもしれない」という点がこれまでとは異なるのですよ
      最悪、Appleは国家が潰す事が出来ますが暴走したAIは国家権力でも対応できないかもしれないのです
      「人間が想像できる事はいずれ実現する」とはよく言われますが、悪い方向の発現もあり得るので懸念されているのです

      であるにしてもAppleは滅びるべきであると考える次第である

      • by Anonymous Coward

        > Appleは滅びるべき
         
        Win9xのころはホントに滅びたと思ってたんですがね (´・ω・`)
        根元から絶たなきゃダメ!

        • by Anonymous Coward

          iMacが出たのが1998ですが

        • by Anonymous Coward

          むしろ滅んだら独占になっちゃうからマイクロソフトがたすけたんじゃなかったっけ

  • by Anonymous Coward on 2023年06月05日 15時01分 (#4472103)

    まず時計を作ろう。シンギュラリティ時計。その針を進めたり戻したりしていてください。

  • by Anonymous Coward on 2023年06月05日 15時15分 (#4472119)

    重要で緊急のリスクだそうだが、何がどうなるのか言ってくれない
    新手の前衛芸術を見せられてるのでしょうか

    • その内日本学術会議様が具体的な声明を出してくれると思う、多分。

      親コメント
    • by Anonymous Coward

      具体的に書くと実行する奴がいるから書けないんだよ。伏せたところで再発明した奴が実行するに決まっているがね。
      能無しは死ねばいいのにという俺様の願いはもうすぐ叶うのさ。

      • by Anonymous Coward

        能無しであるお前は何でまだ生きてるの?

        • by Anonymous Coward

          核戦争が始まるのを楽しみにしているので、それを見てからラクに死ぬよ
          お前らは苦しんで死ぬがいい

          • by Anonymous Coward

            立派なフラグ立てやがったw こんなこと言うヤツに限って、半端に生き残って、放射線障害で苦しんで死ぬのだ! 地獄まで道連れよww

  • by Anonymous Coward on 2023年06月05日 16時08分 (#4472172)

    軍用AIはすでに味方の人間を殺すとこまで来ている。
    https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ [gigazine.net]

    • by Anonymous Coward

      どっちかというと「すでに」じゃなくて「まだ」って感じっすね。

    • by Anonymous Coward
      SAM基地の破壊なんていう速物的で暴力的な命令をAIに与えるからいけない
      戦争根絶とか恒久平和とかそいう穏健で平和的な命令こそAIにはふさわしい
    • by Anonymous Coward

      まあそんなシミュレーションやってないんですけどね。
      https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-official... [defensenews.com]
      Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing took place, adding that the service member’s comments were likely “taken out of context and were

      • by Anonymous Coward

        以下のようにも書いてある
        炎上したので無かったことにしたいのか(陰謀論
        まあ、現在のLLMとかLLMを内蔵した何かに「考え」させたら、こんな結果も出て来そうではある
        こんな短編SFあったなあ

        In the original post, the Royal Aeronautical Society said Hamilton described a simulation in which a drone fueled by AI was given a mission to find and destroy enemy air defenses. A human was supposed to give the drone its final authorization to strike or not, Hamilton reportedly said.

        But the drone algorithms were told that destroying

    • by Anonymous Coward

      AIっておバカだよね~

      AIの脅威ってAIが出来ることの範疇を超える仕事を任せちゃう点にあると思う。
      テスラの人身事故とかもそういうことでしょ?

      • by Anonymous Coward

        では、おバカなのは人間なのでは…

      • by Anonymous Coward

        ではAIよりおバカな兵士はいないのかというとゴロゴロいそう。

  • by Anonymous Coward on 2023年06月06日 1時09分 (#4472429)

    電器屋の店頭に置かれたPC-8001で自作BASICプログラムのゲームもどきを打ち込んで喜んでいた老人としては、自分が現役の間にここまでITが進化するとは思っていなかった。

    生成AIの登場は驚異であり、ぼんやりとした脅威を感じないこともない。

    死ぬまであと四半世紀あるとして、どこまで進むんだろう。

typodupeerror

※ただしPHPを除く -- あるAdmin

読み込み中...