人工知能技術への対策を求め多数の著名学者らが書簡を公表 44
ストーリー by nagazou
どんな内容の危機を想定しているのだろう 部門より
どんな内容の危機を想定しているのだろう 部門より
あるAnonymous Coward 曰く、
朝日新聞の記事によると、米非営利団体「センター・フォー・AIセーフティー」が、最新の人工知能(AI)技術が「人類絶滅のリスク」につながる可能性があるとして対策を求める書簡を公表したそうだ。
書簡では、AI技術が疫病や核戦争と並ぶリスクがあるもので対策するべきであるとして、多数の著名学者やChatGPT開発元のOpenAI社CEO等が署名したそうだ。
タレコミにあるようにCenter for AI Safety（CAIS）は5月30日、声明を発表した（CAISの声明）。声明にはOpenAIのサム・アルトマン最高経営責任者（CEO）や、AIの「ゴッドファーザー」と呼ばれるジェフリー・ヒントン氏、Google傘下のAI企業幹部や研究者など350人以上が署名している（CNN、ロイター）。
声明の内容は
Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
AIによる人類滅亡のリスク軽減は、パンデミックや核戦争といった他の社会的規模のリスクと並ぶ世界的な優先課題であるべきだ。
という一文だけの内容となっている。しかしそれには理由があるという。この問題は重要かつ緊急的なリスクではあるものの、懸念を表明することが難しい部分も多い。このため今回の簡潔な声明文は、とにかく議論を開始することを目的としているのだという（JBpress）。
中身がないのは宗教家へのアピールだからじゃね？ (スコア:2)
理由もわからず危険視してくる連中に「ちゃんと考えてる。角度とか」といってるだけに見える。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
どうにかなる話なのかな (スコア:1)
核関連と違って、物理的な施設はあまり必要ないし、分散できちゃう。
機材も汎用のパソコン等と大差ないから、そっち方面での監視や規制はできない。
研究を禁止する、あるいは使い方に制限をかける条約を作っても、実効性は見込めない。
現実的にコントロールする方法がない以上、悲観的に騒ぐよりは、なるようになるって思ってるしかないんじゃない？
Re:どうにかなる話なのかな (スコア:1)
AIの進化を食い止めるとかとはちょっと違うと思う。
AIに急な進歩に対し社会の認識が追い付かず対応が後手に回っている状況に対して、
集中審議して社会の認識のアップデートや、どのようにAIを制御し社会システムをどういう方向に変えていくかを意思決定する必要があるのだと思う。
AI製の画像の是非が見極められないうちに、その活用があらゆる方向に拡大しているが、
例えばそれは優れたフェイクニュースのような問題を引き起こし、戦争の引き金にもなりうる。
社会はそのようにして精巧な画像・映像が展開されうることを認識し、精巧さは真実性を全く保証しないことが確実に認知されなければならない。
その対応が不足していると、暴動や混乱のような事態を引き起こしてしまう。
Re: (スコア:0)
ちゃんとしたAIを作ろうとするとかなりのお金がかかるってわかってきたからね。
お金の流れをコントロールすれば規制できる。
Re: (スコア:0)
お絵描きAIぐらいなら個人所有のGPUぐらいでもいけてるけど、GPT-4並みのAIを開発しようと思ったらスパコンランキングに載るぐらいの機材が必要では。
Re: (スコア:0)
現在、どんどん省メモリ化とか学習の高速化とかが進んでいて、GPT3.5レベルなら、個人で買うのはためらわれるレベルのパソコンで一から学習出来そう。スパコンまではいらないやも
自然に会話させるのが目的なら、学習済のものをダウンロードしてファインチューニングする方が良いだろうし、そうなるともっとハードルは下がる。電気代かクラウド代だかはそれなりに必要だろうけど、個人でも可能ではないかな
企業や団体なら、個人よりもやり易かろう
シxxプが二言目にはプラズマクラスタとか言ってくる物を作ることも可能だし
そうよな、困ったBotとかは出てくるだろうな…
善を為すBotとか誰か作ってくれ
メリケンの考えるAIって (スコア:0)
映画ターミネーターとかブレードランナーに出てくるような人類の敵となることを懸念してる感じ？
鉄腕アトムやドラえもんを見て育った日本人の考えるAIのイメージと随分違ってそう
Re: (スコア:0)
そうなる前段階だと思う
仕事を奪われ、知識や想像を求めることを人類がやらなくなり文明が停滞・崩壊とか
AIに頼りすぎてAIに「生かされる」存在になるとか
Re: (スコア:0)
AIが生かしてくれるんなら大変結構やけどな
想像性を発揮しなきゃ死んじゃうようなクリエイター気質の人はAI使って、あるいは協力して何かやるだろうし
そうでもない俺みたいな人はのほほんと生きるだろう
Re: (スコア:0)
ターミネーターのスカイネットは典型として、その次にヤバイのはドラえもんだと思うが
てかやってる事はほぼ同じ・・・カワイイのガワ被ってるだけで
ブレードランナーはそもそもAI関係無い
レプリカントは高性能な人造人間
まあ人造で高い知性は持ってるけど
奴隷といか消耗品扱いされたそれが限られた寿命でテロ起こすって話
Re: (スコア:0)
ドラえもんは栗まんじゅうを無限に増やして、手に終えなくなっなら宇宙に打ち上げるとか、やることがターミネーターの比でなくヤバいだろう論
Re: (スコア:0)
ドラえもんの怖さって何の脈絡もなく野比家や街に馴染んでるところだと思う。
Re: (スコア:0)
AI叛乱物の話をする気なら、まずは「未来の二つの顔」くらいは読め。
基礎知識だろう。
なにか問題なのか？ (スコア:0)
大人しく人類は滅ぶべきだニャ！
Re: (スコア:0)
人類が滅んだら猫カスの天下も終わるのでは？
Re: (スコア:0)
AIが新しい下僕になるのだろう、何も問題ない
「いいぞいいぞ、無能は氏ね」じゃイカンのか？ (スコア:0)
Amazonが近所の本屋や商店を潰した時、みんな「いいぞいいぞ、時代についてこれない無能は氏ね」と手を叩いて喜んでたのに。
Appleが色んな家電を陳腐化させた時も「いいぞいいぞ、Apple様に逆らう奴はみんな市ね」って笑ってたのに。
AIは違うん？
たとえ将来、AIが主導で人間を選別しコロコロする日が来るとしても、うまくAIに阿って生き残る有能も多いだろうに。
Re:「いいぞいいぞ、無能は氏ね」じゃイカンのか？ (スコア:1)
AIの普及について手を叩いて喜んでる人もいるし
本屋でもなんでも反対意見言ってる人もいるやん
こんな感じの提言だっていくらでもあった
でもそれは考え方や立場が違う人たちなんだから当然でしょ
それが全部同じ人に見えるんならちょっと目医者言ったほうがいいで
Re: (スコア:0)
重大な事実に気がついた。
Amazon, Apple, そしてAI。
すべてAからはじまっている！！！
Re:「いいぞいいぞ、無能は氏ね」じゃイカンのか？ (スコア:1)
Alphabet [abc.xyz]「せやな」
Zホールディングス [z-holdings.co.jp]「ぐぬぬ」
-- う～ん、バッドノウハウ？
Re: (スコア:0)
AmazonやAppleに疫病や核戦争と並ぶリスクがあるとは思えないしね
Re: (スコア:0)
チカラを持ち過ぎた私企業が世界を支配するディストピアってのは、AIによる人類滅亡と同様にSFの定番ネタですよHAHAHA
Re: (スコア:0)
Appleは滅びるべきだけど「AIは制御ができないかもしれない」という点がこれまでとは異なるのですよ
最悪、Appleは国家が潰す事が出来ますが暴走したAIは国家権力でも対応できないかもしれないのです
「人間が想像できる事はいずれ実現する」とはよく言われますが、悪い方向の発現もあり得るので懸念されているのです
であるにしてもAppleは滅びるべきであると考える次第である
Re: (スコア:0)
> Appleは滅びるべき
Win9xのころはホントに滅びたと思ってたんですがね (´・ω・｀)
根元から絶たなきゃダメ！
Re: (スコア:0)
iMacが出たのが1998ですが
Re: (スコア:0)
むしろ滅んだら独占になっちゃうからマイクロソフトがたすけたんじゃなかったっけ
では (スコア:0)
まず時計を作ろう。シンギュラリティ時計。その針を進めたり戻したりしていてください。
抽象的でさっぱり分からん (スコア:0)
重要で緊急のリスクだそうだが、何がどうなるのか言ってくれない
新手の前衛芸術を見せられてるのでしょうか
Re:抽象的でさっぱり分からん (スコア:1)
その内日本学術会議様が具体的な声明を出してくれると思う、多分。
Re: (スコア:0)
具体的に書くと実行する奴がいるから書けないんだよ。伏せたところで再発明した奴が実行するに決まっているがね。
能無しは死ねばいいのにという俺様の願いはもうすぐ叶うのさ。
Re: (スコア:0)
能無しであるお前は何でまだ生きてるの？
Re: (スコア:0)
核戦争が始まるのを楽しみにしているので、それを見てからラクに死ぬよ
お前らは苦しんで死ぬがいい
Re: (スコア:0)
立派なフラグ立てやがったｗ こんなこと言うヤツに限って、半端に生き残って、放射線障害で苦しんで死ぬのだ! 地獄まで道連れよｗｗ
軍用AI (スコア:0)
軍用AIはすでに味方の人間を殺すとこまで来ている。
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ [gigazine.net]
Re: (スコア:0)
どっちかというと「すでに」じゃなくて「まだ」って感じっすね。
Re: (スコア:0)
戦争根絶とか恒久平和とかそいう穏健で平和的な命令こそAIにはふさわしい
Re: (スコア:0)
まあそんなシミュレーションやってないんですけどね。
https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-official... [defensenews.com]
Air Force spokesperson Ann Stefanek said in a June 2 statement no such testing took place, adding that the service member’s comments were likely “taken out of context and were
Re: (スコア:0)
以下のようにも書いてある
炎上したので無かったことにしたいのか（陰謀論
まあ、現在のLLMとかLLMを内蔵した何かに「考え」させたら、こんな結果も出て来そうではある
こんな短編SFあったなあ
In the original post, the Royal Aeronautical Society said Hamilton described a simulation in which a drone fueled by AI was given a mission to find and destroy enemy air defenses. A human was supposed to give the drone its final authorization to strike or not, Hamilton reportedly said.
But the drone algorithms were told that destroying
Re: (スコア:0)
AIっておバカだよね～
AIの脅威ってAIが出来ることの範疇を超える仕事を任せちゃう点にあると思う。
テスラの人身事故とかもそういうことでしょ？
Re: (スコア:0)
では、おバカなのは人間なのでは…
Re: (スコア:0)
ではAIよりおバカな兵士はいないのかというとゴロゴロいそう。
元ナイコン族 (スコア:0)
電器屋の店頭に置かれたPC-8001で自作BASICプログラムのゲームもどきを打ち込んで喜んでいた老人としては、自分が現役の間にここまでITが進化するとは思っていなかった。
生成AIの登場は驚異であり、ぼんやりとした脅威を感じないこともない。
死ぬまであと四半世紀あるとして、どこまで進むんだろう。