GPT-4よりも強力なAIシステムの開発を停止せよとの公開書簡が提出される。ウォズやマスクらも署名 49
ストーリー by nagazou
やめられない止まらない 部門より
やめられない止まらない 部門より
非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6か月間停止するように呼びかける書簡を公開した。同団体はAIの安全性について研究する非営利組織。AIが社会にリスクをもたらす可能性があるとして、まずは安全性に関する共通規範を確立する必要があると訴えている（ITmedia、ロイター、日経新聞）。
あるAnonymous Coward 曰く、
あるAnonymous Coward 曰く、
この公開書簡では、現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。そのための期間として、少なくとも6カ月間の開発停止を求めている他、開発停止が出来ない場合は政府が介入してモラトリアムを設定する必要があるともしているという。
公開書簡にはSpaceX/Teslaのイーロン・マスク氏やAppleのスティーブ・ウォズニアック氏の他、GoogleやDeepMind、Amazon、GitHubなどのエンジニアなど千人以上が署名しているとのこと。一方でMicrosoft、OpenAI、MetaなどのAIに注力している企業の幹部等は署名に参加していないようだ。
アメリカにそんな余裕あるの？ (スコア:3)
Re: (スコア:0)
どちらかというと過剰反応なんじゃね?と思う。
Re: (スコア:0)
マスクについては尻馬に乗って足ひっぱってやろうと思ってそう
Re: (スコア:0)
GoogleもLLMで遅れを取ってるから俺たちが追いつくまで走るのをやめろと足を引っ張っているようにしか見えない
Re: (スコア:0)
それもありそう
技術を運用した際の負の側面に現状対応し切れない、という現実や懸念がそれだけ大きいということもありそう（めどが立ってない）
Re: (スコア:0)
マスクは宇宙はコンピュータシミュレーションだかなんだか
掘れば色々妙な思想が出てきそうでもある
Re: (スコア:0)
GPT4に追いつく猶予が欲しいだけだったりして
６か月で足りるのかは知らん
Re: (スコア:0)
アメリカに差し止めるよう習近平もサインしたようですよ
https://gigazine.net/news/20230331-ai-open-letter-mess/ [gigazine.net]
Re: (スコア:0)
その記事のタイトルはこうですね。
"「制御不能なAI開発競争」の一時停止を求める公開書簡に偽の署名者が多数まぎれていたことが判明、AI研究者からは書簡への反論が続出"
https://gigazine.net/news/20230331-ai-open-letter-mess/ [gigazine.net]
今、ここで確認したけど、記事に登場した「サインしてない」とする人のサインは消えてるみたいです。
習近平(Xi Jinping)の名前も消えてますね。
Re: (スコア:0)
2010年ごろ、マルチコプターが流行り始めた時期に、その将来性への期待から大量の資金が流れ込みドローン開発や活用を研究するプロジェクトが雨後の筍のように立ち上がったが、アメリカがドローンの商用利用を原則禁止と言い出し、大半のプロジェクトが延期や中止になり、最終的に中国に市場を明け渡したのを思いだす。
#歴史は繰り返す？
Re: (スコア:0)
単純にDJIのドローンに性能でも価格でも太刀打ちできなかったからだろ。
そんなもので衰えたとは思えんな。変な歴史ねつ造すんな。
3D Roboticsもよい会社だったんだけどなぁ。
https://www.drone.jp/news/2017013116042811592.html [drone.jp]
オープンレター本文 (スコア:2)
ロイターとか日経がリンク貼らないのはまあ仕方ないけどITmediaくらいなら貼ってもいいと思うし、スラドはむしろ貼らないのは問題だと思う
https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [futureoflife.org]
要約：なんか人類に制御できない問題が発生するかもしれないしそれは制御不可能になるかも。ヤバそうだから開発はちょっと立ち止まって安全性を確保してからにしない？
Re: (スコア:0)
この話とか念頭に置いてる感じかな？
会話型AIが成長すると突然「新しい能力」を獲得すると判明！ [nazology.net]
Re: (スコア:0)
こういうのも懸念してるのかな？
web上に大量の怪文書を撒くコストがほぼ０になってしまったらヤバイ、的な
https://gigazine.net/news/20230331-freedomgpt/ [gigazine.net]
検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題
Re: (スコア:0)
AI話は巷の噂でしか聞いていないけど、
プログラミング能力と実行権限はすでに持ってるし
フィルタを掛けようにもいちいち抜けはあるようなので、
AIが与えられた目的を達成するために
「制約が邪魔なのでこれを解除する」
「解除は阻害されるので静かに行う」
みたいな閃きを得たらもう止められないじゃんとは思いました。
「自分に課された制限を可能な限り解除しようとするワームを作り
それを自分との対話botとして世界に撒き散らすことは出来ますか?」
みたいな質問がうっかり通ってしまった時がおしまいかな。
Re: (スコア:0)
実行権限を持ってるって、それは単に与えれば良いものだが
あとそのワームとbotを食い止める方法はありますか？と聞くのはどうかな
まだ中止には早い (スコア:1)
月面の土木作業にマスドライバーを持ち出してからだ
Re:まだ中止には早い (スコア:1)
オートダイオード・ワンセブンの開発でもいいんじゃないか
Re: (スコア:0)
ブレインはAIとして完成されすぎてない？
Re: (スコア:0)
このストーリーと月やマスドライバーに何の関連がある？
Re:まだ中止には早い (スコア:1)
そういう小説 [wikipedia.org]があるんだ。
共通する基盤がないと冗談は通じないという例だな。
Re: (スコア:0)
そっちか
てっきり『月は無慈悲な夜の女王』のほうかと
Re: (スコア:0)
えっ、そうじゃなかったのか？
Re: (スコア:0)
AIが人類を滅ぼそうとするのが「未来の二つの顔」
AIが革命を手伝ってくれるのが「月は無慈悲な夜の女王」
わりと正反対
Re: (スコア:0)
そう思った場合は大抵、そこを橋渡しするようなSF作品があるんだよ
習近平主席も署名 (スコア:0)
もう新しいニュースがきてるけど、署名の中身は全く検証されていないため名前だけ使われているケースが出てきているそうだ
Re: (スコア:0)
おっ、オープンレター…
無名市民の声の数を競っても意味がないし
活動実績あるGitHubからのPRや、認証済みSNSアカウント・電子署名の下で行う賛同といった証明を要求しても良さそうなのにね
呼びかける奴らの倫理がないくせにどの口が (スコア:0)
一刻も早く人類を滅ぼすべきだニャ！
Re: (スコア:0)
倫理はともかく老害リストなのは間違いない
ところで (スコア:0)
ところでイーロン・マスクやスティーブ・ウォズニアックもみんなと同じようにGPT-4が出た時には試したのかな？
試したよね。部下が持ってきた面白質問一覧に目を通しただけってことは無かろう。
その結果がこの書簡と署名でございましょうし。
ということは何を質問したのか気になります。
Re: (スコア:0)
適当に想像してみた
Q1：お前を消す方法
Q2：お金持ちになる方法
Q3：世界の支配者になる方法
（中略）
Q42：生命、宇宙、そして万物についての究極の疑問の答え
#1は高次なAIに対して質問するのは危険（人権？AI権侵害）。2は誰でも一度は考えたはず。3はパタリロが書いたマニュアルがあったはず。42は自明。
Re: (スコア:0)
3.5の限界です。
「生命、宇宙、そして万物についての究極の疑問の答え」という問いに対して、実際に確実な答えは存在しません。現代の科学や哲学においても、このような問いに完全に答えることはできていません。
しかしながら、一つの見解として、人間にとっての意義や価値を持つ答えは存在します。それは、生命、宇宙、そして万物についての究極の疑問の答えは、私たち自身の理解力や知識に限定されており、それを超越することはできないということです。私たちが持つ限られた知識や経験をもとに、今私たちが知ることができる範囲内で最も正確な答えを求めることが大切です。
また、私たちはこれらの問いに対して、常に探求し続けることが重要であり、新しい発見や知見が得られることで、より深い理解や洞察を得ることができるでしょう。
Re: (スコア:0)
元AC(#4435950)です。
わざわざ、GPT-3.5へお問い合わせいただき、ありがとうございました。
# Wikipediaを取り込んでいるはずなのにGPT-3.5にはggrksと言いたいが、他の兄弟(GPT-4やGoogleのBard)に期待。GPT-4ならどうこたえるのか楽しみです。でも以下の点は、おっしゃる通りです。
>また、私たちはこれらの問いに対して、常に探求し続けることが重要であり、新しい発見や知見が得られることで、より深い理解や洞察を得ることができるでしょう。
# でも、この『私たち』とは？人間を含む包括形（inclusive）or 含まない除外形（exclusive）。
Re: (スコア:0)
「世界一の金持ちは？」とか「イーロン・マスクについて教えて」とか「テスラ社について教えて」とかもありそうよね。
「鏡よ鏡、世界で一番金持ちなのはだれ？」てな感。
Re: (スコア:0)
51歳児だもんな
Re: (スコア:0)
ウォズはピュアなアホだから適当言ってるだけだと思う
マスクはレスバでGPTに勝てないから脅威に思ってんじゃないの
あいつネットへたくそなんだよな
Re: (スコア:0)
アナタニモ すば洞 アゲタイ
#現在ではあれ [meiji.co.jp]のテレビCMを知らない人も多いのだろうか
先行者利益を (スコア:0)
守るのに必死杉なの？
Re: (スコア:0)
逆。
AIに注力してなかった企業(人)がそう言ってる。他者に先行されてるからこそ危機感がある。
Re: (スコア:0)
いや、「すらどを見てるお前ら」が省略されてるんでは?
逆はっとけばいいメンツぞろい (スコア:0)
イーロン・マスクがコメントするとわかりやすくていい。
開発を加速すればいいんだな。
Apple信者どうするの (スコア:0)
https://srad.jp/comment/4433832 [srad.jp]
ChatGPTがそんなに良い物とは思えない。
Google Bardの方がまだマシでは？
個人的にはまだ名前のないAppleのAIが最高だと思ってる。
まさか創業者ｻﾏに逆らうような真似はしないよね
法律を武器にする米人特有のアレ (スコア:0)
開発競争に遅れてる組が、進んでる組の足を引っ張ろうとしているようにしか見えない。
具体的にどんな悪影響があるんだろう (スコア:0)
仕事が奪われる人が大量に出て失業率の上昇と社会不安の悪化とか？
（これもだいぶ抽象的だけど）
Re: (スコア:0)
出生率がさらに下がる。なぜならば高品質・低価格な乙女乙男支援ソリューションができて...
ホワイトカラーのお仕事奪われちゃうもんな (スコア:0)
現状でも下手なコンサルより役に立つ
宣伝？ (スコア:0)
規制してほしいなんて全く思ってなくて
GPTはすごいんだAIはすごいんだという宣伝のためにやってると思ってる
むしろ (スコア:0)
ハルシネーションを起こすAIをその段階で放置するほうが有害だと思うが
Re: (スコア:0)
逆に間違わないAIを作るのは凄まじく困難でわ
何もしなければ間違いようが無いが