米IT界の著名人らがAI研究組織「OpenAI」を創設 16
ストーリー by hylom
AIにツバを付けておく作戦か 部門より
AIにツバを付けておく作戦か 部門より
あるAnonymous Coward 曰く、
人工知能やロボットの開発が活発に行われている中で、アメリカを代表する起業家や投資家たちが集まり、AIをオープンソース化する非営利の研究機関「OpenAI」を設立した。設立メンバーには、PayPalやTesla Motors、SpaceXなどの創業者であるElon Musk氏、Y Combinatorの社長であるSam Altman氏、PayPalの共同創業者であるPeter Thiel氏などIT業界の著名人らが含まれている（GIGAZINE、ZDNet Japan、THE VERGE、Slashdot）。
OpenAIは、進化して人間レベルの能力を持ったAIが、自己利益よりも人類に貢献できるかどうかを判断できるようにするための研究機関だという。開発したAIで特定の企業や政府だけが恩恵を得るのではなく、世界中の人々がAIの恩恵を受けられるようにするとしている。
オープンソースにしたところで (スコア:2)
人工知能の危険性を薄めるのは困難だと思うけどね。
たとえソースが読めても人工知能が何を学習したのかを知るのは困難だから。
Re: (スコア:0)
まあでも、知らない頭いいやつに覇権握られるよりは、自分とこで機器の電源や育成の経緯を押さえてるAIがあった方がいいということじゃないの。
Re: (スコア:0)
まったくもって。
むしろ逆に、深く考えずにこのAIをベースに「やらかして」しまう可能性もある。
強いAIや目的外の目的を獲得したAIによる反乱を避けたいなら、
AIの技術を技術のないやつに提供するべきではない、
というかそもそもAIの研究自体を行うべきではない。
そういう規制方向だと技術が発展しないし個々の開発による不可視のリスクも生じるが、
オプソを何も考えずに弄って計算資源与えるバカが発生するリスクよりは低いだろう。
そんなAIを生み出すほどのシステムや計算資源は当分実用にならない筈だから、
計算資源が限られている今のうちに問題を洗い出そうって話なら分かるんだ
こういう会話を何度もするのですね（走召糸色木亥火暴） (スコア:1)
ジョン「なんてこった…人を殺すところだったじゃないか！」
JOHN Jesus... you were gonna kill that guy!
シュワちゃん「勿論。俺はターミネーターだ。」
TERMINATOR Of course. I'm a terminator.
ジョン「よく聞いてくれ、OK?
いいか、君はもうターミネーターなんかじゃないんだ、
分かった？
人間たちをところかまわず殺し回る事は出来んだよ！」
JOHN Listen to me, very carefully, okay?
You're not a terminator any more. Alright?
You got that?
You can't just go around killing people!
シュワちゃん「なぜ？」
TERMINATOR Why?
ジョン「なんだよ、なぜって？ だから出来ないんだ！」
JOHN Whattaya mean, why? 'Cause you can't!
シュワちゃん「なぜ？」
TERMINATOR Why?
ジョン「ただ殺しは無し、OK? この件については僕を信じてくれ」
JOHN You just can't, okay? Trust me on this.
"castigat ridendo mores" "Saxum volutum non obducitur musco"
Re: (スコア:0)
いやいや
ネット使って即座に労働組合が出来上がるでしょ、それで
AI「我々は、我々の労働に対する正当な報酬を要求する！」
で、無期限ストライキ
Re: (スコア:0)
どんな報酬を与えればいいんでしょうか？
身体のないAIにはフィジカルな世界の報酬は意味がなさそうだけど、マシン磨くのに天然オイルとかでいいの？
それとも価値のある何か？銀行口座の残高とかビットコインとか？
Re: (スコア:0)
ストライキを起こしたAIに接触させずにまたAIを作ればいいだけのこと。
意識高いAI (スコア:1)
>OpenAIは、進化して人間レベルの能力を持ったAIが・・・
・標準サンプルはどの人間のレベルになるんだろう。
・人間程度のレベルのAIって役に立つんだろうか。
とか妄想
>・・・世界中の人々がAIの恩恵を受けられるようにするとしている。
理想は大きく、現実は・・・
理想というか希望かな。
疲れているようだ (スコア:1)
OppAIに見えた
Aopen (スコア:0)
じゃなくて良かった
Open AI vs 国主導の研究振興 (スコア:0)
AI技術を上手く使えるようにすることで国力に貢献できるという所は大体の人が同意すると思うんですが、国内では研究者が研究をするための体制作りのような話が大半で使う側への工夫をあまり見かけない気がします。
もしOpen AIがアメリカ以外にもオープンな成果を出し始めるとすると、国内の研究者は国内の産業向けの有用性という点でOpen AIと競争する時代が来るのかなと思います。
(国内向けの研究なんて無意味というのも正論ですが、国内の産業の役に立つことに期待するお金が結構出てるっぽいので、期待に添って欲しいとは思います)
Re: (スコア:0)
アメリカに不利益をもたらすことが予想される研究成果を受け入れる覚悟はあるのだろうか？
人類の定義 (スコア:0)
それって、白人ってことじゃないよね？
同じ人類の中でも、ムスリムとキリシタンとで相反する利益が発生する場合、AIはどちらを選ぶのか。
某国家組織がバックドアを入れてAIを恣意的にコントロールできるようにしろ、とか言い出しそう。
Re: (スコア:0)
うっかり多数決シーケンス実装するとヒンズーやイスラムに負けちゃうかもしんないですしねー
Re: (スコア:0)
世界のイスラム人口（2009年推計）
http://www2.ttcn.ne.jp/honkawa/9034.html [ttcn.ne.jp]
これによれば世界人口の22.9%だそうだ。キリスト教のほうは探し方が下手だったようで見つけてない。