アカウント名:
パスワード:
人間の生産物から学習する限りそうなるだろうよ進歩を加速させるには、機械自らが学習データを生成する必要がある
AI自家発電すると数世代で破綻するみたいなのを観たことがあるよテロメアみたいなしくみがあるのかな?
https://www.itmedia.co.jp/news/articles/2307/26/news080.html [itmedia.co.jp]「画像生成AIに“AIが作った画像”を学習させ続けると? “品質や多様性が悪化” 「モデル自食症」に
AIは人間の顔がどんなものかわかってないのでAIが生成した画像を参考にしているうちに顔に謎の縞模様をつけてしまう、というのなんかすごく怖くて面白い
エフェクトの多重適用やフィードバックでループ(ハウリング)を作ると周期信号やらが出て来るのは定番ではある。
これの場合は切り貼りの境界を挟んで似た構造があると切り貼り位置が安定しなくなったりそれを含む外側の構造が破綻する奴が多重発生してこうなった感はあるけど。
そもそもこういうノイズの自己増幅が仮にゼロだったとしても、切り貼りする元データが枯渇したらどうにもならんってのがこのストーリーの趣旨なんで、これがなくても詰みではある。
モデレーションがなければそうなるよね。AIの生成物にもそのまま見れるものとそうでないものがあるんだし、両者を何らかの手段でふるいにかけなきゃいけない。人間の作ったものを学習させるときだってタギングなんかはしてるんだし。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人
そりゃあ (スコア:0)
人間の生産物から学習する限りそうなるだろうよ
進歩を加速させるには、機械自らが学習データを生成する必要がある
Re: (スコア:0)
AI自家発電すると数世代で破綻するみたいなのを観たことがあるよ
テロメアみたいなしくみがあるのかな?
モデル自食症 (スコア:3)
https://www.itmedia.co.jp/news/articles/2307/26/news080.html [itmedia.co.jp]
「画像生成AIに“AIが作った画像”を学習させ続けると? “品質や多様性が悪化” 「モデル自食症」に
AIは人間の顔がどんなものかわかってないのでAIが生成した画像を参考にしているうちに顔に謎の縞模様をつけてしまう、というのなんかすごく怖くて面白い
Re: (スコア:0, 参考になる)
エフェクトの多重適用やフィードバックでループ(ハウリング)
を作ると周期信号やらが出て来るのは定番ではある。
これの場合は切り貼りの境界を挟んで似た構造があると切り貼り位置が安定しなくなったり
それを含む外側の構造が破綻する奴が多重発生してこうなった感はあるけど。
そもそもこういうノイズの自己増幅が仮にゼロだったとしても、
切り貼りする元データが枯渇したらどうにもならんってのが
このストーリーの趣旨なんで、これがなくても詰みではある。
Re: (スコア:0)
モデレーションがなければそうなるよね。
AIの生成物にもそのまま見れるものとそうでないものがあるんだし、両者を何らかの手段でふるいにかけなきゃいけない。
人間の作ったものを学習させるときだってタギングなんかはしてるんだし。