【ナゾロジー】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある [すらいむ★]

**すらいむ ★** · 2024/08/09(金) 23:36:44.81

【AI狂牛病】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある

　画像生成AIモデルは、膨大なサンプルから学習し、新たな画像を生み出します。

　その結果、今やネット上にはAI画像があふれています。

　では、AIモデルが、知らず知らずのうちにAI画像を取り入れて学習するようになると、どうなるのでしょうか。

　アメリカのライス大学（Rice University）に所属するリチャード・G・バラニューク氏ら研究チームは、生成AIモデルが合成データを学習して新たな合成データを生成するループが生じると、生成される合成データの品質はどんどん劣化していくと報告しました。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.08.09
https://nazology.net/archives/158137

**名無しのひみつ** · 2024/08/10(土) 00:15:58.94

所詮、嘘の絵
本物の絵とはかけ離れていく

**名無しのひみつ** · 2024/08/10(土) 01:02:53.80

プロンプトやloraとかにこだわらないとノッペリした絵になるよね
昔のエロゲのハンコ絵みたいな感じ、熱意が無い

**名無しのひみつ** · 2024/08/10(土) 01:18:23.90

ネトウヨみたいなもんだな
足りない頭でエコーチェンバー
盲人が盲人の手を引くというやつ
お手て繋いで真っ逆さま

**名無しのひみつ** · 2024/08/10(土) 02:10:13.29

どんな対策をしたらいいの？

**名無しのひみつ** · 2024/08/10(土) 02:31:26.07

画像だけじゃなくAIが出したデータをAIが再学習すると劣化するみたいだな

**名無しのひみつ** · 2024/08/10(土) 03:15:50.41

>>5
新しい学習データを食わせてやれば良い

**名無しのひみつ** · 2024/08/10(土) 03:25:53.09

SNSでAI学習禁止とか声高に喚いている奴に限って画力がショボい
お前の絵なんて学習したらむしろ劣化すんじゃねーのと思うw

**名無しのひみつ** · 2024/08/10(土) 03:37:51.06

AIじゃなくったってどこかで見たような判子イラストだらけじゃん

**名無しのひみつ** · 2024/08/10(土) 03:40:05.75

>>3
見当はずれ
X 見てみれば分かるけどもはやプロのクリエイターでさえAI を見分けられなくて AI をリポストフォローする時代だからな

**名無しのひみつ** · 2024/08/10(土) 04:39:59.23

>>10
具体例

**名無しのひみつ** · 2024/08/10(土) 04:43:14.03

学習AIが生成ＡＩが作り出したデータを学習させたのか
コモンというか土台が3次元に存在するモノを2つの眼で認識・区別するためのモノを
人が2次元に落とし込んだだけのモノだから
想像に過ぎないけれど
jpegのような不可逆性に加えて最適化により情報エントロピーが回数を重ねるごとに低下した結果なのかな？

学習AIに仮想上の左右の2つの瞳と学習させる対称を遠近や角度・回転させて学習させると
精度が向上するかもしれない
あくまでも、「かも知れない」程度の発想なので信じないでね

**名無しのひみつ** · 2024/08/10(土) 05:07:12.68

>>8
君の絵よりマシでしょ

**名無しのひみつ** · 2024/08/10(土) 05:12:51.32

そのうちGoogleカーみたいな
AI学習移動体とか作って
現実をスキャンするんじゃね？
ネットだけだと無理だろ

**名無しのひみつ** · 2024/08/10(土) 05:28:46.48

>>1
血が濃くなりすぎるんだよ
ハプスブルク現象

**名無しのひみつ** · 2024/08/10(土) 05:51:04.32

>>12
つけ加えるとループにより満場一致のパラドックス的な現象が起こっている
た、多分

**名無しのひみつ** · 2024/08/10(土) 06:08:29.66

同じ生成画像を食わせたらノイズが目立ったり似てくるのは当たり前の話だろ

**名無しのひみつ** · 2024/08/10(土) 07:05:20.38

>>13
オナニー絵師乙

警備員[Lv.26] · 2024/08/10(土) 07:30:19.33

今のLLMはそろそろ上限が見えてきた
こんなんでASIとかAGIに到達できるの？
かなりのブレイクスルーがないと無理じゃね？

**名無しのひみつ** · 2024/08/10(土) 07:36:54.09

AI抵抗勢力を駆逐する必要がある

**名無しのひみつ** · 2024/08/10(土) 07:38:15.53

人間が手作業で毎週作画するとか非効率極まりない
漫画家も生き残るのは優秀な原作つくれる作家だけでいい

**名無しのひみつ** · 2024/08/10(土) 07:50:21.82

>>11
お前の好きな絵師のフォローみてみりゃわかる
AIアカウントで多少良心がある奴はツールのところに生成AI（Stable Diffusionとか）の名前を書いてるからすぐわかる

最近のイラストはもう区別できないよ

**名無しのひみつ** · 2024/08/10(土) 07:54:18.96

うそくせーな
教授のショボいシステムで学習させて劣化してると言ってるに過ぎないと思うわ

**名無しのひみつ** · 2024/08/10(土) 08:02:28.62

エントロピーってやつだろ知ってる

**名無しのひみつ** · 2024/08/10(土) 08:21:28.39

現実の方向性と仮想現実の方向性の違い
狭い方向性に特化したガリ勉、オタクから
感じるキモさの正体

このようなアノマリーを
言語化出来ない低知能は
AIから不要と判定される

**名無しのひみつ** · 2024/08/10(土) 08:46:10.11

手指がどんどん増えてぐにゃぐにゃに

**名無しのひみつ** · 2024/08/10(土) 08:46:44.66

これか
世代踏むと犬が認識できなくなるやつ

AIモデルのトレーニングにAI生成データを使用するとAIが物事を忘却してしまう「モデル崩壊」が起きるという指摘
https://gigazine.net/news/20240725-ai-collapse-trained-recursively-generated-data/

**名無しのひみつ** · 2024/08/10(土) 08:57:02.02

この板にあるスレ「生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来」に通じるものだな

**名無しのひみつ** · 2024/08/10(土) 09:10:59.17

公表する前に出来栄えのいいものを人間が選択するというプロセスは入るはずで
むしろ性能は向上を続けるだろう
さらに、学習するときになんらかのルールでフィルターかけるとかしてもいい

**名無しのひみつ** · 2024/08/10(土) 09:17:37.59

これは人間もそうだよな
モデルをデフォルメして2次を描く→その2次を真似て描く
ここで下手くそな伝言ゲームみたいな現象が起こるんだよな

**名無しのひみつ** · 2024/08/10(土) 09:38:24.15

盗んだ果物を栽培とか

**名無しのひみつ** · 2024/08/10(土) 09:40:22.56

近親交配みたいなもんだな

**名無しのひみつ** · 2024/08/10(土) 09:45:34.96

>>25
こういう頭の悪さが滲み出る文章は今のAIには作れないんだろうな

**名無しのひみつ** · 2024/08/10(土) 10:03:25.67

>>30
生成された成果物に対する評価軸が次の学習に生かされたのだったら話は別よ。
より高評価されている物や、よりアクセスされている物を優先的に学習するなど。
とはいえ、揺らぎは入れないと、同じものばかりになってしまいそうですが。

**名無しのひみつ** · 2024/08/10(土) 10:05:09.35

>>29
性能向上を続けるなら人の手が必要なわけでコストがかかるわな
将来無くならない仕事として「絵画判定士」みたいなものになって残るかな

**名無しのひみつ** · 2024/08/10(土) 10:39:04.58

>>35
「世間の評価は高くないけど、歴史的に見ると注視するべき作品だ」
とか語る人ってこと？

**名無しのひみつ** · 2024/08/10(土) 11:09:16.45

AIが作った画像か人間が作った画像か判別する必要が出てくる
結果判別力が上がる

判別したいのは人間だけかと思ってたがAIにとって必要

**名無しのひみつ** · 2024/08/10(土) 12:05:04.86

顔の形を複数ブロックごとに分けないといけないい?
美形やや良い普通やや悪い悪い

ゲームのキャラメイクみたいにかな

**名無しのひみつ** · 2024/08/10(土) 12:22:26.68

>>38
あるゲームで作ったキャラを別ゲームに持って行ったら違和感半端ないでしょ
それがバリエーションの狭さ

**名無しのひみつ** · 2024/08/10(土) 13:54:04.06

　
ゴミを入れ
出て来たゴミを
また入れる

**名無しのひみつ** · 2024/08/10(土) 14:17:09.75

指が6本だったり手の左右が逆だったり
そんな画像がメジャーになったりするかもね

**名無しのひみつ** · 2024/08/10(土) 14:23:21.98

そろそろAIもイラストを見てイラストを描くのではなく現実を写実するレベルになったってだけだろ
人間だって上級者はそうやって上級者になるのだ

**名無しのひみつ** · 2024/08/10(土) 15:02:43.35

>>42
そういう話では無い

**名無しのひみつ** · 2024/08/10(土) 15:42:52.41

同じ顔、同じポーズ、同じアングルの絵が大量に出回ってるから飽きたわ

**名無しのひみつ** · 2024/08/10(土) 15:56:37.10

>>42
AIが勝手にカメラにアクセスして
貴方がシコっている姿を参考にするんですね

**名無しのひみつ** · 2024/08/10(土) 16:36:33.53

>>41
そんなに荒木先生をﾃﾞｨｽらないで！

**名無しのひみつ** · 2024/08/10(土) 19:46:44.83

鳥山明も自分が漫画家になるまでほとんど漫画を読まなかったから、オリジナリティの高い漫画を描けるようになったというしな

**名無しのひみつ** · 2024/08/10(土) 20:02:54.65

端からAIに批判的な意見出すための研究チームなんでしょ？

人間書く絵がそんな高尚なわけがない

目は異様にデカく鼻もなけれどば口もチンコ咥える事もできないくらい小さい
でもそんな化け物が可愛いわけでしょ？
アニメや漫画なんてみんなそうじゃん

あとそれって劣化ではなく変化や進化というべきものでは？
時代時代でどんな絵が良いとされるか
普遍的価値感なんてないだろう

絵画には価値がー？
いやそれカネじゃん
内容はどうでもいい奴

**名無しのひみつ** · 2024/08/10(土) 20:33:30.45

某Ｍ本Ｒ士先生は女性の描き分けが苦手だったが逆手にした

**名無しのひみつ** · 2024/08/10(土) 21:02:09.77

人が見てなんかおかしいな、と思うような事をAIも同様に感じ取れるようにならなきゃどうしようもない

**名無しのひみつ** · 2024/08/10(土) 21:25:28.20

AIイラストじゃなくて自己生成データで学習を繰り返すとダメって話だろ
AIも引きこもってたらダメって訳だ

**名無しのひみつ** · 2024/08/10(土) 22:22:19.04

AI生成した絵にAI生成したサインを必ず入れるようにすれば回避出来そうだがどうだろう？

**名無しのひみつ** · 2024/08/10(土) 23:56:28.69

>>52
そのサインを真似て行く内にグチャグチャの読めないものになってしまうって話

**名無しのひみつ** · 2024/08/11(日) 03:43:12.99

>>22
逃げたか

**名無しのひみつ** · 2024/08/11(日) 08:45:26.92

AI禁止の投稿サイトはそういうことなのかね

**名無しのひみつ** · 2024/08/11(日) 11:15:47.90

AIの描いた絵の文字はグチャグチャだものな特に漢字

**名無しのひみつ** · 2024/08/11(日) 11:54:31.21

現実には起き得ない研究だな
淘汰なく世代交代していけば崩れていくのは当然
AI絵がネット上にあふれていると言っても実際には投稿者が選別した物が上がってるのだからそうはならん
AI絵をSNSに上げて評価良かった物を学習していくとかにすれば崩壊は起きんよ

**名無しのひみつ** · 2024/08/11(日) 15:56:54.15

>>30
江戸時代の動物画なんかはそうだよね
ゾウとかトラとか本物を見たことなくて写本を模写すると
上手い画家ほど想像や経験値でリアリティを持たせようとして
実物とはどんどん遠くなっていく

**名無しのひみつ** · 2024/08/11(日) 19:37:41.44

人間がゲシュタルト崩壊する感じなのかね

**名無しのひみつ** · 2024/08/11(日) 20:35:13.79

>>58
そして浮世絵AIがオリジナルの劣化パクリで炎上

**名無しのひみつ** · 2024/08/11(日) 20:50:59.14

記事の数字画像
gen18で1と5を同じものと見做していると感じる

↓は適当にチラシの裏
記事中の論文を斜め読み
λ=1/(1+w)
wが状態数(でいいのかな判らん)とするとλは常に0≦λ≦1
Input_data[num];みたいな配列をバイナリ(ぶっちゃけ整数)を用いて近似値抽出を繰り返すと
コラッツ問題のごとく1に収束する感じなのかな？

**名無しのひみつ** · 2024/08/12(月) 00:49:19.26

最初からわかってた

警備員[Lv.28] · 2024/08/12(月) 03:00:39.61

きれいなうんこするからと言ってうんこを喰わせても栄養は無かった

**名無しのひみつ** · 2024/08/12(月) 08:47:32.25

生命進化と違って淘汰されることもないから進化しないな

**名無しのひみつ** · 2024/08/12(月) 12:03:13.45

>>57
これな
人間が描いてうｐするのと何ら変わらん
指が変なのは対策できるし

この手のAIに批判的研究って初めから批判ありきだから前提がおかしいイメージしかない

**名無しのひみつ** · 2024/08/12(月) 14:41:30.76

>>65
こうして指が無数に増えたAIイラストが量産されてネットで拡散される事に

**名無しのひみつ** · 2024/08/12(月) 15:21:45.14

他人の褌で相撲取ってんのに褌貸してくれた相手を罵倒するAI絵師はゴミ
そもそも絵師と名乗るのもおこがましいけど

**名無しのひみつ** · 2024/08/12(月) 15:30:29.67

そもそも「AI絵師」だなんて恥ずかしい名乗りしてる人は一部のイタい奴じゃね？

昔「AI絵師」って名乗ってるっぽい人に、「何でAI絵師だなんて名乗ってるんですか？」って聞いたら「他に適切そうな名乗り方が無いから」とか言ってきたけど「そもそも『師』だとか名乗る必要無いですよね？」って言ったら返事来なくなった

昔居た『加工師（）』とか名乗ってた奴と同系列ぐらいしか、そんな恥ずかしい名乗りしてないと思う

**名無しのひみつ** · 2024/08/12(月) 15:42:36.80

いまんとこ手の指を安定的にかけてるAIなんか皆無だから
そもそもデータ汚染以前に今言われてるAIはまだ疑似の領域出てない

人体骨格という概念がまだ作れてないって話なのでデータの質じゃなくてAIの質でしょこれ

**名無しのひみつ** · 2024/08/12(月) 15:56:46.15

>>23
俺もそう思う
pixivとか見たらわかるが、下手くそな絵のほうが圧倒的に多い

**名無しのひみつ** · 2024/08/12(月) 20:55:41.78

手本とする絵がだんだんと人間の識者による選別を経ずに、
ネットにアップされているというだけの選別しか受けていない
ガラクタばかりの絵を学習に使うと、ますますガラクタが生成
されやすくなるだけ。

**名無しのひみつ** · 2024/08/13(火) 08:07:42.62

まあ今あるのなんて所詮弱いAIだからな
本番は強いAIが出来てからよ

**名無しのひみつ** · 2024/08/13(火) 11:25:37.49

近親相姦近親相姦

**名無しのひみつ** · 2024/08/13(火) 12:46:15.27

そのうちSNSならSNSでどういう絵がウケやすいか学習すれば人の選別無くても良くなるかもね

**名無しのひみつ** · 2024/08/13(火) 16:04:45.32

>>4
分量の問題かもね
ネトウヨも一匹なら、そういう視点もあるかと思ってもらえるが、集まり過ぎると、悲惨で頑なな信仰になってしまう
コピーのコピーとして劣化し続ける

**名無しのひみつ** · 2024/08/13(火) 21:18:37.78

人間様の創作活動の栄枯盛衰を高速で繰り返すんだな
これだと人間以上の存在にはなれねーよ

**名無しのひみつ** · 2024/08/14(水) 21:11:04.02

生成AIが生成した画像を学習AIに学習させ、生成AIが生成した画像を学習AIに…を
The fully synthetic loop(という名称らしい)を意図的に発生させて
3世代目に一度他の新しい画像データを入れる(fresh data loop)と比較し

AIがウォーターフォール開発モデルとアジャイル開発モデルを両立しつつ
(まだまだ完璧ではないが)過学習を防ぐある程度の指標となる数理モデルが出来た
的な印象

**名無しのひみつ** · 2024/08/15(木) 15:28:45.32

絵描きは間違いなくほとんどがAIに駆逐される

**名無しのひみつ** · 2024/08/15(木) 16:45:12.13

「絵描きは間違いなくほとんどがAIに駆逐される」というより、絵描きが殆どAIに依存しだす未来しかみえない

かつてあれだけ叩かれてたデジタル環境も3Dトレス人形も今や当たり前になってるし、AIもその延長上としか思えん

**名無しのひみつ** · 2024/08/15(木) 22:27:51.69

そう。結局は道具でしかない。

**名無しのひみつ** · 2024/08/15(木) 22:30:57.86

写実画ならば、現実にあっても妥当なイデアとしての絵になる。
しかし写実画といえども写真じゃないし、画家の主観や強調、変型が混ざる。
そのような現実のあるべき姿や形ではないものを、学習の対象にすると、
画家の持つ偏見が助長されたり混ぜ合わさったものになったりなどして、
しまうだろう。画家の場合は自分が書いている絵の中で完結する形で
省略、誇張、歪みなどを入れているわけだが、そういうわけではなくて
とにかく沢山学習して出てくるものは、動物を学習して麒麟とか竜とか
鵺などを出して来るようなものになるだろう。アニメの絵から学ぶと、
フィルムが24コマ/秒なのをテレビ向けに30コマ/秒に変換する過程で、
指とか手とか動きの速いものは動作の途中では二重写りした絵になる。
そのコマを絵だと思って学習すると、指が5本を越えた人物だとか、
手が2本より多い人とかができてくる。

**名無しのひみつ** · 2024/08/15(木) 23:42:58.96

山と湖　AI作　どちらも学習モデルは一緒
https://i.imgur.com/8iZoxFA.jpeg
https://i.imgur.com/t3w6t3y.jpeg

**名無しのひみつ** · 2024/08/16(金) 00:33:45.75

>>79
アナログオンリーのプロ漫画家は絶滅しそう

**名無しのひみつ** · 2024/08/16(金) 00:34:59.28

エッチなAI絵うpしてるツイッターください

**名無しのひみつ** · 2024/08/16(金) 08:32:59.61

>>82
その学習モデルで10000の画像生成させ
その10000の画像から学習モデルBを作り
学習モデルBから10000の画像生成させ
その10000の画像から学習モデルCを作り
を繰り返すとデータ崩壊するみたい

**名無しのひみつ** · 2024/08/16(金) 15:05:50.97

デフォルメ絵がことごとくクレしん化する悪夢

**あぼーん** · NG

あぼーん

**名無しのひみつ** · 2024/08/25(日) 14:51:33.18

>>87
知らなかったけど、これは試してみる価値ありそう

**あぼーん** · NG

あぼーん

**名無しのひみつ** · 2024/09/04(水) 01:21:21.48

適当にエントロピー増大の法則と言ってみる

**名無しのひみつ** · 2024/09/09(月) 22:42:50.76

ループ発振だな

**名無しのひみつ** · 2024/09/10(火) 04:58:41.94

大量にいたAI信者からしたら今頃絵師は全員失業してたはずなのにそうなってない

警備員[Lv.9][新芽] · 2024/09/14(土) 13:09:17.01

そういった問題も改善されていくだろ
あくまで現在の生成AIの問題だから

**名無しのひみつ** · 2024/09/15(日) 05:53:43.62

>>2
絵の時点で嘘だろ定期

**名無しのひみつ** · 2024/09/16(月) 00:38:58.94

絵や写真の印象を決定づけるのって結局テクニックじゃん
レイルマン構図だのコントラポストだのリムライトやレンブラントライトとかコントラストや彩度や色の組み合わせみたいな
そういった全体の調和はもしかしたらAIの方が人間よりも得意かもしれん
まだ人類は気付いてない法則性をAIは見てる可能性すらある

**名無しのひみつ** · 2024/09/17(火) 13:43:57.96

>>5
服装が全裸〜小林幸子まで様々過ぎるんだ
正直服の判別だけでAIは大混乱を起こし安定したモデル学習が出来ないでいる

まずは全裸を普及させる所から始めるべきだよ