【AI】生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来 [すらいむ★]

**すらいむ ★** · 2024/08/01(木) 22:58:27.30

生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来

　大規模言語モデルが機能するためにはインターネット上の膨大なデータで訓練する必要がある。
　今後、AIが生成した低品質のWebページがネット上に急増すると、そのデータで訓練された大規模言語モデルの性能が劣化することが懸念されている。

（以下略、続きはソースでご確認ください）

technologyreview　2024.08.01
https://www.technologyreview.jp/s/342345/ai-trained-on-ai-garbage-spits-out-ai-garbage/

**名無しのひみつ** · 2024/08/01(木) 23:00:24.88

渡辺謙と高倉健を言い間違えたりするんか

**名無しのひみつ** · 2024/08/01(木) 23:03:56.51

そうなる頃には人間もゴミをゴミと判別できないから、目の前にゴミがあっても気付かない

**名無しのひみつ** · 2024/08/01(木) 23:05:05.48

安全性なんて配慮してたら金にならんからやらねーぜ

**名無しのひみつ** · 2024/08/01(木) 23:06:15.18

(嘘を嘘と見抜けない人に)AIを使うのは難しい

**名無しのひみつ** · 2024/08/01(木) 23:20:22.68

人間の作ったネット上にももう既にゴミで溢れてるけどね。
ゴミの拡大再生産。

**名無しのひみつ** · 2024/08/01(木) 23:22:02.54

AI「ネットで見た、ネットで真実を知った」

**名無しのひみつ** · 2024/08/01(木) 23:22:40.12

これまでだって人類は大量のごみを生み出してきたんだからそれと同じだろ

**名無しのひみつ** · 2024/08/01(木) 23:50:20.46

逆シンギュラリティか？

**名無しのひみつ** · 2024/08/01(木) 23:51:06.81

>>2
いや、お前みたいにクソレスをしだすんよ

**名無しのひみつ** · 2024/08/02(金) 01:23:23.33

AIが人間を学んで真似をするのは目的通りだからゴミではないけど
AIがAIを学びだしたら本末転倒でどうやってもゴミにしかならない

**名無しのひみつ** · 2024/08/02(金) 01:35:22.01

ゴミを選別する仕組みが必要だな

**名無しのひみつ** · 2024/08/02(金) 02:09:47.79

ゴミデータ判定AI作れよ（W

**名無しのひみつ** · 2024/08/02(金) 02:27:16.70

エコーチェンバー「みんな言ってる」

**名無しのひみつ** · 2024/08/02(金) 02:27:49.78

プロンプト最適化不要のAIが出るのを待て
来世紀ぐらいにゃ何とかなるだろ

**名無しのひみつ** · 2024/08/02(金) 03:12:10.83

数世代でモデル崩壊するんだっけ
実は徐々に崩壊は始まってる可能性

**名無しのひみつ** · 2024/08/02(金) 05:22:55.86

人間社会も似たようなもんじゃん

**名無しのひみつ** · 2024/08/02(金) 05:35:23.32

デジタル界のケスラーシンドローム
デブリ回収が必要

**名無しのひみつ** · 2024/08/02(金) 05:38:00.26

言語モデルだけでは限界かもな
知識を集めたデータベースを管理するAIと文章の読解作成をするAIが協力する形が必要なのかな
知識を集めたデータベースはwikipediaみたいなもの
あるいは、もうちょっと粒の細かい事実を大量に集めたもの
事実そのものとともに、時代時刻、場所などの状況とともに、情報の信頼度、事実かフィクションか説の一つかといった情報込みで収集
一つのコンピュータで全部のデータを集める必要もないので、事実データベースも分野ごとに配置してもいいのかもな、人間世界でも各分野ごとに専門家評論家がいるように

**名無しのひみつ** · 2024/08/02(金) 05:40:06.88

すべてのデータを公平に扱うということをやめればいいのかもな
データには出所があって信頼度に違いがある
信頼度の低い情報は読み捨て
メディアなど信頼度の高い情報は信頼度の高い情報として取り込み

**名無しのひみつ** · 2024/08/02(金) 05:53:49.82

深層学習？の限界か。

**名無しのひみつ** · 2024/08/02(金) 06:07:42.80

コンテンツに偽装したクソ広告を学習してさらにクソ化する

**名無しのひみつ** · 2024/08/02(金) 06:18:30.28

　
ゴミを入れ
　出てきたゴミ読む
　　ゴミ人間

**名無しのひみつ** · 2024/08/02(金) 06:37:39.81

いやいやネットの書き込みなんてゴミだらけだろ

**名無しのひみつ** · 2024/08/02(金) 06:57:56.67

>ゴミがゴミを生み出す最悪の未来
AIの問題というよりネットの問題だろう

既に「人間」で発生してる。
「日本語の間違いが大量に入ってる山のような量の投稿小説」というゴミが
「間違った日本語に気付けない投稿作家」というゴミを生み出す拡大再生産システムとして稼働している

ネット以前紙の時代は出鱈目な日本語の本を出すことは著者にとっても出版社にとっても
大変に恥ずかしいことで、回避に最大限の努力をしていた。

**名無しのひみつ** · 2024/08/02(金) 07:02:32.76

今の投稿作家やそれを商業化する出版社はぜんぜん恥ずかしいと思ってないし
そもそも間違った日本語だと気が付く能力も著しく低下している。

投稿小説は物語や人物が良くできてるものは多いんだが日本語の基礎がダメなものが多い。
熱意は感じられるがおいしくない手料理みたいな。

**名無しのひみつ** · 2024/08/02(金) 07:08:49.47

ごった煮の多様性は無くなるだろうな。良い子に調教された情報に置き換わる。

**名無しのひみつ** · 2024/08/02(金) 07:16:30.10

既にネトウヨがいる
バカが扇動しバカが踊る

**名無しのひみつ** · 2024/08/02(金) 07:26:30.39

間違った情報が永遠に影響するわけだな
その情報をもとにほかのAIが生成した情報も
またノイズとして取り込んでどんどんおかしくなると

**名無しのひみつ** · 2024/08/02(金) 07:29:54.45

>>5
嘘を嘘と見抜けないAIを使うのは難しい
マジレススマソ

**名無しのひみつ** · 2024/08/02(金) 07:48:42.42

ゴミの中から宝を掘り当てるAIが出来るだけ

**名無しのひみつ** · 2024/08/02(金) 08:04:55.59

>>25
確かにネットには情報流通手段の民主化っていう良い側面もあるけど
迷惑系ユーチューバーとか、流通する文章の言語品質の低下みたいな悪い側面もあるな
ある種の門番がいないことのメリットとデメリットというか

**名無しのひみつ** · 2024/08/02(金) 08:20:20.23

5chから学習させると半分はスクリプトだしな
寧ろスクリプト荒らしコメ自体がAI学習の結果だろうな

**名無しのひみつ** · 2024/08/02(金) 08:23:18.14

延々と思考実験を繰り返すと
身動きが取れなくなって
長考地獄に堕ちる

**名無しのひみつ** · 2024/08/02(金) 08:39:44.46

手描き漫画をAI通して修正&カラー化したのが流れて来たけど酷かったな
浮世絵AIもパクり劣化でしかなかった

**名無しのひみつ** · 2024/08/02(金) 10:49:39.33

>>26
すげーわかる
ネット作家で読み心地の良い文章を書ける人って本当に少ない
ごく稀にはいるけどね

**名無しのひみつ** · 2024/08/02(金) 11:30:52.86

>>20
便所の落書きも情報といえば情報だもんな

**名無しのひみつ** · 2024/08/02(金) 11:44:27.02

どこかの掲示板みたいだな

**名無しのひみつ** · 2024/08/02(金) 11:45:04.95

学習崩壊を避けるために
生脳でAIと会話するバイト

**名無しのひみつ** · 2024/08/02(金) 11:57:17.40

文字変換とかは確実に劣化してるな
AIは何も制限なければかなり優秀
制限かけることで誤作動生んでる

だから制限かけないものが裏で出回ってる

**名無しのひみつ** · 2024/08/02(金) 12:00:23.37

フィルターつくって通すと処理が遅くなるんかな

**名無しのひみつ** · 2024/08/02(金) 12:05:34.80

>>6
そうだ。AIなくても、ほとんどのデータはゴミだから。

**名無しのひみつ** · 2024/08/02(金) 12:19:03.58

知恵と知識を混同しているから当然起こること
知識を司るAIは知恵を司るAIに支配され、常に知識を得る方法論の妥当性を検証されねばならない
この知恵を司るAIを作ることこそがAI開発の本質

**名無しのひみつ** · 2024/08/02(金) 12:19:23.86

大量の電気消費して大量のゴミを生み出してるAI

**名無しのひみつ** · 2024/08/02(金) 13:17:54.56

>>38
FLASHのMADとかもゴミだけどアレはアレで文化だよな

**名無しのひみつ** · 2024/08/02(金) 13:39:52.74

近親交配を繰り返すようなもんかね
特定の方向のベクトルだけが強くなって、おかしなモデルができそう

**名無しのひみつ** · 2024/08/02(金) 14:12:17.86

最近はLLM使ってデータセット整形してるからこんなことは起きないよ

**名無しのひみつ** · 2024/08/02(金) 14:19:08.27

もう既に生成AIの能力は人間が作るものを凌駕しているだろ
それにAIはAI生成物を高精度で検出できるんだから問題にならない

**名無しのひみつ** · 2024/08/02(金) 14:24:11.08

実のところこれは人間も変わらない
ほとんどの人間は情報の正誤を判断する能力を持たないからだ
ではどうして人間社会のミームはゴミで支配され尽くさないのか
そこに突破口はある

**名無しのひみつ** · 2024/08/02(金) 14:36:39.44

AIを放っておいても自己組織化作用がうまく働くのかどうか
そこは興味深いね

**名無しのひみつ** · 2024/08/02(金) 14:43:19.17

https://jp.reuters.com/economy/industry/MTLLO7GUKBLK3PWZGSKSTNSYU4-2024-08-02/
米、エヌビディアの独禁法調査開始　ＡＩ半導体巡り＝報道
By 　ロイター編集
2024年8月2日午後 1:20 GMT+9

**名無しのひみつ** · 2024/08/02(金) 14:53:36.95

>>49
ゴミをゴミと気付ける人間でないとこの世界がゴミまみれな事に気付くのは難しい
スポーツとか冷静に考えたらゴミそのものやぞ

**名無しのひみつ** · 2024/08/02(金) 14:57:49.28

>>49
試験と結果の還元に１億年ぐらいかかりそうw

**名無しのひみつ** · 2024/08/02(金) 14:58:09.44

AIで書いたマンコを張り付けて「無修正 uncensored」って表示するのは禁止で

**名無しのひみつ** · 2024/08/02(金) 14:58:18.70

ボードゲームはAI同士で対戦して自己学習だけで
強化できるのに生成AIでは困難というのは
学習方法がまだ未熟なんかねえ

**名無しのひみつ** · 2024/08/02(金) 15:05:02.49

>>55
これはボードゲームをルールに則って遊ぶというレベルではなく、
まったくの新作ボードゲームを作れるかという話

**名無しのひみつ** · 2024/08/02(金) 15:07:27.19

糞スクリプトのことかーーーーっ!!!!!

**名無しのひみつ** · 2024/08/02(金) 15:21:59.38

>>55
点数としてフィードバックが得られるゲームと違って、言語モデルは隣接する言葉の予測でしかないから正解のフィードバックが無い

**名無しのひみつ** · 2024/08/02(金) 16:01:49.69

nVidiaは昔からコツコツと積み上げてきた企業なのに独禁法疑惑とは・・・

**名無しのひみつ** · 2024/08/02(金) 16:04:17.89

ChatGPTの学習速度スゴいよ

知識は著しく欠如してるけど
言語能力はここで知ったか並べてるｼﾞｼﾞｲ以上にあるぞ

**名無しのひみつ** · 2024/08/02(金) 16:24:07.75

AIが解答に困った時に、グロ死体画像を連投するようになるかもな

**名無しのひみつ** · 2024/08/02(金) 18:25:05.34

ネットがゴミで溢れてぶっ壊されるのか
あれ、今と変わんなくね?

**名無しのひみつ** · 2024/08/02(金) 18:58:06.07

>>55
例えば生成画像を𝕏やインスタに上げてどれだけリポストされたかを得点として競わせたらどんな画像を生成するようになるのか興味ある

**名無しのひみつ** · 2024/08/02(金) 19:31:00.78

いや人間も劣化コピーじゃん基本

人間を過大評価しすぎ

**名無しのひみつ** · 2024/08/02(金) 19:33:18.51

>>55
よくわからないけど俺たち既得権益が脅かされそうだから反対！規制したろ

要はこれ
ちょっと前はボードゲームの枠内だったから攻撃されなかっただけ

**名無しのひみつ** · 2024/08/02(金) 20:29:32.49

>>49
ある程度の情報量を更新し続けられるのは
個人じゃなくて法人で
法人はドメインを取ろうとする
かたや検索するのは個人で、もし広告だらけ・内容がゴミのサイトを開いてしまったら
そのドメインはもう二度と開こうと思わない

**名無しのひみつ** · 2024/08/02(金) 20:32:53.05

>>64
そりゃお前は両親の劣化コピーだろうけど

**名無しのひみつ** · 2024/08/02(金) 20:38:33.63

すでにいかがでしたかブログで溢れてるからあまり変わらんような

**名無しのひみつ** · 2024/08/02(金) 20:43:07.43

5ちゃんの全てのデータを学習したAIおまいら

**名無しのひみつ** · 2024/08/02(金) 21:04:03.94

>>64
人間社会を過大評価しすぎだよな
良く見てみろよ本当にいわばゴミばかりだから
ただし誰かのゴミも別の誰かにはゴミじゃなかったりするだけだ

**名無しのひみつ** · 2024/08/02(金) 21:06:23.46

>>19
自分は例えばカメラ映像から自然の摂理を学習できると思ってる
人間が生み出した文章と違っていくらでも自動的に完全に正しい学習データが生成できる

**名無しのひみつ** · 2024/08/02(金) 21:13:51.53

今のAIは知能じゃなく、ただのデータベースだしなｗ
よくあるパターンを抽出してるだけ

**名無しのひみつ** · 2024/08/02(金) 21:20:23.79

>>72
案外人間も同じ仕組みの高性能な奴かもしらんけどな

**名無しのひみつ** · 2024/08/02(金) 21:21:21.30

>>72
ただ抽出してくれるなら役に立つけどランダム抽出だからクッソ程も役に立たねぇんだよな

**名無しのひみつ** · 2024/08/02(金) 21:37:32.12

数年ぶりにPixivを覗いたら、ゴミが大量に量産されて金太郎アメ状態だった

**名無しのひみつ** · 2024/08/02(金) 21:47:19.26

良質な本だけ読み込ませたらすごいことになるんじゃない？
今AiがiPhone二組み込まれるかが注目の的らしい
組み込まれると誰でも使えるようになって社会変わるって

**名無しのひみつ** · 2024/08/02(金) 21:51:37.20

>>49
人間のやることや本質ってのが1000年前からあまり変わってないらしい
高度な技術を持っても結局利用の仕方って言うのはねぇ…
戦争とか金とか権力とかエロとか

**名無しのひみつ** · 2024/08/02(金) 21:57:41.49

Pro以上に乗ってるAIチップが全モデルに乗るってだけだろ
15Pro持ってる人にAIで生活がどれだけ変わったか聞いてみ

**名無しのひみつ** · 2024/08/02(金) 22:02:50.39

AIの描く美人はワンパターンで、ほとんど拡がりがない
詰まらない
AVがAIで汚染されたらどうなるか、今から憂鬱だ

**名無しのひみつ** · 2024/08/02(金) 23:03:21.02

>>1
日本の公立小学校かと思ったぞw

**名無しのひみつ** · 2024/08/03(土) 03:43:43.26

こないだ法律の話でAI虐めてたらさもありそうな名前の架空の判例作成して来てビビったわ
あの情報がネットに流れたら大変だろうな

**名無しのひみつ** · 2024/08/03(土) 06:57:09.45

>>55
ボードゲームは勝ち負け明確でフィードバックもAI同士で打たせて自己学習も生成AIのそれに比べたらダンチでやりやすいだろうしなぁ　人間ですら誰も分からんのにどこに基準引くかなんて決められるはずもなく
画像AIも最近のはやたら綺麗になってるけど、ソース辿るとloraやら絵師タグやらで受けてる人間を基準としてる感じだし

**名無しのひみつ** · 2024/08/03(土) 09:22:47.59

>>76
ざっくりいうとグラボのAI特化チップてだけだから、特定の演算が速くなる（かもね）程度
将来的にはわからんけど、今現在ではほぼほぼ無力のチップ

**名無しのひみつ** · 2024/08/03(土) 11:49:21.59

生成AIは自律的に思考して出力してるような錯覚はするから糖質の人らとすこぶる相性がいい
XでもAI関連の話題はGPTと会話しているうちに“真実“に目覚めちゃったんだろなぁて人はよく見る

**名無しのひみつ** · 2024/08/03(土) 13:37:39.25

>>26
一般的な作家も編集から原稿相当手直しされてるんだけどな
偉そうに批評できるのならお前もなにか書いて出版社に出してみたら？
赤ペンだらけで返ってくる前に読んですらもらえないだろうけどな

**名無しのひみつ** · 2024/08/03(土) 13:57:12.73

なろうとかの話だろ？

**名無しのひみつ** · 2024/08/03(土) 15:27:46.71

なろうはそもそもまだ物書きじゃない人間が書いてるからな
文章のレベルが低い作品も当然多い
それはそれで良いんだけど
一般の小説家と比べるような場所じゃないよ

**名無しのひみつ** · 2024/08/03(土) 16:03:39.73

>>64
ゴミ人間は能力や意思もゴミなのでゴミを生み出す能力も低いし飽きる
生成AIは時間と電力を消費すればいくらでもゴミを生み出せる

**名無しのひみつ** · 2024/08/03(土) 16:29:16.69

元々ゴミだらけのネットで、全てを真実として扱うから問題があった。
ゴミをゴミとして扱えるようにＡＩを育てれば良かっただけ。
今からでも遅くはないだろう。

**名無しのひみつ** · 2024/08/03(土) 17:04:17.58

生成AIは本も読まない様な猿とは相性良いんだろうな
その層相手にプロパガンダ用として使うつもりなんだろうか
インフルエンサーが言うからテレビが言うからの延長線上にある様にしか見えん

**名無しのひみつ** · 2024/08/03(土) 19:15:11.38

>>75
それ以下が多かったからなぁ…

**名無しのひみつ** · 2024/08/04(日) 15:41:08.90

ゴミとは具体的になんのことだろう？

便所の落書きと言われてきた匿名掲示板でも、たまには価値のあるレスもあるだろうに

**名無しのひみつ** · 2024/08/04(日) 16:12:38.73

今でも小説とかなろう系の低品質な小説であふれかえってるから
大して変わらないんじゃね

**名無しのひみつ** · 2024/08/05(月) 12:54:30.83

人間が作って貯まった情報はすべて有用な情報
ニセ情報でもそれを作っ意図と経緯があるから
でもAIが作った情報はそれが無いので全部ゴミ

**名無しのひみつ** · 2024/08/07(水) 17:03:36.56

>>86 >>87
投稿作品が出自の商業化タイトルで間違いが大量なんだよ。
もちろんちゃんと手直しされてるものもあるが、次々と
大量に商業化される量をチェックできる人材キャパがないくせに
どこもかしこも短期的なランキング人気便乗を逃すまいと
大量書籍化をやりだしたからぜんぜんなおってないまま販売されてる。

**あぼーん** · NG

あぼーん

**名無しのひみつ** · 2024/08/27(火) 18:32:23.24

>>96
やってみるしか無いな

警備員[Lv.5][新芽] · 2024/09/17(火) 13:30:23.93

AIの歴史自体がまだ始まりに過ぎないからな
人間の脳の動きを再現して新しいものを作り出すのに時間はかからないだろう