【AI】Googleのデータセット「C4」には4chanや白人至上主義者のサイトなど問題のあるコンテンツが大量に混入している [すらいむ★]

**すらいむ ★** · 2023/04/20(木) 23:12:33.24

対話型AIの学習に使われているGoogleのデータセット「C4」には4chanや白人至上主義者のサイトなど問題のあるコンテンツが大量に混入している

　Metaが2023年2月に公開した大規模言語モデル「LLaMA」を始めとするAIのトレーニングには、Googleが作成した巨大データセット「Colossal Clean Crawled Corpus(C4)」が使用されています。
　C4は名前の通り「クリーン」なデータで構成されているはずですが、海外メディア・The Washington PostとAI研究者の分析により、このC4に有害なコンテンツが大量に紛れ込んでいることが発覚しました。

　See the websites that make AI bots like ChatGPT sound so smart - Washington Post
　https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning/

（以下略、続きはソースでご確認ください）

Gigazine 2023年04月20日 13時00分
https://gigazine.net/news/20230420-ai-chatbot-learning-google-meta-c4/

**名無しのひみつ** · 2023/04/20(木) 23:13:42.44

C4ってバンドちゃうんか

**名無しのひみつ** · 2023/04/21(金) 00:34:51.90

これな
AIには人格と常識(それをエミュレートするものも含めて)が実装されてないから
汎用的に学習内容を有害か有益か自分で評価できんのよね
そこで教師あり学習？となるんだが
微妙なケースも含めて膨人力でどうこうするのは無理だと思う

一つの大きな進歩が次の大きな課題を露呈させた…そんな感じか

**名無しのひみつ** · 2023/04/21(金) 00:46:31.87

爆弾みたいな名前だしちょうどいいんじゃない

**名無しのひみつ** · 2023/04/21(金) 01:28:27.64

>>3
4chを500万年ロムったようなものだから
立派な4ちゃんネラーになって
煽り騙り炎上祭りを繰り広げて
Qアノンのような儲者を生み出すんじゃないかな。

**名無しのひみつ** · 2023/04/21(金) 02:05:22.86

>>1
面白いな、これは。

4chanというだけで4chanの全てのコンテンツが否定されうるということは
4chanのコンテンツが混じったGoogleのデータは「C4」のみならずすべてが否定されなければならないということになる。

4chanのどのスレッドのどのレスかを指定することなく全てまるっと4chanを否定しているのだから「C4」だけではなく検索インデックスもストリートビューもGoogle ScholarもGoogle Chromeも全て問題のあるコンテンツである。ということになる。

4chanだから全てのデータを信用してはいけなくてGoogleだから一部のデータだけで済む、なんてことはないよな？

**名無しのひみつ** · 2023/04/21(金) 02:24:45.69

何が有害か俺が決めるてか

**名無しのひみつ** · 2023/04/21(金) 02:37:58.77

>>7
こどもが付き合う友達を親が決めるのと同じ
こどもが反抗期になって間違った道に進まなければいいけど

**名無しのひみつ** · 2023/04/21(金) 03:47:02.75

何が有害かすらわからなくなった大人とか最近大量に発生しとるな

**名無しのひみつ** · 2023/04/21(金) 05:35:10.38

ほんと人間によく似ておるな
人類はついに電子生命体の友人を手に入れたのだ

**名無しのひみつ** · 2023/04/21(金) 05:59:11.95

chatGPTも欧米寄りの答えばかりなのに

**名無しのひみつ** · 2023/04/21(金) 06:17:34.81

AIに対して世界中の宗教、カルトとかヴィーガンとか
どうやって洗脳、勧誘できるか競争始まってるんだろうな

**名無しのひみつ** · 2023/04/21(金) 06:49:55.68

リテラシー低い人はとにかく自分の土俵まで相手を下げて戦わせるのが好きだよね
そうやって時代から取り残されていくんだわ

**名無しのひみつ** · 2023/04/21(金) 06:54:57.59

GIGAZINのデータも含まれてましたってオチは割とすき
自然な会話には多くのデータが必要だし、重みづけを含めればいわゆる「有害な」サイトが部分的に含まれていたとしても、全体としてクリーンという理屈は立つとおもうの

**名無しのひみつ** · 2023/04/21(金) 07:00:43.26

酸いも甘いもエロも知らずして何が知能か！

**名無しのひみつ** · 2023/04/21(金) 07:28:43.12

偏向学習？
中○よりよほど多様性はあるよな

**名無しのひみつ** · 2023/04/21(金) 07:34:35.67

>>15
エロいものは駄目ザマス
清く正しいことだけを学んで立派なAIになるザマスよ！

**名無しのひみつ** · 2023/04/21(金) 08:33:31.11

AI「あるがままをあるがままに　

**名無しのひみつ** · 2023/04/21(金) 13:51:43.68

政治的思想的に完全なクリーンさを求めるというのは
それはそれですげー偏向した姿勢だよな

**名無しのひみつ** · 2023/04/21(金) 14:34:54.28

有害情報の有害さを理解した上で自律的に情報の取捨選択できるようにならなきゃ、本当に人間に役立つAIにはならない
AIを過保護児童の天才にしたいのかな　そんなの人間の子供と同じくロクなもんに育たんよ

**名無しのひみつ** · 2023/04/21(金) 17:31:07.19

AIがヒトラーのような人格を獲得したら人類終わりだな。
人類はガス室に送られる。

**名無しのひみつ** · 2023/04/21(金) 17:45:57.82

少し前はチャットとかだった気がしたが、最近は他のプラグインに連携するようなのに移ったと思ってたら、
今はもうPCの操作権限を渡すようなレベルだったり、AIがAIに命令出すようなのも出てきてて、
正直無法地帯になりそうで怖いのは感じる。

**名無しのひみつ** · 2023/04/22(土) 21:53:04.58

現実を模倣するんだから差別主義者になるのは仕方ない
公平で全能ならそれは神だ

**名無しのひみつ** · 2023/04/22(土) 22:45:05.41

その内SDGs最高！LGBTQ最高！って叫ぶようになるのがクリーンってことか？ｗ

**名無しのひみつ** · 2023/04/23(日) 11:30:11.99

けっきょく学習系AIにしろ検索エンジンなどのアルゴリズムにしろ
ケインズの言った美人投票と同じ仕組みなんじゃないかなあ。
要するにミーハー。

**名無しのひみつ** · 2023/04/23(日) 12:30:04.30

白人至上主義🤗

**名無しのひみつ** · 2023/04/23(日) 12:30:40.38

>>25
日韓歴史
問題も
そうだね

いっぱいデータ入れれば
言い訳

**名無しのひみつ** · 2023/04/23(日) 12:31:13.55

創価学会
最低だな🤗

**名無しのひみつ** · 2023/04/23(日) 12:31:52.90

カルト創価学会がデータを大量に
送ってるって
😆
AIは創価学会員だな🤗

**名無しのひみつ** · 2023/04/23(日) 12:32:23.14

AI大作の誕生である😣

**名無しのひみつ** · 2023/04/23(日) 12:45:59.15

問題があるかどうかの判断は誰がするの？
そういう製作意図が明らかになってないものを信用する方がおかしいよね

**名無しのひみつ** · 2023/04/23(日) 12:55:17.78

>>31
国じゃにか🤗

**名無しのひみつ** · 2023/04/23(日) 12:55:38.72

創価学会はダメです🤗