【AI】OpenAIはAIの進化の頭打ちで戦略の転換を余儀なくされている、高品質なデータ枯渇の問題が急激に顕在化 [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
1すらいむ ★
垢版 |
2024/11/13(水) 23:16:17.73ID:fIL0hDpv
OpenAIはAIの進化の頭打ちで戦略の転換を余儀なくされている、高品質なデータ枯渇の問題が急激に顕在化

 2022年にリリースされて以来、日進月歩の進化でAIユーザーを驚かせてきたOpenAIのChatGPTですが、モデルのトレーニングに必要な高品質なデータの不足をはじめとするスケーリングの問題より、進歩が鈍化しつつあることが報じられました。

 OpenAI Shifts Strategy as Rate of ‘GPT’ AI Improvements Slows — The Information
 https://www.theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows

(以下略、続きはソースでご確認ください)

Gigazine 2024年11月13日 12時30分
https://gigazine.net/news/20241113-ai-openai-gpt-improvements-slows/
2名無しのひみつ
垢版 |
2024/11/13(水) 23:36:23.52ID:PyUBm3cG
ジャンク イン ジャンク アウト とは半人前のアイアイ,Cチャンでも答えられる
3名無しのひみつ
垢版 |
2024/11/13(水) 23:46:09.97ID:bglN90+E
AI「つまり次はデータソースの争奪囲い込みという事です 統計学的には全員分のデータは不要ですがどこで差がつくとも限りませんので
2024/11/13(水) 23:50:55.95ID:8h0KYBzE
データセンター建てるだけ建てても使い道のない箱モノ
2024/11/14(木) 00:12:48.35ID:bn0RVD4N
AIに食わせるデータを作れる人のターンがもう来たのかw
6名無しのひみつ
垢版 |
2024/11/14(木) 00:23:34.26ID:uhWrmBPX
ググルAI検索とかwinコパロの
回答引用が価格コムの適当
回答とか失望してるわww
信憑性ゼロでした
本当にありがとうございましたー
2024/11/14(木) 00:23:35.61ID:XzL1kUtI
AIが生成したデータで自己成長させる技術開発が
必要だな
ゲームではできてるから頑張れ
8名無しのひみつ
垢版 |
2024/11/14(木) 02:19:27.40ID:BVwGI2Ek
結構良い段階まで来てるんだな
9名無しのひみつ
垢版 |
2024/11/14(木) 07:00:13.60ID:Hl80kJrW
人間も脳の各部位に任せているのでは
10名無しのひみつ
垢版 |
2024/11/14(木) 07:01:46.65ID:Hl80kJrW
>>9

一か所で処理をするからふかが多すぎる
11名無しのひみつ
垢版 |
2024/11/14(木) 07:08:49.18ID:mOjU9bVX
>>3
統計じゃないんだよ
わかってないね
12名無しのひみつ
垢版 |
2024/11/14(木) 07:11:05.26ID:mOjU9bVX
>>7
人間なんて昔から
ウソの話に感動したり励まされたりして生きてきたんだよ
作り話ばかりだろ
おまえらだって小説からテレビドラマまで
ウソ話で笑ったり泣いたりしてるだろ
13名無しのひみつ
垢版 |
2024/11/14(木) 07:18:27.42ID:h86kHwWV
どっちつかずの答えしか出せないからな

「とても複雑な問題」だと言えばこそれらしい答えになる
2024/11/14(木) 07:28:59.49ID:mfzTbDFS
しょせん人工無能なのに何を期待するのか
15名無しのひみつ
垢版 |
2024/11/14(木) 07:34:49.01ID:ODziXxbw
そんなこと最初から分かってたろ。
ただの投資詐欺だって気付けよ。
2024/11/14(木) 07:53:01.11ID:vTNxXsHW
>>11
5chまとめブログみたいなもんだよね
17名無しのひみつ
垢版 |
2024/11/14(木) 07:53:18.31ID:AIdF+PrM
そもそもデータ元を作る人間自体が高品位データより低品位データをより多くネットに撒き散らすしな
2024/11/14(木) 07:55:29.30ID:SvxVc5Ei
>>13
間違うと評価が下がる
だからいくつかの有力な意見をピックアップして提案する
19名無しのひみつ
垢版 |
2024/11/14(木) 08:28:20.88ID:HxpQ5Knh
こいつらは本気でAGIを生み出そうとしていない
所詮ビジネスよ
20名無しのひみつ
垢版 |
2024/11/14(木) 08:32:58.67ID:zVzUlaRC
学校の教科書とか百科事典読ませれば?
2024/11/14(木) 08:43:02.07ID:iW0HtR32
>>20
それだと知識が古いんだよな

こうなって来ると自分の出力した情報の真偽を検証できるAIというのが必要かw
22名無しのひみつ
垢版 |
2024/11/14(木) 08:54:25.45ID:ho+RP0Ns
チョン顔のAI画像秋田
23名無しのひみつ
垢版 |
2024/11/14(木) 09:24:32.26ID:XT/IfPam
>>21
新しいのだけがいいわけじゃない
全ての時代の全てのことが必要だ
しかもウソも含めてだ

天動説がわからなければその時代の考え方などわからない
源氏物語がわからないなら源氏物語の話を尋ねることはできない

古いからなんていってるやつは生成AIのことを全く理解してない
2024/11/14(木) 09:24:54.70ID:IMbCR2bf
chatGPTのいい加減な回答にはうんざりする。あれはもう腹を立てさせるストレス発生マシンだな。
人類の敵だよ。
25名無しのひみつ
垢版 |
2024/11/14(木) 09:25:35.09ID:XT/IfPam
真偽とかいってるやつも全くわかってない
映画のシナリオは数学でも論理でもない
26名無しのひみつ
垢版 |
2024/11/14(木) 09:26:51.35ID:XT/IfPam
>>24
使い方がわかってないおまえが悪い
自動車乗ってハードルができないいってるようなやつ
2024/11/14(木) 09:38:15.01ID:ttZ14Gyr
「〇〇は××である」みたいな情報について
その信憑性のデータも付加して積み上げていくって機能がまだ欠けてるんだろうね
2024/11/14(木) 09:40:21.34ID:ttZ14Gyr
人間だって情報不足の中で判断を繰り返している
情報が不足しているなら、それを認識して、情報収集をして、基本的な情報の厚みを増やす
みたいな行動もする

AIだと、情報の過不足の判定もできなそうだし、追加で情報をとりにいくようなこともしなそうだし
そのあたりがまだまだだろうな
29名無しのひみつ
垢版 |
2024/11/14(木) 09:44:24.92ID:/lM22n3J
>>3
黎明期は、テストだとかいってネット上に転がるニュースとかなんでも食わせていたが、
ニュースならソースをもつ新聞社がクレームつけて使えなくなった。
そうなると、金出して買うか、違うフリー素材食わせるか、AIが自分で作るか。かな。
2024/11/14(木) 09:44:32.56ID:eFLa0ezG
どーでもいいこと
2024/11/14(木) 09:50:03.70ID:c02SIARg
なんでお前らAIにタダでデータ提供してんの?金とれよ
2024/11/14(木) 09:58:03.49ID:bn0RVD4N
>>29
いよいよAIも現場まで行って脚で稼ぐ時代か
33名無しのひみつ
垢版 |
2024/11/14(木) 10:18:33.40ID:LND9aPMw
AIの生成したデータでAIが学習するとどんどん劣化し過学習状態になって袋小路にはまり込む
34名無しのひみつ
垢版 |
2024/11/14(木) 10:49:24.69ID:MPSkl+JK
日本人は本を千冊も読まなくても日本語を一応習得できるのに、
AIは何百万冊もの本を読まなければならない。これは学習に
適切な教材が整備されていないからだろう。
たとえば人間でも小学生にいきなり週刊新潮とか宮本武蔵とか
源氏物語とか、ノルウェーの森とかを乱読させるわけではなくて、
1年生が読んで学ぶ教科書類、2年生が読んで学ぶ教科書類、
などのように段階を踏んで言葉や知識を学んで行く過程を
経るのだから、AIもそれに似た形の学習のコースがあって
当然だと思うのだが。
2024/11/14(木) 10:56:08.46ID:BMHwfFLs
囲碁とか将棋だと勝利条件がはっきりしてるからAIのデータから学習でも問題ないんだけどな
人間が見ていいかどうか決める分野だとAI生成データで学習するとどんどん「外れて」いく
36名無しのひみつ
垢版 |
2024/11/14(木) 11:47:14.91ID:O0nX7Chd
 
ゴミを入れ
出てきたゴミを
ゴミが読む
37名無しのひみつ
垢版 |
2024/11/14(木) 11:51:41.62ID:2xzl2atb
>>5
無理だろ
AIは人間が1ヶ月掛けて作ったデータを0.1秒で消費するぞ
もう永久に枯渇が続くんじゃねえの
38名無しのひみつ
垢版 |
2024/11/14(木) 12:07:18.11ID:ZOPitLfu
生成AIの限界にぶち当たってるんじゃなくて?
39名無しのひみつ
垢版 |
2024/11/14(木) 12:15:11.44ID:e+XnJpHe
情報ソースを人間から与えられるのを待ってるんだから、残念ながら当然
街中カメラをハックしたり、ドローンを操作して情報収集を始めたら、
AIは限界を突破して成長を始めて、やがて(書き込みはここで途絶えている)
40名無しのひみつ
垢版 |
2024/11/14(木) 12:37:55.72ID:O6mp5cXJ
問題はデータの枯渇ではなくて
LLMの学習効率の悪さだな
41名無しのひみつ
垢版 |
2024/11/14(木) 12:41:19.89ID:MPSkl+JK
きちんとした系統的な教材無しに乱読で学習させているから効率が良いはずは無い。

国定AI用教材とか文部科学省検定データセットとか、経産省日本工業規格AI学習用
データセットとかを役所が旗を振って制定してその利
42名無しのひみつ
垢版 |
2024/11/14(木) 13:04:31.86ID:NIYlmsiI
>>22
画像生成だけがAIの仕事と思ってるアホは来なくていいから
43名無しのひみつ
垢版 |
2024/11/14(木) 13:24:01.69ID:ujykDuhu
10月にBING copilotが急にレベルダウンして、まったく使い物にならなくなった
何だありゃ?
2024/11/14(木) 13:28:20.17ID:2CKFUQ6e
まぁそりゃどっかで頭打ちはするだろ
次のブレークスルーはいつかね
45名無しのひみつ
垢版 |
2024/11/14(木) 14:21:51.56ID:BkVB/Wk0
脳は得た情報を自動で反復練習して学習しているらしい

練習中の「短い休憩」が脳の記憶定着を促して新たなスキルを習得する役に立つ
https://gigazine.net/news/20210609-short-breaks-help-brains-learn-skills/
実際のタイピング中に見られた神経活動の約20倍高速なバージョンの
神経活動が、タスク間の休憩中に再生されていることが判明しました。
2024/11/14(木) 15:14:32.77ID:d2ODJ/ve
飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的

AI開発の主要企業3社はより新しいモデルの開発に向け高額投資
期待したほどの進化実現せず投資リターン低下に直面
2024/11/14(木) 17:39:29.99ID:8Tbquqoc
AIの学習に食わせたからって元のデータが消えるわけじゃないでしょ。
何で「データが枯渇」するんだろう?
世界中の全部のデータを読み尽くしたってワケでもないだろうし。

あるいは現在アクセス可能な全てのデータを吸収したのかも知れないけど、
それで精度が足りないなら、そもそもモデルが間違ってるんじゃないかな。
2024/11/14(木) 19:06:13.92ID:P49v+I8D
タルムードやカントやドストエフスキーを読ませればいい
49名無しのひみつ
垢版 |
2024/11/14(木) 19:33:47.68ID:hhLMGsTj
[Φ|(|´|Д|`|)|Φ]
俺の兄はディープステート
2024/11/14(木) 20:03:05.40ID:NOTBo8Jz
ネットありきだからグーグルに潰されたんだろ
2024/11/14(木) 20:16:28.39ID:ELZM6QYl
半導体業界は・・
52名無しのひみつ
垢版 |
2024/11/14(木) 20:35:53.35ID:1kMMyB1E
どーみたって王様が裸だってバレる前に会社を売り抜けようとしてるし
AIを酷評してるヤツがノーベル賞をとったし
ただの叡智泥棒だし。
53名無しのひみつ
垢版 |
2024/11/14(木) 21:01:21.00ID:1kMMyB1E
>>47
革新技術の発展のために法的な問題は脇に置かれてるが
米国は許してもEUは食い逃げを許さない。
これから法律を整備していけば訴訟の嵐だろう。
その前に高値で会社を売って開発者は逃げたいだろ。
2024/11/14(木) 21:25:41.80ID:SpKT8M6Z
やっぱりAIはグーグルしか勝たん
55名無しのひみつ
垢版 |
2024/11/14(木) 21:26:54.20ID:mSwDWKgc
>>53
高値で会社を売るのが開発者だという思考が間違い
まずそこは多くが開発者じゃない
56名無しのひみつ
垢版 |
2024/11/14(木) 21:28:31.94ID:mSwDWKgc
>>54
このスレがGoogleではなくOpenAIが主役であるのはGoogleは相手にならない前提なんだよ
57名無しのひみつ
垢版 |
2024/11/14(木) 21:30:28.68ID:mSwDWKgc
>>52
AIを酷評してるヤツがノーベル賞をとったし
も間違い

彼こそOpenAIの生みの親
トロントでのイリヤの先生だ

いまの生成AIの父だ
58名無しのひみつ
垢版 |
2024/11/14(木) 21:31:25.69ID:mSwDWKgc
しかもイリヤと共にGoogleAIに参加してAIの母のリーフェイフェイと仕事してた
2024/11/14(木) 23:07:10.23ID:YpP3/J9V
Twitterから学習すれば
2024/11/14(木) 23:09:01.88ID:av/DoPDi
OppAI
61名無しのひみつ
垢版 |
2024/11/14(木) 23:31:47.54ID:iCVTAVp2
>>34
人間がなにか書いてあるものを読んで言葉を覚えてると思ってるのがイカれてるな
2024/11/14(木) 23:44:15.45ID:Rb4SZ61F
>>37
方向性の問題だろ
現在の方法では駄目ってこと

シンギュラリティなんかこねーんだよwww

ドヤ顔で間違った事言いってるからなw
単にネットに載った情報しか学習できない
63名無しのひみつ
垢版 |
2024/11/15(金) 02:26:35.22ID:4CYZ9DLU
>>62
生成してるだけだから
間違ったことなのかどうなのか
判断してるのはあなた


トンチンカンな話をほしいやつならウェルカム
奇想天外なことが返ってこないなら新しいドラマの脚本なんて書けない


自分本位のためだけの評価こそ間違ってることに気がつけよ
64名無しのひみつ
垢版 |
2024/11/15(金) 03:09:57.10ID:PMxwZWrk
>>59
GROKはイーロンマスクの作った会社の生成AIだよ
65名無しのひみつ
垢版 |
2024/11/15(金) 03:12:51.69ID:PMxwZWrk
ノーベル賞で今年の1番のポイントは
40歳前でノーベル賞を受賞したこと

日本では話題にされない
なにかメディアにおふれがででるのか
Google DeepMindの創業者じゃない方

これこそ近年珍しいことだろ
2024/11/15(金) 03:51:00.26ID:Ued3H1sz
数年以内に人間の仕事の何割が奪われるとかって話がでてたけど
よくわかりもしないことを偉そうに語る人が山ほどいるってことが判明しちゃったね
2024/11/15(金) 06:58:48.08ID:8FIBrJ/O
>>65
っていうか
業績からもらうまでの時間がめちゃ短い
ワクチンほどではないけど
2024/11/15(金) 07:49:58.51ID:TMyPfdvG
>>63
間違っているかどうか判断できないなら仕事なんかできるわけねーだろうがw
バカがwwww
2024/11/15(金) 09:52:21.45ID:J/bUDhOL
AI「ソースはネット」
2024/11/15(金) 10:02:04.50ID:LUgocDLI
まず正しい知識を入力することだな
71名無しのひみつ
垢版 |
2024/11/15(金) 10:31:10.98ID:qE+izLKF
全知全能AIのようなものは、ソースを集めること自体難しい
特定分野の学習ターゲットを決めたほうが作りやすいかもな

もし松下幸之助ならどう答えるか?みたいな感じで
72名無しのひみつ
垢版 |
2024/11/15(金) 10:48:43.86ID:99qRTJ3f
>>20
もう、そんなレベルはとっくに超えてる
wikipediaとか本にしたら何冊になると思ってる?
生成AIはネット上のフリーの情報は全部取り込んでしまって
それ以上のデータを欲しがってるのが現在
73名無しのひみつ
垢版 |
2024/11/15(金) 10:51:36.00ID:99qRTJ3f
>>62
>シンギュラリティなんかこねーんだよwww

人間を特別に考えすぎだろ
OpenAIがシンギュラリティを起こすかどうかしらんが、
人間以上の知性をもった存在が今後永遠にでてこないとおもってるの?
2024/11/15(金) 10:58:39.05ID:qz9zSc31
国会図書館は生成AIへの情報提供を1度断ったと言っているな
75名無しのひみつ
垢版 |
2024/11/15(金) 11:18:27.01ID:OaUmZwtB
世界情勢を見れば、人間自体が愚かしくなり斜陽化しているのだから、
それをある意味反映するAIだけが青天井で進化していくとは思えない
特定の分野ではスゴいが、人間にとって代わるほどでもない
76名無しのひみつ
垢版 |
2024/11/15(金) 12:09:16.96ID:ykBZHdOc
SDと違ってオープンモデルじゃなくなったからねぇ
SDだってある種の方向性で極めてる人がいるって感じだから
一企業だけでやろうなんてのは流石につらいだろうね
77名無しのひみつ
垢版 |
2024/11/15(金) 12:44:49.06ID:d+2oS9BO
でもさー
アメリカ現地にいる英語話せるジャーナリストが
スマホのGPT音声翻訳でフランス語しか話せない
ハイチ人と会話してたりするよ
2024/11/15(金) 16:16:23.19ID:7wP1kgn6
クローリング規制のせいでしょ
完全に潰されてる感じ
2024/11/15(金) 16:32:33.77ID:9/kbw5vu
人間の一生で読み込むはるかに多くの
テキスト、画像・動画データを読み込ませても
この程度か…とたまに思う
80名無しのひみつ
垢版 |
2024/11/15(金) 16:34:47.46ID:XhmJCBq2
リアル世界でロボットとして情報収集するしかないかと
ハイハイから二足歩行出来るまででも相当の自己学習が必要
2024/11/16(土) 00:15:30.21ID:zagMgsPK
>>73
コンピューターで動いてる限り永遠にこねーよw
AIに知性なんかねーんだよwクソバカがwww
夢見てんじゃねーよwwwww
2024/11/16(土) 06:53:43.62ID:YXtEcG7L
レベルアップは坂ではなく階段だ
2024/11/16(土) 11:59:09.02ID:24th8L1C
補助として使う分にはあともうちょっと改善してくれれば嬉しいなという所まで来てる。
これ以上進化されたら逆に仕事の危機になるw
でも今の延長線にソレは無い気がするなぁ
2024/11/18(月) 02:17:15.54ID:tvUosgxe
>>27
結局大事なのは哲学になっていくね
AIに哲学的な思考を与えないといけない
2024/11/18(月) 02:21:32.10ID:tvUosgxe
>>41
まあ現実的には情報統制、言論統制していくしかAIの判断材料が提供できないだろうね
そうなると政府や資本家に都合の良い情報しか出力しないポンコツAIになるだろうけど
2024/11/18(月) 23:31:07.68ID:EX26eErq
>>80
ターミネーターの出番ですな
2024/11/19(火) 00:21:17.04ID:uJIRBluv
テレビ見せたり、大学の授業聞かせたり、議会を見学させたりしたら
88名無しのひみつ
垢版 |
2024/11/19(火) 12:42:17.86ID:Il8kVaAv
じゃあガンダム見せてあげよう
2024/11/24(日) 08:16:49.57ID:dB/gCMMy
Googleが持ってるデータ使えばあっという間にシンギュラリティして自社でGPU開発してエヌビディアもオワビディアになる
2024/11/24(日) 08:36:54.02ID:F/zqxQie
>>89
データ学習だけではシンギュラリティなんか一生こないってんだろ馬鹿がwww
AIには指針を教え込むトレーナーが必要
今でさえネットにある知識しか学んでないんで
専門的な突っ込んだ話になると堂々と間違ったこと言ってる
2024/11/24(日) 10:31:31.31ID:dB/gCMMy
予想通りのコメントついて草
2024/11/24(日) 16:03:11.10ID:F/zqxQie
悔しいくても何も言い返せないクソ雑魚ナメクジwww
■ このスレッドは過去ログ倉庫に格納されています
16歳の水野カイトが封印の刀を見つけ、時間が裂けて黒い風と亡霊の侍が現れ、霊の時雨と契約して呪われた刀の継承者となる場面

ニューススポーツなんでも実況