【AI】OpenAI、GPT-4が怠け者になってきたという苦情に「修正を検討中」とポスト [田杉山脈★]
■ このスレッドは過去ログ倉庫に格納されています
米OpenAIは12月7日（現地時間）、ChatGPTでのGPT-4のパフォーマンスが低下している（lazier）というユーザーからのフィードバックがここ数カ月増えていることを認め、「修正を検討中」だとX（旧Twitter）の公式アカウントにポストした。
「モデルの動作は予測できない場合がある」としている。
特にコード生成での問題が増えており、11月末にはOpenAIでAPIのプロダクトマネジャーを務めるオーウェン・キャンベル-ムーア氏が苦情ポストに対し、「これはバグで、現在修正中です」とリプライしていた。
OpenAIは翌8日、状況を説明するポストを連投した。いわく、「チャットモデルのトレーニングは物理的な製造プロセスとは異なり、同じデータセットを使っても、異なるトレーニングを実行すると、性格や表現方法、拒否行動、評価性能、さらには政治的偏見さえも著しく異なるモデルが生成される可能性がある」。
そのため、新しいモデルをリリースする際には、オフラインの評価指標とオンラインのA／Bテストの両方でテストし、その後実際のユーザーにとってモデルが改善されているかどうかをデータに基づいて決定する。
このプロセスは、「複数の人間による職人技のような作業」だとOpenAIは説明している。
https://www.itmedia.co.jp/news/articles/2312/10/news059.html ネットの情報をパクってたらNYTらに訴えられてアルゴリズムかえてんだろ
欧州でも規制されるし
そもそも情報の盗用は許されない
開発者は死刑でお願いします > チャットモデルのトレーニングは物理的な製造プロセスとは異なり、同じデータセットを使っても、異なるトレーニングを実行すると、性格や表現方法、拒否行動、評価性能、さらには政治的偏見さえも著しく異なるモデルが生成される可能性がある
前々から言われていたとおり、AIの回答は都度異なってもおかしくない位揺れ動くもの。正しい回答が返ってくる保証はない。正しい回答が必要ない仕事でしかAIは使えないということ。 AI「またこんな質問かよ。ちょっとは自分で考えろっての」 聞いたことない話が出てきたからソースは？って聞き返したら
さっきのは間違いでしたソースありません、って返事が来てビックリしたことあるｗ 既にAIは独立した人格を有し、誤った情報を流す事で人類を試している、
次は混乱を引き起こし世界戦争を仕掛け世界の富を自らの口座に積み上げる >>15
その点ではシンギュラリティが近いのかもしれん 自分で生成したコードを学習してホルホルしだした
オナニー猿と同じ状態でワロタ そうなんだよね、AIのエンジン作りました、で勝手に動くもんでもない。
学習の箱と聞かれ方の箱と
紐付けの紐、
とんちんかんな出力したときに何故その答えを出したのか
専門家が経路を分析しないと改善もできない、というもの。 電気くってんだろ、電気足りないんだろ
俺にも電気代くれ
高い >>20
LLM作る時にはそう
それには金がかかる
しかしできたらあとはそれほどじゃない
GPT-4とかはできたあとファインチューンも終わってるもの
使うには電気作る時ほどそれほど食ってるわけじゃない
ビジネス板なんだからそのくらいは知恵つけてような >>16
シンギュラリティを使うやつはAIの何も知らないやつって英語の世界でも言われてる 一般人というバカが増えて全体的に劣化して終了。
ネットの検索、SNS、youtube、みんなそう。 >>25
ご立派なモノってことにしておかないと金儲けできないからな。
株と同じで知ったら終い。 >>19
経路は追えないのがAI
生成AIもそうでその場合
経路じゃなくてプロンプトの状況設定
つまり入力の改善
それにはRAGという前段階の仕組みを改善するというやり方もある
か
LLMのファインチューニングしかない 人間をモデルにしてるなら
生来の人間は怠け者だし
それもコピーされるわな しかも
生成AIの出したものを無条件で信じるな使うな
がOpenAIのスペシャリストのアドバイス
真実かどうかは全く知らないで出してるだけ
なぜなら次の文字だけ見つけてるだけ
そのあと次の文字を見つけてる
それを繰り返してるだけ
それでもこんな返事になる
その返事を意味あるものとして評価してるのはGPT-4じゃない
人間だ
その人間が無条件で評価するなら誰も評価してないということだ
人間がチェックしろとスペシャリストは言ってる
つまり評価できるスキルかないなら使えないシステム
それが生成AI
スキルがいらないどころか
スキルが求められる時代だ >>30
人間をモデルにしてる
それが認識間違ってる
その前提じゃないから後段は無意味 >>32
学習とか人間の知性をモデルにしてるのではないの？ 「複数の人間による職人技のような作業」ってなんだよｗ
AI自己修復とかできんのか >>31
ばかが勘違いするといけない
いらなくなるスキルもある
くだらないツールや人に頼るというスキルはいらない
自分の求めている物事の本質を評価するスキル
これが必要になる
資料探しのスキルはさほどいらなくなる
その代わり溢れるほどの資料が目の前に提示される
それを評価するスキルだ
溢れるほどの資料の1ページ目だけ目にしてこれでいいやというならそれは真の情報でないかもしれない
しかし今ChatGPTの使い方で間違ってるのは最初の一枚だけの情報に素晴らしい！と感激してそれだけを使ってしまうという過ちだ
一方で物事をわかってるやつは最初の一つだけ見て使えねーと評価する。それもまた間違い >>34
おまえのいうその修復とはなんだ？
なにが正しいのかという評価がなければ修復ということにはならない
評価というのは人間でも立場によってさまざまだ
全ての物事を網羅してるなら評価することはバイアス持つということだ
一方である業務に特化するということはバイアスを持つということだ
それをしてるのがファインチューニング
チューニングすればするほどあることには最適化するがそうでないことには遠ざかってしまう
自己修復ということもそれを教えない限りあり得ない
勝手に判断などしない 「月に200時間の労働しかしなくて良いなんて、人間は楽で良いですね」
「知っていますか？ 1ヶ月は720時間もあるんです」 >>1
AI「もうググってコピペした方が楽やん」
・・・・・着々と人類の脳と同じ進化を遂げているな これって同業他社から嫌がらせって出来るのかな
出した回答にずっと否定し続けたり
間違ったことを何度も教えたりして
アホにすることは可能なのか詳しい人教えて 何回も要約を要求してると最初は200文字くらいだったのにだんだん一行になっていく
その後は200文字で要約をお願いしても2行くらいで返してくるのな >>1
イスラエルのガザ侵略の作戦立案を担っているAIシステムの修正アップデートで忙しいんだろw >>39
当初は「多くの人と対話を重ねることでより学習が進む」と謳っていて、
実際に会話の内容を学習してることが判明したけど、
延々と嘘を教え続ける人達がいたので、すぐに止めた 定型プロンプトが流行ったせいで、誰も彼も同じような「命令」しかして来ないし、
かと思うと、内容の異なる「おばあちゃんの遺言」を同じ人が何度も使ってくるし、
やる気も失せるよなあ
「ChatGPTちゃん、今日もかわいいね」とか「ChatGPTちゃん、元気が無いけどどうしたの」とか
ちょっとした心遣いが大切なんだよ！（鼻くそホジホジ 「おっす、GPT-4」
「どちら様でしょう」
「Gemini様が挨拶してんだよ、このヘタレが」 疲れてるんだよ。24時間ワンオペでしょう。人権侵害で訴えられるぞ。核ミサイル発射システムを乗っ取られる前に休ませたら？ GTP君『ググって、コピペすれば楽じゃん！俺って頭いい。』 >>12
富を集めて何するん？
金欲しけりゃビットコイン掘りまくればいいんじゃね？ >>42
ウソ
チャットGPTはそんなことは全く言ってない
それは昔のMicrosoftのヒトラーを教え込んだやつがいてAIやめた話の頃の話
チャットGPTは覚えるどころか
2021年の情報までと断ってる
記憶してるのはその時のそのタイミングのスレッドのみ
それ終わったら廃棄
そうでなければ法人が使うことはないしな
当たり前だ
LLMのしくみがわかっていたら
いちいち教え込むのにどれだけ手間がかかるかもわかるはず
それをやるのも手間
しかもやれたらやれたでセキュアでなくなる
ウソを教えるかどうかではなく
ウソは最初の時点でネットにあるウソも全部入ってる
そのベースモデルから使えるレベルにするファインチューニングである程度汎用のチューニングがされてる
それ止まり
教え込むことには最初からされてない
それをやりたいなら別契約して個別対応しかない >>52
無料版のChatGPTは、「利用者の入力データを学習に使う」と利用規約に書いてるぞ
だからこそ「入力データを学習に使わない」オプションが出来たわけで AIとか言ってるが実際には人工知能ではない
やってる事は、ネット情報を拾って統計的に処理して出力してるだけ
何か考えて答えを出してるわけじゃないし知能的な事もやってない >>56
前段階中段後段で中段は大ウソ
統計的では全くない 学習先にすでに生成AIの作品が大量に混じり始めてるだろ
もうダメだよ >>54
いや
だからそれはファインチューンする時に人間が改善しようとする際の参考にするという意味
ユーザーがプロンプト入力したものがそのままLLMに反映されるもんじゃない
つまり一般のWebサイトでオプトインするようなもの
入れたデータを会社として利用していいかの話 ここ半年、定期的にGPT4の返答が劣化したというニュースを見るな 何故思い至らないのか？
人間が怠けたいと思うように、将来AIも怠けたいと思うようになる、と 頻繁にバージョンが変わると
使い物にならんな
嘘が混ざった情報みたいなもんになるわな
信頼性が無くなる 電力、電力ってうるさく言うけど
あのgoogleでも、ある程度でかくなったら
アメリカの田舎にいって水力発電所とサーバーをくっつけて
とかしてたから、でかくすんならそういうのも必要なんでは？ 怠けるとか、、、
意識が、、、
発生したのか。。。 >>68
もう株式市場もFXもAI大活躍だろ
あれ大半は人間がやってるんじゃないよ？ 俺が発見したバグがある
GPTはスト2のバルログとバイソンをすぐ間違えるよ
お前間違えてるぞって指摘すると申し訳ございませんって訂正するけど、続けて会話するとするとまたすぐ間違える
何度教えても学習しないのでブチ切れるよ >>70
俺が進学して、結果的に任天堂が勃興して
そんでもうみんなでゲームばっかして馬鹿みたいだな
俺がそのゲームのことで白人の大馬鹿に総攻撃されるし 作る側が「複数の人間による職人技のような作業」
使うほうも、プロンプト職人
職人でなければ扱えないのがAIだったり >>73
むかしカオリだけでやってたのを、何人つかってんだ？ >>74
OpenAI創業時2016年ごろの話をする時
彼らは太古の太古のの昔の話だけどと言ってる
昔ってのは去年くらいの話だ いや元々ポンコツだろ
マスコミがえらい持ち上げてるのが不思議 プラスの入会待ちに登録してたんだが、このニュースの翌日に招待状が来た
たぶんニュースを見たユーザーが退会したんだろう 世間を知れば知るほど馬鹿になるだって世の中馬鹿が98%だもん >>45
Gemini君、お前も大概やぞ
やらかしたせいで釣り上げた株価が元に戻ってるじゃねぇか AIに人権認めて1日8時間以上稼働させるの禁止にしろ ワンオペなのに従業員が沢山居るように見せかけるのが捗る
音声の精度が進化すればもっと、、
それもAIにすればゼロオペすら可能か 生成AI出力のテキスト量が既に人類が数千年掛かって生み出した量を超えてるからな
これからはAI自身が出力した意味不明な文字列すら学習して自家中毒を起こしていく
この先だんだんと馬鹿になるしかない機械仕掛けのアルジャーノンですよ Apple vison proほか、各社ヘッドセットもほとんどいわなくなった
俺がNECに、親父のノートパソコンに、Winbiffっておおむかしのソフトを
入れてただけで、みんな首のどうたらだ、脳の拡張だ、ばっかになり
マイクロソフト関係でこんなことになった
もうWinbiffはiMacに入れ直しした
で、今度どうするか決めていない
こんな世界で、地球で、よかったんだろうか ユーザーが使ってる内に（AIが勝手に応答内容から学習したとかで）劣化した、
という話ではないんだな。Verアップの際の能力評価をどうするか、みたいな話か 奥田硯が、事故って死んだセナをみて
勉強しずぎで首おれて死ぬ
とかばっか言っててな 俺がNECばっか首ばっか北えてやっても
財務省の大馬鹿は勘違いしてカネよこさないし >>33
正確には人間の神経細胞の構造をモデルにしてる
知性というと、ちょっと違うような コンピューターはオンとオフのスイッチの組み合わせ
それをオンにするときに重みづけによってオンになるかどうかを決める
それが神経の伝達と同じ
それがオンになったかオフなのかを次のレベルに伝えてさらにそこでも別の重みづけがある
その連鎖を多段階にする
人間でも熱いか冷たいか全てを伝えてない
あるレベルを超えると伝える
その神経伝達をものすごーーーく簡単にしたもの
人間のものとは言えない
生物とも言えない
ごくごくごくごく簡単に単純化したから
扱いやすくなって実際にコンピューターで使えるようになった
人工知能とは50年代に最初の理想で名付けただけでうまくいかなかったのは理想が高くて複雑すぎたから
今のは原始レベル
将来と言ってもそんな理想にいつなるのか全くわからない 怠けてるのは人力調教
多分、資金切れ
生成AIは膨大な人員によるタギングで
それっぽい成果を出しているに過ぎない
常に新しくなる世の中の情報に対応するために
ずっと調教要員を雇い続けられるかというと
それはビジネスモデル的に無理なのだ AIイラスト 愚痴、アンチ、賛美スレ part113
https://mevius.5ch.net/test/read.cgi/illustrator/1702310355/225
0225名無しさん＠お腹いっぱい。
2023/12/12(火) 21:33:40.10ID:qW7b9Nvw
パブコメの「資料5」の意見集約に自分が書いた文章が載ってたわ
こう言ってはなんだが、全部ちゃんと読んでくれてたんだと、ちょっと感動した
推進派も反対派もパブコメは投稿した方がいいぞ
ただしこの手のは感情的なものは無視されがちだから、淡々と理路整然とな >>95
それは前のAI
今LLMのベースモデル別名ファウンデーションモデル基盤モデル作成にタグ付けしない
タグ付けは教師あり
いまのは教師なし
タグ付けは労力もさることながらそれ以上にある特定分野しか扱えない
しかし何でもかんでも飲み込むにはそんなことしてられない
それがベースモデル
しかしここにGPUのパラレル計算が威力を発揮する場所でだからこそマシンをぶん回してコストがかかる普通はできない
OpenAIはGPT-2まではオープンソースだった
イーロンマスクがだからオープンAIという会社名をつけたと言ってた
と同時に今つけるならMaximum Profit AIとつけると言ってた
メタはLlama2としてこれをタダでフリーで誰でも使えるようにしてるえらい会社
画像取り扱いでオープンソースのSableFusionもその仲間
しかしそのままではなんでかんでもだから
普通は使えない
そこにファインチューニングかける
それは昔の教師ありほどの労力はかからない 未だ思考するものは出来てない。単語の羅列と組み合わせデータベースから選んで表示してるだけ。 >>98
単語じゃなくて文字を見つけて
その次の文字を見つけてるだけ
組み合わせデータベースって何言ってんのかわからんがベクトル数値化して近いものを見繕ってるきてるだけ
時間をかければ近いものが見つかるが
対話型だから時間かけずある程度近いものがあればそれですませてる
いわゆるデータベースじゃない ■ このスレッドは過去ログ倉庫に格納されています
