【AI】わずか26分間の学習と1000円以下の計算コストでOpenAI o1-preview相当のAIモデルを構築する方法が発表される [すらいむ★]

**すらいむ ★** · 2025/02/07(金) 22:30:59.43

わずか26分間の学習と1000円以下の計算コストでOpenAI o1-preview相当のAIモデルを構築する方法が発表される

　2025年1月31日、スタンフォード大学で大規模言語モデルを研究するニクラス・ミュニホフ氏らの研究チームが、少ないデータサンプルと簡単な方法でOpenAI o1-previewとほぼ同等のスケーリングとパフォーマンスを再現する手法を、未査読論文リポジトリのarXivに発表しました。
　AIアーキテクトでソフトウェアエンジニアのティム・ケロッグ氏が、この論文について解説しています。

　[2501.19393] s1: Simple test-time scaling
　https://arxiv.org/abs/2501.19393

（以下略、続きはソースでご確認ください）

Gigazine 2025年02月06日 23時00分
https://gigazine.net/news/20250206-s1-simple-test-time-scaling/

**名無しのひみつ** · 2025/02/08(土) 06:52:14.67

これで全ての人が

AIによる特許戦争に参入できる

**名無しのひみつ** · 2025/02/08(土) 06:53:32.89

>>2
特許権を申請して

悠々自適の

人生生活を立てれる

**名無しのひみつ** · 2025/02/08(土) 07:00:07.69

スタンフォード大など、50ドル未満のコストでOpenAI o1レベルのモデルを開発
https://news.mynavi.jp/techplus/article/20250207-3124371/

**名無しのひみつ** · 2025/02/08(土) 07:14:39.03

O1を上回っているのですが・・・

**名無しのひみつ** · 2025/02/08(土) 07:16:55.51

>>4-5

**名無しのひみつ** · 2025/02/08(土) 07:19:33.04

未査読の発表か。
中学生のクソガキが悪用して
大量破壊兵器作ったりするのが
カジュアルになったりしなければ
いいがな。

**名無しのひみつ** · 2025/02/08(土) 07:46:44.68

スパイAI量産体制が整った

**名無しのひみつ** · 2025/02/08(土) 07:47:51.86

>>8
裏でプログラムを販売

犯人は警察に逮捕

新藩には逮捕されないで

稼ぎ放題

**名無しのひみつ** · 2025/02/08(土) 07:49:26.13

表と裏が日月関係

古来よりの盟約

**名無しのひみつ** · 2025/02/08(土) 08:02:22.32

arXivはアーカイブと読め

**名無しのひみつ** · 2025/02/08(土) 08:03:04.98

>>7
バカ
arXivがこれまでどれだけの貢献してるか知らない日本のバカ

**名無しのひみつ** · 2025/02/08(土) 08:16:06.87

openAI逝くの？

**名無しのひみつ** · 2025/02/08(土) 08:23:46.90

半グレー

**名無しのひみつ** · 2025/02/08(土) 08:24:57.38

>>14
皆さま

ウォーミングアップはおすみですか？

お金っ稼ぎの時代ですよ

**名無しのひみつ** · 2025/02/08(土) 08:25:55.84

>>14
警察の暴対法でも手が出せませんね

**名無しのひみつ** · 2025/02/08(土) 08:29:42.45

政権後見人をつけないといけない人はさらに雲隠れ

**名無しのひみつ** · 2025/02/08(土) 08:31:27.21

>>17
政権後見人 → 成年後見人

**名無しのひみつ** · 2025/02/08(土) 08:32:45.66

生活保護などを受けなら優雅な生活

**名無しのひみつ** · 2025/02/08(土) 08:33:56.71

精神病院に入院しながら

自由な出入りができる場所があるので

悠々自適な成果る

精神病院に住所を映している者もいる

**名無しのひみつ** · 2025/02/08(土) 08:35:38.97

施設に障碍者で入っている

名目上はね

単独で自由に出入りしているけれど

**名無しのひみつ** · 2025/02/08(土) 08:36:33.79

職員は楽だから何も言わないよね

**名無しのひみつ** · 2025/02/08(土) 08:37:51.53

>>22

盗聴盗撮や電波で仲を除くなよ！

バレルではないか！

**名無しのひみつ** · 2025/02/08(土) 08:39:25.67

アーカイブはコーネル大学か1990年初頭からやってる論文アーカイブだ
東大のように税金もらって遊んでるのではなく
大手スポンサーが寄付して運営するのがアメリカ
今流行りの生成AI論文もここが世界の中心だ

**名無しのひみつ** · 2025/02/08(土) 08:41:38.99

>>4
>>1にソースそのものがあるのに
日本人はこれだから世界についていけないんだよ

**名無しのひみつ** · 2025/02/08(土) 08:42:10.83

>>23
AIと組合して24時間監視なんてもってのほかだぞ！

**名無しのひみつ** · 2025/02/08(土) 08:43:48.16

計算コストって何や？電気代か？

**名無しのひみつ** · 2025/02/08(土) 08:46:28.21

高齢化社会を支える“見守りシステム”の開発に成功-カギを握った半導体ソリューションとは
https://news.mynavi.jp/techplus/kikaku/20240301-2889415/

**名無しのひみつ** · 2025/02/08(土) 08:47:26.05

>>28これとaiなんて組み合されれば終わってします

**名無しのひみつ** · 2025/02/08(土) 08:48:12.10

>>29さらにレーザー盗聴なんて組み合すなよ

**名無しのひみつ** · 2025/02/08(土) 09:01:59.52

ディープシークさん

**名無しのひみつ** · 2025/02/08(土) 09:06:07.49

>>1
DeepseekもこれもOpenAIが苦労して作ったモデルを蒸留したりファインチューニングしたのか
手法自体は既存のものでそんな技術的には大したことなくて
今後こういうDeepseekみたいな後乗りで楽にするズルい奴はいくらでも出てくるぞって
警鐘するための論文に見えるな

**名無しのひみつ** · 2025/02/08(土) 09:16:03.35

OpenAIの最高技術担当だったイリヤサスカバー曰く
アカデミックこそ技術の源泉
民間企業では最先端のことはできない
人工知能も1950年代からやられてきたが人間と同じことをやろうとして全く使い物にならなかった
アカデミックの中である時とても簡単なモデルを作ってくれた
これを使ったのが結果につながった

彼はGoogleAIに去年のノーベル賞のジェフリーヒントん教授にトロント大学で教わり2人ともGoogleに入ったアカデミックと最先端民間企業を知る人物

アメリカは大学が機能してる
日本は官僚養成校でしかない

**名無しのひみつ** · 2025/02/08(土) 09:20:38.36

つまりarXivはその知の源泉だ
日本人はバカだろ

ここには世界中の知が結集してる
中国名やインド名が必ずある
日本名はわずか

ここは企業のラボからもよく入る
企業の方が他の牽制的ガセっぽいのがあった
私が見たのはMicrosoftラボの中国系多数執筆次世代！とタイトルしたのに中身がないもの

玉石混交だがわかるやつならすぐにわかる

**名無しのひみつ** · 2025/02/08(土) 09:23:12.93

イリヤ曰くOpenAIが使ってるモデルは人間の動きとには全く及ばないその簡単にした簡単にしたもの
初歩的なもの
だから使えるものになった

だよ
人工知能という言葉に騙されるな

**名無しのひみつ** · 2025/02/08(土) 09:27:27.46

民間企業は時間に追われて最先端はできない
最先端を作るのはアカデミックだ

日本の心ある若者はアメリカに行きなさい
そうでないなら日本なら大学では何もできません
イリヤもロシアで生まれてイスラエルで引きこもりでオンライン学校で学び育って
カナダで教授に学んだ

引きこもりのオンライン学校は好きなことができ有益に時間を使えただ

やりたいことがあるなら
オンライン学校でいいわけだ
アメリカを目指しなさい
カナダもいいよ
トロント大学
そしてブリティッシュコロンビア大学
そしてアメリカスタンフォード

**名無しのひみつ** · 2025/02/08(土) 09:32:03.72

>>36
民間が研究所持てばいい
それを持てない零細は全部要らない

**名無しのひみつ** · 2025/02/08(土) 09:32:14.17

あくまでもベースモデルあっての話だが
そのベースモデルも蒸留でコピーできるからな

**名無しのひみつ** · 2025/02/08(土) 09:39:56.24

>>37
いや
民間ではできない

レベルが全然違う
頭がついていけてないだろ
コピーしてきたものの研究しか

**名無しのひみつ** · 2025/02/08(土) 09:40:42.48

>>38
この発想どまりが日本
応用研究しか頭にない

**名無しのひみつ** · 2025/02/08(土) 09:41:37.10

日本ではアカデミックと言いながら応用しかしてないからわからない

**名無しのひみつ** · 2025/02/08(土) 09:42:45.40

日本のアカデミックは翻訳したものを暗記させればそれで教授
翻訳したものを出版すれば印税
翻訳者が儲かる国

**名無しのひみつ** · 2025/02/08(土) 09:43:49.76

やたら言葉だけ難しい漢字とか使うから暗記が難しい
バカなことに時間かけてるのが日本のアカデミック

**名無しのひみつ** · 2025/02/08(土) 09:48:19.22

でこの用語は誰々センセーの言葉だから変えてはいけない
ってバカだろ
これが官僚的明治からの日本のアカデミック

**名無しのひみつ** · 2025/02/08(土) 10:04:55.34

指先などの手元がわかる

**名無しのひみつ** · 2025/02/08(土) 10:06:59.62

>>30 >>45

クレジットカードなどの暗証番号・・・

**名無しのひみつ** · 2025/02/08(土) 10:08:40.62

>>46
スマフォの入力などの認識かのう

**名無しのひみつ** · 2025/02/08(土) 10:11:25.91

>>47

公文章やテストのカンニングなど可能

**名無しのひみつ** · 2025/02/08(土) 10:13:21.29

>>47

最低でも顔認証などに切り替えないと駄目

**名無しのひみつ** · 2025/02/08(土) 10:14:31.32

3Dプリンターで通常の鍵は作成可能

**名無しのひみつ** · 2025/02/08(土) 10:15:46.66

>>50
他人が音波電波で鍵の形状を読み取れば合鍵は直ぐに作成可能

**名無しのひみつ** · 2025/02/08(土) 10:16:55.24

>>51
鍵をかけているから戸締りはできている

出来ていないですね

**名無しのひみつ** · 2025/02/08(土) 10:21:09.52

音合鍵作成可能

**名無しのひみつ** · 2025/02/08(土) 10:23:23.39

個体電池出力6600W 出力出せる持ち運びのバッテリーがるので

車で即作成完了

**名無しのひみつ** · 2025/02/08(土) 10:24:11.18

>>54
3dプリンターも車に乗せていればよい

**名無しのひみつ** · 2025/02/08(土) 10:31:37.28

ソフトバンク売り＋エクサウィザース買い

**名無しのひみつ** · 2025/02/08(土) 10:36:38.99

Qwen2.5は事前学習で10兆トークンを学習させたモデル
これの効率の良いファインチューニング手法ってことか。
計算リソースの投入ってどんなことをやってるんだろうね

**名無しのひみつ** · 2025/02/08(土) 11:07:52.45

>>39
サラリーマンでもノーベル賞もらえてんだが

**名無しのひみつ** · 2025/02/08(土) 12:55:36.87

>>25
己を棚に上げといて言えた口かっていう

**名無しのひみつ** · 2025/02/08(土) 13:53:16.18

AI食わせるデータをAIに食わせる前に厳選すると計算コストは下がるってことか

**名無しのひみつ** · 2025/02/08(土) 13:58:52.31

例えば80億人の人間の思考パターンを学習させるために
従来はまじめに全数サンプルを用いる手法してるところを
うまい具合にサンプリングして500万人分取れば済むっていうだけの話じゃね？

それか80億人分取ったけど、ほとんど重複して
パターン数はわずかしかなくて最適化した学習データが少なくて済むって話？

**名無しのひみつ** · 2025/02/08(土) 15:21:25.22

>>27
ミュニホフ氏らによれば、s1-32Bの学習コストは非常に低く、16基のNVIDIA H100 GPUをわずか26分間使用するだけでトレーニングが完了し、推定コストはわずか6ドル(約910円)に抑えられたとのこと。

とあるから、１台辺り１時間に換算した時の金額にして131円程だから電気代だけっぽいな

**名無しのひみつ** · 2025/02/08(土) 15:40:14.58

>>62
結局機器はそれなりのものを準備しないといけないのよね
市販のパソコンで動くAIができたらそりゃ革命だけど

**名無しのひみつ** · 2025/02/08(土) 15:45:11.02

この論文の執筆者の最後にあるのは
https://scholar.google.com/citations?user=5ygiTwsAAAAJ&hl=en
スタンフォードの日本人先生だな
アシスタントプロフェッサーだけど
この論文グループの先生だろ

**名無しのひみつ** · 2025/02/08(土) 16:06:28.63

簡単なんやねAIって♡

**名無しのひみつ** · 2025/02/08(土) 16:31:19.03

問題なのはo3相当がこの少ないコストできるようになってさらに発展した場合
あと、カスタムしたニッチ向けのモデルが少ないコストで作れるようになるのは大きいな

**名無しのひみつ** · 2025/02/08(土) 17:32:03.71

ドローン兵器に小型化したAI積めるようになって戦場投入できるな

**名無しのひみつ** · 2025/02/08(土) 17:40:37.18

アメリカには悲報だけど金ない新興国や日本にとっては朗報だな
とりあえず土俵には立てるようになる

**名無しのひみつ** · 2025/02/08(土) 17:45:35.03

ドローンがしゃべるわけ？ｗｗｗｗ

**名無しのひみつ** · 2025/02/08(土) 18:15:27.35

結局NVIDIAのGPUが必要である事には変わりないじゃないか

**名無しのひみつ** · 2025/02/08(土) 20:31:50.26

>>70
Interl ArcというGPUも使い方によってはそこそこ上手く動く
qiita.com/ishikaha/items/ec74ac8cb0c3eb4bb1e2

中国も妙なGPUを開発していてこれもAI性能は全く悪くはない

**名無しのひみつ** · 2025/02/09(日) 07:07:27.57

ガスライティングを効率よくできる

**名無しのひみつ** · 2025/02/09(日) 07:08:21.07

>>72
違法ぎりぎりの行為をして他人の人生を破壊できる

**名無しのひみつ** · 2025/02/09(日) 07:09:46.40

今の若者は強いぞ！

集団ストーカーもプロのスパイです

**名無しのひみつ** · 2025/02/09(日) 07:11:19.53

半グレーに泣いて感謝の意を示すんだぞ！

**名無しのひみつ** · 2025/02/09(日) 07:16:44.80

二極化が進むので>>1のaiはすでに裏社会に流しました

相当数が出回っていて

設定変更などのマニュアル付きです

私たちもいつ切り捨てられるか不明なので

バックアップで生存していく所存です

**名無しのひみつ** · 2025/02/09(日) 07:19:01.03

皆使用できれば混沌社会

これにて

切り捨てられても

食事は何とかとれる世界を目指しました

**名無しのひみつ** · 2025/02/09(日) 07:25:04.79

表社会の私どもは稼げています今はね

裏社会もついていけるようになりました

aiでさらなる技術革命も起こせます

裏モノの性能も格段に上がりました

安心安全の正規品です

高度な知識の学者で無くても

aiが先生です

**名無しのひみつ** · 2025/02/10(月) 13:33:13.71

1000円あればOpenAIレベルのAIが作れる　DeepSeekで注目の「蒸留」とは

**名無しのひみつ** · 2025/02/10(月) 13:34:18.74

>>79

アスキーのサイトで詳しく書いています

確かに本体pcもお金をかけないで済みますね

**名無しのひみつ** · 2025/02/10(月) 13:38:48.23

>>80

グラフィックカードを複数枚使用していますが

1枚で使用した場合単順位

かけ算したら完成までの時間が出ます

**名無しのひみつ** · 2025/02/10(月) 13:51:11.75

cpu 5NM以下

トンネルこーかを阻止してできている