- 機械学習には行列計算が効率良い
↓
GPU使える
↓
NVIDIAバカ売れ
↓
マイクロソフトが加算のみで推論可能なモデルを発表（GPUいらない）
↓
NVIDIAの株急落1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビット、つまり、行列の中身が0か1しかないのであれば、全ての計算を加算演算のみにできる。
加算と乗算では計算速度も負荷も段違いに異なるため、これだけのスピードの差が出ている。また、当然ながらメモリ効率も高い。このため、この論文では「積和演算に最適化されたGPUではなく、加算処理のみに特化した新しいハードウェアの出現」までもが予言されている。
今現在、世界各国が血眼になってGPUを確保し、囲い込んでいることを考えると、実に痛快な論文だ。![]()
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSorawirelesswire.jp2024.02.28
- ガチでヤバそうこれ
- 高速化する理屈はわかるけど、論文によるとなぜか精度も向上してるの意味不明
- あっあっあっ
- バカを扇動してイッチがほくそ笑むスレはもういいよ
- やっぱMicrosoftが最強なんやな
- まぁ上がりすぎだしそろそろ良いんじゃないかな
- すまんRyo Shimizuをソースにするのやめてもらえるか？？？
- 1 0 -1って1ビットじゃないやんけ
- スレタイのスペースなんやねん
- -1があるなら2ビットやんけ
- >>10
>>13
n=log2(3）で、1.58ビットだぞ - 熊本逝ったあああああああ
- だからチャート見ろカス
- 世の中の勢力図が一気に逆転しそうやな
- そらそうやろとしか言えんがビット演算で効率的な学習なんて出来るの？
- あーなるほどな
- log23で1.58ビットってことか
- データ量が多くなりそうだけど加算だけだから乗算より速いからええんか
キャッシュはどうするねんな専用CPUか？？ - インテル株価覚醒クルーーーーーーーーーー？
- 加算処理の連続って結局乗算じゃね
- >>24
お前は計算機科学のけぐらいは学んでから書き込め - んなわけないやん
- 1の要約も間違ってるしド級のゲェジ ドッゲェジやん🥺
- 暴落したら株買うか
- エッジ民「株価1000は越える！」
これなんやったんや
- >>28
ビットコインとおなじや - 1枚100万のボードなんて売り付けられたら代替手段探すに決まってるじゃん
- これで暴落するなら買うわ
- いや凄いなこれ
- Nの買い場くる？
- もしかしてチャンスか？
- これ落ちると恐慌はじまるんやが
- 凄いけど実際は精度だしこの方法をGPUで扱えるようにしたら結局とんでも速度で学習するようになるんやない？
- 推論なら学習にはグラボいるのか？
- Ryo Shimizuも元論文に1.58ビットと書いてあるのに1ビット連呼してるのマジでヤバイやろ🥺
- NISA空売りしてきたわ
NVIDIAの株が大暴落か Microsoftが「GPU不要の機械学習モデル」を発表 経済専門家「世界各国が血眼になってGPUを確保し囲いこんでることを考えると、実に愉快」
エッヂ
コメント