NVIDIAに激震、日本製GPU「SambaNova」が発表、「VRAM 1TB」搭載 [422186189]

1 ：：2023/04/27(木) 11:22:32.13 ID:PXYS2PHp0.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
ディープラーニングが激速に　NVIDIAの牙城を崩せるか？　SambaNovaに聞く
https://news.yahoo.co.jp/articles/326b043463fa13c1278d467c12436d127f099c67?page=1

2 ：：2023/04/27(木) 11:22:49.76 ID:PXYS2PHp0.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
ディープラーニングにおいて、NVIDIAのGPUが欠かせないことはもはや一般常識だと思う。いくらAppleが華々しく「Apple Silicon」を喧伝しようが、AMDが「ROCm」を喧伝しようが、ディープラーニングにおいてはNVIDIAのGPUに勝るソリューションは存在しないというのが常識だった。

GPUより高速になる仕組み（a）が従来のGPUによる実行処理 （b）はデータフローによる実行処理

今、この常識に風穴を開けようとするシリコンバレーのスタートアップがある。

それがSambaNova Systems社（以下SambaNova）だ。最近では、日本の最新鋭スーパーコンピュータである「富岳」を運営する理化学研究所計算科学研究センターにも採用されたことで話題になった。しかし日本では全く知られていないこの会社、その勝算は一体どこにあるのか？　SambaNovaのカントリーセールスディレクターである鯨岡俊則氏に話を聞いた。

3 ：：2023/04/27(木) 11:23:11.98 ID:PXYS2PHp0.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
（中略）

データフロー型では、このノイマン型のアプローチをやめ、演算ユニットから演算ユニットへ直接データが流れていきます。メモリとプロセッサの間をデータが往復するのではなく、演算ユニットから演算ユニットへデータを流し込んでいくのです。その結果、高速なメモリが不要になります。現在の実装では1TBのDDR4メモリを搭載しています。

――ちょっと待ってください。通常、GPUに搭載できるメモリ（HBM）は80GB程度が限界ですよね？　それがデータフロー型だと1TBまで拡張できると、そう解釈していいんですか？

鯨岡氏　演算ユニットとメモリの間をデータが頻繁に往復しないので、DDRのような一般的なメモリで十分ということですね。

例えば、実際にSambaNovaの再構成可能なデータフローユニット（Reconfigurable Dataflow Unit、RDU）でできることの例として石油開発のために地下の状況を分析する3次元セグメンテーションのタスクがあるんですが、このタスクで比較すると、GPUでは解像度が128x128x128くらいが限界なんですね。ところがRDUを使えば512x512x512と、一目瞭然と言って良いほどに解像度を上げられるわけです。

4 ：：2023/04/27(木) 11:24:14.54 ID:zHlW5yRl0.net

産婆の婆

5 ：：2023/04/27(木) 11:24:54.33 ID:PXYS2PHp0.net ?PLT(12015)

https://img.5ch.net/ico/folder1_03.gif
（中略）

――具体的には、どの程度の性能差があるんですか？

鯨岡氏　簡単にいえば、同じ規模のシステムで比較して6倍高速です。それまでDGX A100で約300日かかったGPT 13Bの学習が、SambaNovaのRDUを8基搭載したSambaNova DataScaleで約50日で済む計算です。

6 ：：2023/04/27(木) 11:25:34.85 ID:FBIlZ6YY0.net

日本企業では崩せない
崩れる可能性があるのはMicrosoft、Google、Amazonぐらい

7 ：：2023/04/27(木) 11:26:29.88 ID:vgOLoNto0.net

日本語でおk

8 ：：2023/04/27(木) 11:27:20.73 ID:MbKTF3eg0.net

どうせ高くて普及しないから頭打ちなんだろ

9 ：：2023/04/27(木) 11:28:07.19 ID:2Xg0zGcZ0.net

中国製ならまだしも日本製じゃダメだろ

10 ：：2023/04/27(木) 11:29:03.62 ID:rrp64qE30.net

100wくらいでお願いします

11 ：：2023/04/27(木) 11:30:24.81 ID:HzzBhYk/0.net

>>6,9
シリコンバレーって書いてあんじゃん
何言ってんのお前ら？

12 ：：2023/04/27(木) 11:32:13.23 ID:5wn2ScN80.net

同じ規模のシステムと比較するとお値段10倍とかなオチ

13 ：：2023/04/27(木) 11:32:27.44 ID:FpN5N/Vg0.net

富岳のやつか
実物一度くらい拝んでみたいもんだ

14 ：：2023/04/27(木) 11:32:45.05 ID:VI0C97HQ0.net

戦後体制完全終了したからね
日本が全ての縛りプレイをやめたからね（笑）
全てを日本製に置換するからね（笑）

15 ：：2023/04/27(木) 11:33:17.56 ID:Dpk7t5pQ0.net

GPUというモノではなくソリューション

16 ：：2023/04/27(木) 11:35:53.53 ID:LTxmUqo/0.net

アメリカ企業じゃん

17 ：：2023/04/27(木) 11:37:54.99 ID:yMAjigf60.net

日本の工場で作るの？

18 ：：2023/04/27(木) 11:40:26.41 ID:hYO03IdF0.net

ふしぎの海のNVIDIA

19 ：：2023/04/27(木) 11:45:36.18 ID:c0sCBkyA0.net

>>18
いーまきーみーのー目にー
いーぃっぱーいーのメーモリー

20 ：：2023/04/27(木) 11:47:21.10 ID:OLaOIyCX0.net

>>12
10倍の値段で6倍の性能ならお値打ち価格

21 ：：2023/04/27(木) 11:47:47.31 ID:OfbIbkl50.net

(ヾﾉ･∀･`)ﾑﾘﾑﾘ
日本のIT産業が凋落したのはスマホで証明済み。

22 ：：2023/04/27(木) 11:51:15.89 ID:cI6CaOWF0.net

グラボにもメモリスロット付けて自分でGDDR買ってきて増設できるようなシステムにしてくれんかな

23 ：：2023/04/27(木) 11:53:56.45 ID:MbKTF3eg0.net

>>22
なんで出来ないの？
すぐ出来そうなもんだけど

24 ：：2023/04/27(木) 11:58:55.89 ID:uBTdDBxr0.net

ファイルサーバしか思いつかん

25 ：：2023/04/27(木) 12:05:14.38 ID:+STe5jcL0.net

>>22
むかーし2Dグラボの時代にはあったな

26 ：：2023/04/27(木) 12:08:03.81 ID:GMqaSXLk0.net

CUDA使えんの？

27 ：：2023/04/27(木) 12:08:41.70 ID:L86q60Bi0.net

産婆「あっ…（ｷｭｯ）」

28 ：：2023/04/27(木) 12:13:04.37 ID:cI6CaOWF0.net

>>23
そら商売上の理由だろ
iPhoneがメモリスロット付けないのと同じで、できないんじゃなくてやらない

29 ：：2023/04/27(木) 12:13:57.48 ID:kw2cG63L0.net

>>20
これな
金を時間で生むシステムとか時間を買うわけだから10倍なら激安だろ

30 ：：2023/04/27(木) 12:18:12.05 ID:g6Vao4uL0.net

高速化のため配線長を短くしてるんだから、スロット化は無理だろ

31 ：：2023/04/27(木) 12:20:17.94 ID:Sz/LQKck0.net

>>21
営業関係者がゴミなだけで技術者自体のレベルは高いよ

32 ：：2023/04/27(木) 12:21:12.27 ID:GQHbwp5L0.net

これGPUじゃなくて並列演算ユニットやんか

33 ：：2023/04/27(木) 12:22:59.46 ID:yrOJtw8K0.net

サンバのリズム

34 ：：2023/04/27(木) 12:24:10.90 ID:pHq8oA7i0.net

ドライバが全てってマジなんか

35 ：：2023/04/27(木) 12:24:52.77 ID:d04iKYWD0.net

ノバ！

36 ：：2023/04/27(木) 12:27:30.39 ID:VqlrJRgO0.net

アヒルが三羽で…

37 ：：2023/04/27(木) 12:28:03.99 ID:VTNntHq00.net

>>22
それな
多少遅くても安いグラボにメモリ3倍積みたいんだこっちは

38 ：：2023/04/27(木) 12:30:11.58 ID:vHN7dyub0.net

ゲフォもラデも駆逐されるのか！
日本凄い　ありがとう安倍晋三、ありがとう高市早苗

39 ：：2023/04/27(木) 13:22:44.64 ID:2lruU8hs0.net

>>33
遠藤章造おるやん

40 ：：2023/04/27(木) 13:32:53.89 ID:kv1Vrnar0.net

GPUってマイニングバブル終わったと思ったらAIバブルが来るのか？

41 ：：2023/04/27(木) 13:37:53.02 ID:Jv+a2I2P0.net

不具合多そう

42 ：：2023/04/27(木) 13:48:35.21 ID:qlPAq4gZ0.net

コア情報が少ないけど
ナイアガラ？
聞いたことなかったけど32スレッド？
9000とかのCUDAコアにかてるの？

43 ：：2023/04/27(木) 13:56:27.71 ID:PGXjaup00.net

>>4
キュキュッのキュッ

44 ：：2023/04/27(木) 14:01:35.44 ID:28KsePmS0.net

お高いんでしょ？

45 ：：2023/04/27(木) 14:05:11.82 ID:dBNu1Kfe0.net

あくまで理論値の話・・・

46 ：：2023/04/27(木) 15:30:47.30 ID:MbKTF3eg0.net

>>28
業界トップや2位がやらないのは当然
シェアを拡大したい他メーカーがなぜやらないんだ？って意味
中華メーカーが空気読まずやれば需要あるだろうに

47 ：：2023/04/27(木) 16:10:03.92 ID:jzdM/XDQ0.net

俺はたまたま安かったからクアドロ使ってる

48 ：：2023/04/27(木) 16:26:13.95 ID:gmvAVyze0.net

日本製なんて1ミリも書いてないw
シリコンバレーの会社じゃねーか

49 ：：2023/04/27(木) 16:34:01.70 ID:6AxKzg5W0.net

対応ソフトがないやろ

50 ：：2023/04/27(木) 16:41:25.73 ID:6AxKzg5W0.net

>>22,28,46

基板上ですら配線が遠すぎて通信速度が遅いから
GPUのチップの上に貼り付けようって時代なのに
(HBM2とか)

ソケットで外付けとか論外だろ

51 ：：2023/04/27(木) 16:48:06.26 ID:6AxKzg5W0.net

5GHzになると光速でも1クロックで6センチくらいしか進めないからな
電気の速度はその6割程度

52 ：：2023/04/27(木) 17:37:22.44 ID:MbKTF3eg0.net

>>50
CPUってソケットじゃなくて直付けだっったら爆速になるの？
人間が体感できるほどに？

無茶苦茶遅くなるからソケット式に出来ないなら分かるけど、体感できない程度にちょっと遅くなりますくらいだったらトレードオフするんじゃないの？

53 ：：2023/04/27(木) 17:38:33.23 ID:NZ2aiL4c0.net

産婆農婆

54 ：：2023/04/27(木) 17:40:26.77 ID:znGw1DjO0.net

windows XP で作動するなら買ってやっても良いぞ

55 ：：2023/04/27(木) 17:41:11.65 ID:hMHj88yS0.net

藤井くんが採用したら信じてもいいよ

56 ：：2023/04/27(木) 17:54:07.88 ID:05I8fVYr0.net

で、おいくら？
ゲームに使える？

57 ：：2023/04/27(木) 17:54:35.97 ID:GQHbwp5L0.net

>>52
むしろメモリ直付けのほうが効果ある
それで性能確保してたのがPS2以降のプレステ

58 ：：2023/04/27(木) 17:58:19.80 ID:MbKTF3eg0.net

>>57
具体的にどのくらい効果があるもんなの？
プレステに関しては性能アップというかコストダウンという意味合いだと思うけど
プレステのメモリがソケットタイプになったから買うぞー！っていう人も居ないし

59 ：：2023/04/27(木) 18:02:18.16 ID:qe5hOXNy0.net

PS2以降のプレステってあれで性能確保してるの？
PS2はGCの半分ぐらいの実行性能しかないし


PS3は1年前に発売された360より低性能だし
PS5はSXに大差で負けてる

4ぐらいしか同世代で高性能なマシンがないのがPSなんだよな

60 ：：2023/04/27(木) 18:04:34.69 ID:GQHbwp5L0.net

>>58
エンジニアじゃないから知らんがなｗ
汎用設計すてた見返りに当日のPCよりデータ転送やレイテンシーが優秀だったと聞いたよ

61 ：：2023/04/27(木) 18:06:33.60 ID:0aZekG1b0.net

スレタイ詐欺

62 ：：2023/04/27(木) 18:07:14.34 ID:MbKTF3eg0.net

>>60
自分が知らないことを断言するとは思わなかったんで

63 ：：2023/04/27(木) 18:18:07.78 ID:BRpYDMyt0.net

転送速度の比較

https://hirofun.com/computer/pc/15291/

64 ：：2023/04/27(木) 18:20:32.55 ID:7hJ63fuy0.net

>>52
なんだこの頭の悪いレス
積層技術とCPUを基板直付する事に何の関係あんだよ
半導体同士をくっつける話だよアホの田舎もん

65 ：：2023/04/27(木) 18:21:30.64 ID:MbKTF3eg0.net

>>64
積層技術の話一切してないんで

66 ：：2023/04/27(木) 18:22:47.45 ID:Ttda7Lw60.net

震度1くらい？

67 ：：2023/04/27(木) 18:23:36.42 ID:HGKj32x30.net

>>1
日本製の要素が何一つないが、もしかして金だけじゃぶじゃぶ取られたのか？

68 ：：2023/04/27(木) 18:26:39.18 ID:7hJ63fuy0.net

>>65
お前はしてなくとも>>50はしてるよねw
話がかみあってないだろアホ

だいたい体感とか個人差のある曖昧な単語出す奴は信用されないよ？
そんなの「お前の感想だろ」で終わりだから
特にお前はとろい爺なんだからよ
納豆でもくってなさい

69 ：：2023/04/27(木) 19:53:39.83 ID:ToJWCbxl0.net

お前らはいつも喧嘩してるな

70 ：：2023/04/27(木) 19:55:36.65 ID:8DKIRfcc0.net

一生一緒にNVDAて言ったよね？

71 ：：2023/04/28(金) 03:17:09.41 ID:+8u3xLCK0.net

一般人が使うようなもんじゃないだろ
研究とかそういう類いのための物じゃねーの？

72 ：だっこちゃん(SB-iPhone) [DK]：2023/04/28(金) 12:04:52.50 ID:8vlDRMpG0.net

ちょっとその技術共同開発するニダ

73 ：シャブおじさん(茸) [ﾆﾀﾞ]：2023/04/28(金) 12:17:16.09 ID:xWYBPArB0.net

むちゃくちゃ絶好調じゃん
https://i.imgur.com/zL83Ptc.png

> 2023年4月25日
> ジェンキンス・フアンCEO
> 生成AIの登場により「AIにとってのiPhoneモーメント(人々に普及する段階)です」と表現
https://i.imgur.com/zw6CnBR.png

74 ：あどかちゃん(SB-iPhone) [CA]：2023/04/28(金) 14:57:11.78 ID:9hZzIRYr0.net

メモリー基板ハンダ付けは故障回避、ソケット省略によるコスト削減、接点による抵抗やノイズ対策での速度改善などなどメリットたくさん