Új hozzászólás Aktív témák
-
ddekany
veterán
Ezeket esélytelen kimatekozni (reális időbefeltetéssel)... Ha pl. a paramétereket sokkal ritkábban kell újra bemozgatni a compute "magok" SRAM-jába itt, mint H100-nél, az óriásit dobhat a teljesítményen. Szóval kéne látni konkrát benchmarkot, hogy neszetek, itt az akármelyik komkrét baromi nagy LLM model (Grok talán a legnagyobb, ami midenkinek elérhető), ez ennyi Wh-ból, meg ennyiért vett vassal, ennyi és kérést darált le, ennyi idő alatt.
-
S_x96x_S
addikt
> Azért az mem és fabric bandwidth az nem teljesen reális/összehasonlítható
a céges PR-ok sose a realitásra törekednek, hanem az előnyők túlhangsúlyozására ..
de azért nem olyan rossz, persze FP16 -ban még fejlődnie kell.
"One major advantage Cerebras has is memory bandwidth. Thanks to the 44GB of onboard SRAM — yes, you read that correctly — Cerebras' latest accelerator boasts 21PBps of memory bandwidth, compared to the 3.9TBps the H100's HBM3 maxes out at.
That's not to say Cerebras' systems are faster in every scenario. The company's performance claims rely heavily on sparsity.
While Nvidia is able to achieve a doubling in floating point operations using sparsity, Cerebras claims to have achieved a roughly 8x improvement.
That means Cerebras' new CS-3 systems should be a little slower in dense FP16 workloads than a pair of DGX H100 servers consuming roughly the same amount of energy and space at somewhere around 15 petaFLOPS vs 15.8 petaFLOPS (16x H100s 989 teraFLOPS.) We've asked Cerebras for clarification on the CS-3's dense floating performance; we'll let you know if we hear anything back.
https://www.theregister.com/2024/03/13/cerebras_claims_to_have_revived/bővebb elemzés:
https://www.nextplatform.com/2024/03/14/cerebras-goes-hyperscale-with-third-gen-waferscale-supercomputers/ -
Chiller
őstag
Azért az mem és fabric bandwidth az nem teljesen reális/összehasonlítható
Itt gondolom csak fogták a külön chiprészlegekhez allokált ramokat és összeszorozták
De ettől még nem fér hozzá folyamatosan minden "ALU" elem minden RAM elemhez, hogy ez érvényes legyen. Ettől függetlenül nagyon érdekes a cucc, és biztos benga erős is (amire használják). 10^12 azaz billió lesz az, magyarul. Angolul az a trillion. Félre lett fordítva.
-
S_x96x_S
addikt
https://www.cerebras.net/blog/cerebras-cs3
Az nVidia H100 -nál nagyobb.
![;]](http://cdn.rios.hu/dl/s/v1.gif)
)
De ettől még nem fér hozzá folyamatosan minden "ALU" elem minden RAM elemhez, hogy ez érvényes legyen. Ettől függetlenül nagyon érdekes a cucc, és biztos benga erős is (amire használják). 
Új hozzászólás Aktív témák
- OLED TV topic
- Parkside szerszám kibeszélő
- Synology NAS
- gban: Ingyen kellene, de tegnapra
- Milyen routert?
- Vezeték nélküli fejhallgatók
- NVIDIA GeForce RTX 5070 / 5070 Ti (GB205 / 203)
- OnePlus Nord 5 - lehűti a kedélyeket
- Hitelkártyák használata, hitelkártya visszatérítés
- Honor Magic V5 - méret a kamera mögött
- További aktív témák...
- Asztali PC , i5 7400 , 1660 Super , 16GB DDR4 , 480GB SSD
- Bomba ár! Asus N551JQ - i7-4710HQ I 8GB I 256GB SSD I GT845M I 15,6" FHD I Cam I W10 I Garancia!
- Bomba ár! Lenovo IdeaPad V330-15IKB: i7-8G I 8GB I 256SSD I 15,6" FHD I Cam I W11 I Garancia!
- Bomba ár! Lenovo IdeaPad V130-15IKB: i5-8G I 8GB I 256SSD I 15,6" FHD I Cam I W11 I Garancia!
- iPhone 16 Pro Max 256GB Black - 2026.05.28.-ig Nemzetközi Garancia
- Új Dell 13 Inspiron 5310 FHD+ IPS i5-11300H 4.4Ghz 8GB 256GB Intel Iris XE Graphics Win11 Garancia
- 6 és 12 GB-os Quadro RTX A2000 kártyák - garanciával
- Bomba ár! Fujitsu LifeBook U7310 - i5-10GEN I 16GB I 256SSD I 13,3" FHD I HDMI I Cam I W11 I Gari!
- ÁRGARANCIA!Épített KomPhone Ryzen 7 5700X 16/32/64GB RAM RTX 5060 Ti 16GB GAMER termékbeszámítással
- HIBÁTLAN iPhone 13 Pro 128GB Sierra Blue -1 ÉV GARANCIA - Kártyafüggetlen, MS3026, 91% Akkumulátor
Állásajánlatok
Cég: FOTC
Város: Budapest