Új hozzászólás Aktív témák

• #50550 S_x96x_S addikt b. #50549

  Új Válasz 2026-01-03 03:10:44 #50550

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz b. #50549 üzenetére

  nyilvánvalóan ebben a use case -ben ( "Our findings show that NVIDIA B200 does outperform AMD MI355X configurations for dense architectures and smaller MoE models." )
  - az nvidiának pillanatynyilag előnye van.

  De más use casekre ideális lehet az AMD
  mivel ugyanakkora árért
  - 3x annyi VRAM-ot ad ( 2304GB vs 756GB )
  - és extraként - ott van még 128 core CPU + CPU RAM = 3072GB
  
  amúgy VRAM hiányos esetben még a Strix Halo APU (128GB) is lenyomja az RTX 5090 (32GB) -et.
  Az AMD MI355-nél még az FP6 -ot preferálnám FP4 helyett,
  mert azt kifejezetten kigyúrta az amd extra tranzisztorokkal.

  ---

  https://www.oracle.com/cloud/compute/pricing/
  8*$8.60
  BM.GPU.MI355X.8 8 x AMD MI355X 288GB Matrix Core CDNA 4 AMD Infinity Fabric VRAM = 2304GB CPU core = 128 CPU RAM = 3072GB ; 8 x 7.68TB ; 8 x 1 x 400Gb/sec RDMA
  
  4* $16.00
  BM.GPU.GB200.41 4 x Nvidia B200 189GB (NVL72)BlackwellNVIDIA NVLINK VRAM= 756GB ; 4 x 400Gbps InfiniBand $16.00
  
  ---------

  amúgy az Oracle már listázza a GB300 -at ( Blackwell Ultra )
  ami több VRAM és gyorsabb hálózat,
  és nem is értem, hogy miért nem az szerepel az összehasonlításban.
  azzal szemben az AMD-nek csak 2x VRAM előnye lenne.
  
  BM.GPU.GB300.42
  4 x Nvidia B300 279GB (NVL72)Blackwell 4 x 800 Gbps $18.00

Új hozzászólás Aktív témák