Új hozzászólás Aktív témák

• #63895 S_x96x_S addikt Raymond #63894

  Új Válasz 2024-02-27 06:36:22 #63895

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Raymond #63894 üzenetére

  > Atyavilag, mondtam mar hogy ne csungj azon
  > az A6000-en, egy pelda volt,

  te hoztál fel olyan példát, amitől később el akarsz határolódni ..
  vagyis ne nekem tegyél szemrehányást ..

  A példádnak ( és a megoldási javaslatodnak)
  nincs jövője az NVLINK nélkül.
  ÉS NVLINK nélkül nincs jövőbeli gazdaságos helyi hostolás se
  ( az nVidia rétjén )
  Az A6000 Ideiglenesen jó ..
  de azért neked is el kell kezdeni gondolkodni a jövőről ..

  A tinybox ( 6x 7900 XTX ) - most 48 Gb/s GPU-GPU kapcsolatot tud.
  tesco gazdaságos gaming kártyákkal ..

  

  az optimista nézőpont ez:

  ver1:

  TinyBox :
  - a PCIe 5.0 + consumer RDNA4 -es kártyával
  ez kb a duplájára nő (96 Gb/s)
  - A tinygrad programkód opensource addigra még kiforrottabb lesz
  - Remélhetőleg a ROCm is
  és 1-2 év múlva egy threadripper + x DB konsumer RDNA4/RDNA5
  reális alternatíva lesz.
  - És bárki tud építeni saját - olcsó TinyBox klónt.
  (pl. TRX50 + 4x 7900 XTX vagy inkább már RDNA4 kártyákból )

  ver2:

  - Lesz olcsó Mi300A kistestvér .. ( Le big APU )
  - Lesz relative olcsó Mi300P ( felezett MI300X ) vagy akár negyedelt ..
  - A CXL megjelenik threadripper és az AM5 X-es chiplet szinten
  és a CPU-GPU koherens memória ( ~ infinity ) megvalósul.

  A pesszimista verzió:

  - Az AMD is az nVidia példáját követi .. és kiszedi az RDNA4-ből a GPU-GPU kapcsolatot .. geohot elkezd átkozódni a twitteren .. és módosítja az üzleti tervét .. vagy összeáll az Intellel ..

  A realista verzió:
  - Az nvidia valamennyire visszahozza az NVLINK funkciókat legalább a workstation kártyáknál ( a CXL-el )

  > Megnezted mibe kerul az es a sokkal jobb cuccok berlese mar most?

  Mindig van kereslet a még olcsóbb szolgáltatásra.

  A bérelhető cloud szolgáltatásoknál az árak
  nemcsak a hardver költségétől, hanem
  - a piaci kereslettől,
  - a szolgáltatási szintektől,
  - a versenytől,
  - valamint az energia- és üzemeltetési költségektől
  is függnek.

  És az olcsó nVLINK technológia megszüntetése hatással lehet a cloud alapú számítástechnikai infrastruktúrák jövőbeli teljesítményére és költségére,
  különösen azokban az esetekben, ahol a magas sávszélességű, alacsony késleltetésű GPU-GPU kommunikáció kritikus.

  Vagyis az olcsó (akár consumer RDNA ) hw
  vs. jövőbeli prémium árazású nVidia hw között
  akkora a jövőbeli ár/teljesítmény olló ..
  hogy megéri kiaknázni.

  A verseny jó ..
  és a verseny hatására az nVidia is egyre jobban árazott szolgáltatásokat ad ..

  Csak egy valaki nem érdekelt a versenyben:
  - akinek a megtakarítása nVidia részvényekben van ..

  > Bonusz kerdes - szerinted menyire erdekli majd az embereket az
  > A6000 ara egy ev mulva amikor mar Dunat lehet rekeszteni
  > az A100 kartyakkal (312 FP16/BF16 TFLOPs es 2TB/s 80GB RAM)?

  De vajon erre a spekulációra építhetsz -e komoly üzleti stratégiát?
  Főleg arra, hogy másnak nem kell és majd neked jó lesz ..
  Ha jó lesz még akkor is .. akkor nem megy le az ára.
  Ez a piac törvénye ..

  A probléma amit geohot meg akar oldani,
  hogy szimpla RDNA3-as gaming kártyákból
  össze tud-e hozni egy A100-as teljesítményt ..
  És ha az A100 ára lemegy .. akkor az RDNA3 -é is ..
  De az RDNA4 és az RDNA5 .. még inkább versenyképes lesz ..

  ( ... akkor hogyha geohot optimista forgatókönyve megvalósul , mert semmi se garantált .. )

  Valószínűségről és lehetőségekről beszélünk.
  és szerintem van esély arra, hogy valamennyire bejön geohot számítása,.
  De arra is, hogy nem ..

  Csak 2 tanulság van,
  - mindig kell B-terv .. még a rendíthetetlen nVidia usereknek is.
  - és a verseny jó

  

Új hozzászólás Aktív témák