Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
Petykemano #7395 üzenetére
> Szóval vajon miért tolja az Intel az AMX-et,
> miközben ott vannak a tensor magok (nvidia és google)?szerintem főleg startégiai okokból .. de amúgy hasznos is lehet egyes esetekben..
pl. Ha az ügyfélnek van 10 milla USD-je a problémára; akkor az Intel-es DL. Boost + AMX -el
az ügyfelek egy részét le lehet beszélni arról, hogy a büdzsé keret egy részért prémiumos nVidia -ra költsék
vagyis nem kell osztozkodni a pénzen ... és ez nagy motiváció tud lenni.Amúgy a feladatok egy részében a CPU és a GPU közötti oda-vissza mozgatás költséges . főleg akkor ha csak egy apró müveletet kell elvégezni .. ilyen esetben az AMX sokkal hatékonyabb lehet.
Vagyis vannak olyan problémák, amelyeknek az AMX jobban fekszik mint a GPU. ( persze nem midnen )
És ha a CPU-ra HBM-et kötsz, akkor sebesség se akkora probléma.
--------
amúgy az Apple A13 -ban is van már AMX .. ( arm-es amx )
pedig abban van külön GPU is ..
persze az M1-ben is benne van.Anandtech/A13: "The biggest surprise and change to the CPU cores is the addition of so-called machine learning accelerators into the new CPUs. The technical designation for these new units are the AMX blocks, and seemingly they look like SIMD units added to the CPU, yet having a very DSP-like instruction set. The big mystery here is exactly how these units are integrated into the CPU and how it plays along with the ARM ISA. Apple has already integrated support for the units into the Accelerate.framework APIs and applications will be able to take advantage of the new performance capabilities – advertise at up to 1 TOPS in computational capacity. Apple made a remark that they’re in a unique position in terms of their vertical integration, owning everything from the transistor level up to the OS software and dictating application architecture, being able to take advantage of this unlike any other vendor."
-------
Amúgy Abu itt irt az AMX-ről.
https://prohardver.hu/hir/intel_szerverpiac_evek_ota_eloszor_szemez_tron.html ( ~ 1 évvel ezelőtt .. a kommenteket is érdemes újraolvasni )https://prohardver.hu/hir/ket_verzioban_jon_jovore_sapphire_rapids.html
Új hozzászólás Aktív témák
- Szép Dell Precision 5560 Slim Tervező Vágó Laptop -70% 15,6" i7-11850H 64/1TB RTX A2000 4GB UHD 4K
- Acer Nitro V 16 AI Gamer Laptop! Ryzen 7 260/RTX 5070/32gb DDR5/2TB SSD/2560x1600/180hz/Beszámítok!
- Szép Dell Precision 5560 Slim Tervező Vágó Laptop -70% 15,6" Xeon W-11955M 64/1TB RTX A2000 4GB FHD+
- AOC CQ27G2S Monitor (2K/VA/165hz)
- Samsung C27F396FHR Monitor
- Bomba ár! Dell Latitude E6400 - Intel P8400 I 3GB I 160GB I 14,1" I Intel VGA I Garancia!
- AKCIÓ! ASUS Z97-A Z97 chipset alaplap garanciával hibátlan működéssel
- Apple iPhone 13 Pro Max 128GB, Kártyafüggetlen, 1 Év Garanciával
- 135 - Lenovo Legion Pro 7 (16IRX9H) - Intel Core i9-14900HX, RTX 4090 (ELKELT)
- AKCIÓ! AMD Ryzen 7 3800X 8mag 16szál processzor garanciával hibátlan működéssel
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Promenade Publishing House Kft.
Város: Budapest