Új hozzászólás Aktív témák
-
Abu85
HÁZIGAZDA
Mivel minden AI feladat a hardver szintjén nagyjából 99%-ban mátrixszorzás, így a hardvernek is elég ennyire egyszerűnek lennie. Az már nem igazán a hardver reszortja, hogy a program ezt a sok számítási kapacitást mire használja. Ezért írtam, hogy magát a számítási kapacitást bármire lehet használni, ami ötletszinten felmerül.
-
Abu85
HÁZIGAZDA
Konkrétan bármire, ami megadott neuronhálóból következtet. Tök mindegy, hogy mit találnak ki, ha van egy neuronháló, azt kezeli a Ryzen AI. Azt, hogy mit csinál az a hardver szempontjából mindegy, a valós feldolgozás úgyis 99%-ban mátrixszorzás.
#11 martonx : Miért kellene ezeket újraírni? Ott az ONNX futtatási környezet. Az több Execution Providers implementációt támogat. Ha egyszer megírod ennek a környezetnek megfelelő programot, akkor az onnantól futhat Azure-ban, a WebNN-nel, Ryzen AI-t, DirectML-en a GPU-kon, stb. A Ryzen AI ugye valójában egy Vitis AI, csak át van nevezve, de az alapja a Vitis. Azért van már most száznál is több alkalmazás, ami támogatja, mert igazából a fejlesztői munka az nem sok. Lényegében kimerül az ONNX futtatási környezet tesztelésében.
És alapvetően nem szükséges a Ryzen AI ezekhez a programokhoz. Mehetnek azok DirectML-en is a GPU-val, csak a Ryzen AI sokkal hatékonyabb erre a feladatra. De nem kötelező, gyengébb minőségben lehetnek DirectML-en futó GPU-s implementációk is. Nagy munka ezekkel sincs, a ONNX futtatási környezet mellé tartozik egy DirectML Execution Providers implementáció, amit a Microsoft biztosít. -
Abu85
HÁZIGAZDA
Nem. Arra a Xilinx van. De az nem lenne túl jó egy SoC APU-ba, mert nem optimális a hardver hozzá, a Xilinx se kínál csak FPGA-t AI-ra. Az XDNA az a Xilinx Versal termékcsaládjában található AI Engine enyhe módosítása. Az AI Engine az alapvetően DSP-szerű, és az célirányosan AI-ra szabott hardver. Ezen belül is az AI következtetés szakaszára.
Itt van egyébként az, amit a Xilinx kínál AI-ra: [link] - láthatod, hogy több részegység található benne.
-
martonx
veterán
Mindez oké, de mégis mire lesz ez jó?
-
Abu85
HÁZIGAZDA
Ez nem FPGA. Ez a Versal AI Engine része kivágva, ami inkább DSP.
Az FPGA nem igazán jó AI-ra. A legtöbb AI motor egyébként DSP-szerű, mert az az optimális megvalósítás.
Az NV megoldásai nem DSP-k, ami tréning miatt jó, de következtetésnél látványos a perf/watt hátránya, ezért sem használnak olyan megoldást a rendszerchipekben, mint amit az NV használ. Itt nincs szükség tréningre, tehát rá kell menni a perf/wattra.Az NV megoldásához az AMD-nek az IGP-jében van hasonló, de pont ugyanúgy hatalmas a perf/watt hátránya a Ryzen AI-hoz viszonyítva.
-
freeapro
senior tag
Ez az FPGA hw nagyságrendekkel jobb teljesítményű háló lesz, mint az nVidia megoldásai, vagy csak a szokásos sokat ígérő, de szarul teljesítő AMD technikai forradalom?
Új hozzászólás Aktív témák
- Azonnali informatikai kérdések órája
- Autós topik
- Fűnyíró topik
- Merész dizájn és új teleobjektív az iPhone 17 Pro mobilokban
- Kézbe fogható paradoxon lett az iPhone Air
- Viccrovat
- iPhone topik
- Milyen okostelefont vegyek?
- VR topik (Oculus Rift, stb.)
- Műholdaktól is képes segítséget kérni az Apple Watch Ultra 3
- További aktív témák...
- Bomba ár! Lenovo ThinkPad L460 - i5-6GEN I 8GB I 256GB SSD I 14" FHD I Cam I W10 I Garancia!
- BESZÁMÍTÁS! MSI B450 R5 5500 16GB DDR4 512GB SSD 1TB HDD GTX 1060 6GB Zalman N5 MF ADATA 600W
- Lenovo ThinkPad 40AF dokkoló kiárusítás! Csak 25.000 Ft / szett
- Eladó egy XMG P406 laptop
- Új MSI 17 Raider GE78 QHD 240Hz i9-13980HX 24mag 32GB 2TB SSD Nvidia RTX 4090 16GB 175W Beszámítás!
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: CAMERA-PRO Hungary Kft.
Város: Budapest