Új hozzászólás Aktív témák
-
S_x96x_S
addikt
ha valakit bővebben is érdekelne ...
a benchmark amit posztoltam állítólag még nem frissült és
azóta 20% -al jobb a teljesítmény.https://www.reddit.com/r/LocalLLaMA/comments/1mao95d/running_llms_exclusively_on_amd_ryzen_ai_npu/
"""
Our goal is to make AI more accessible and efficient on NPUs, so developers can build ultra-low-power, always-on AI assistant–style apps that run locally without draining resources from GPU or CPU. So we think it could be good for future immersive gaming, local AI file management, among other things ...
We chose AMD NPU not just for power efficiency, but also because of the excellent low-level tooling—like Rialto, AIE-MLIR, IRON, and MLIR-AIR—which gives us the flexibility and control we need for deep hardware optimization. Plus, AMD NPUs are genuinely efficient! (We are not from AMD BTW.)
""""""
We only benchmarked it on Kraken. Strix or Strix Halo have a smaller mem BW for NPU. Kraken is about 20% faster (Note that this can vary on different computers, clock speed, mem BW allocation, etc.).
This was done about a month ago (but we are about 20% faster now on Kracken)
https://docs.fastflowlm.com/benchmarks/llama3_results.html
""" -
tibaimp
nagyúr
Én simán el tudok képzelni olyat, hogy a jövőben a játékokhoz is kellhet majd dedikált NPU kártya, mint most a dVGA! Ezzel lenne megoldva például az honosított szinkron/felirat, esetleg a játékban egyes NPC-k válaszai, reakciója, stb. Hogy, ez jó lenne-e, az már jó kérdés...
-
S_x96x_S
addikt
ha valaki érdekel ( és AI 300 cpu-ja van XDNA2 -es NPU -val )
https://github.com/FastFlowLM/FastFlowLMbenchmark ( NPU vs. iGPU vs . CPU ) :
https://docs.fastflowlm.com/benchmarks/llama3_results.html
Új hozzászólás Aktív témák
- Ilyen olcsó sem volt még egy Apple notebook
- Kodi és kiegészítői magyar nyelvű online tartalmakhoz (Linux, Windows)
- PlayStation 5
- Xiaomi 17 Ultra - jó az optikája
- Mit tehetsz jogilag, ha átvertek, megkárosítottak a Hardveraprón?
- Itt a Galaxy S26 széria: az Ultra fejlődött, a másik kettő alig
- Okosóra és okoskiegészítő topik
- Abarth, Alfa Romeo, Fiat, Lancia topik
- Jolla és SailfishOS tapasztalatcsere
- MWC 2026: Kezünkben a minden tekintetben európai okostelefon
- További aktív témák...
- LG 45GR65DC-B 45 / 5120x1440 / 200HZ / VA /
- Chieftec Smart Seriels GPS-500A8 80 Plus minősítésű 500W tápegység
- Apple iPhone 13 - 85% Akku - 128GB - Független - Hibátlan
- HONOR Magic8 Lite 5G 512GB + CHOICE Cubuds - Gyári Bontatlan, 2028-ig garanciális
- HONOR Magic8 Pro 5G 12/512GB (Black) - Új, Kártyafüggetlen, 2029-ig garanciális
- ÁRGARANCIA!Épített KomPhone i9 14900KF 32/64GB RAM RTX 5070 Ti 16GB GAMER PC termékbeszámítással
- HIBÁTLAN iPhone 15 Pro 128GB Blue Titanium-1 ÉV GARANCIA - Kártyafüggetlen, MS4692, 92% AKKSI
- Azonnali készpénzes félkonfig / félgép felvásárlás személyesen / csomagküldéssel korrekt áron
- ÁRGARANCIA!Épített KomPhone Ryzen 5 7600X 32/64GB RAM RTX 5070 12GB GAMER PC termékbeszámítással
- Honor Magic6 Pro / 12/512GB / Kártyafüggetlen / 12Hó Garancia
Állásajánlatok
Cég: Laptopműhely Bt.
Város: Budapest