Új hozzászólás Aktív témák

• #70928 S_x96x_S addikt paprobert #70925

  Új Válasz 2025-03-16 01:32:02 #70928

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz paprobert #70925 üzenetére

  TLDR: Bár az NPU jövőjében hiszek - de elég göröngyös lesz az első 5 év.

  --------

  az NPU - forradalmat éppen a desktop procik
  gyenge vagy hiányzó - NPU teljesítménye akadályozza.

  pl. egy
  - Intel®Core™ Ultra 5 Processor 245K - NPU Peak TOPS (Int8) = 13
  - az AMD desktop CPU - többségében ( pl. 9800X3D ) meg NPU sincs.

  -----------

  és persze ott vannak a régi konfigok felokosítása is.

  Vagyis a "pótszerekre" is lesz igény.

  Emiatt egyre több cég kezd rá-startolni az USB-s NPU-r a;

  pl. Lenovo - USB-s monitorba és USB(Thunderbolt) sticks NPU n is dolgozik.
  "
  AI Display with NPU Inside – Stunning Proof of Concept Now with NPU Inside
  Another demonstration of Lenovo’s commitment to “smarter technology for all”, Lenovo’s AI Display, a proof of concept that leverages AI to optimize user experience, comes with a discrete NPU inside. The dNPU not only enhances the monitor’s abilities, but also empowers non-AI PCs with AI computing power. With the AI Display with NPU inside, non-AI PCs will be able to use Large Language Models, receiving commands from the user, analyzing and recognizing the intent, and allowing the Assistant to execute the request. The AI Display with NPU inside still adapts to the user’s movements by automatically rotating, elevating and tilting the screen to optimize viewing angles."

  Lenovo AI Stick – Plug-in Local AI Capability
  The Lenovo AI Stick is a proof of concept that allows users with a non-NPU-equipped PC access to advanced AI features such as local Large Language Models (LLM) and AI-enhanced graphics apps on their device. The Lenovo AI Stick contains a 32 TOPS NPU that connects to a PC via a USB-C Thunderbolt port, allowing the PC to leverage Lenovo AI Now11 functionalities. It can also be plugged into a wall socket to unleash maximum performance for demanding AI tasks.
  """

  --------

  Amúgy nem csak a GPU -nak - de az NPU -nak is kell rendes memória sávszélesség;
  emiatt a kétcsatornás CPU - mellé rakott integrált NPU - egy picit szenvedni fog.

  a Strix Halo -nál - az AMD például a CPU memória prioritását hátrébb sorolja mint az NPU/GPU- ét :
  "So but again, with the right mix of the right mix of traffic between reads and writes, like I said, a couple of CPU threads can saturate bandwidth. So it's not. But again, when it comes to bandwidth, we believe that NPU and the GPU are the ones that benefit more than from a CPU standpoint." ( https://chipsandcheese.com/p/amds-strix-halo-under-the-hood )

• #70926 hokuszpk nagyúr paprobert #70925

  Új Válasz 2025-03-15 11:46:55 #70926

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  hokuszpk

  nagyúr

  válasz paprobert #70925 üzenetére

  semmi, mindkettőt utálom

Új hozzászólás Aktív témák