Új hozzászólás Aktív témák

• #6 Raymond titán E.Kaufmann #5

  Új Válasz 2024-08-29 08:37:52 #6

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz E.Kaufmann #5 üzenetére

  Az MLPerf alatt az ottani query-kre, ez nem tok/s. Bughatnak ha sima 6B modellel FP8-ban csak 12tok/s lenne a teljesitmeny

• #5 E.Kaufmann veterán Raymond #4

  Új Válasz 2024-08-29 08:02:52 #5

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  E.Kaufmann

  veterán

  válasz Raymond #4 üzenetére

  Ez még nem teljesen tiszta:
  generating about 12 queries per second when running the GPT-J 6B model
  Mármint másodpercenként 12 kérdésre tud válaszolni ilyen nyelvi modellel?

• #4 Raymond titán E.Kaufmann #3

  Új Válasz 2024-08-28 18:44:39 #4

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz E.Kaufmann #3 üzenetére

  Kerestem teganp en is mert csak a szam magaban ertelmetlen. Innen van:

  

  Forras: [link]

• #3 E.Kaufmann veterán

  Új Válasz 2024-08-28 09:59:53 #3

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  E.Kaufmann

  veterán

  Ezt hogy kell értelmezni?
  ...12 lekérdezést generál másodpercenként...

• #2 S_x96x_S addikt

  Új Válasz 2024-08-28 00:13:03 #2

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  slideok - a hot chips 2024 -ről.
  https://www.servethehome.com/furiosaai-rngd-processor-for-sustainable-ai-compute/

  néhány étvágycsináló:
  
  
  

  

  

• #1 X2N őstag

  Új Válasz 2024-08-27 18:11:22 #1

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  X2N

  őstag

  "amely papíron 150 wattos TDP-vel bír"
  Mért van akkor 18+ fázis rajta?

Új hozzászólás Aktív témák