Új hozzászólás Aktív témák
-
ddekany
veterán
Egyrészt egyenlőre valószínűleg tréningre kell, ami sokkal többet kér (és az otthon messze nem reális, nyilván).
Másrészt, szélesebb alkalmazásra jó modellek egyenlőre nincsenek, egy Claude 3 Opus is (aminek futtatásához messze kevés egy otthonigép) rendesen "hallucinál". Így nem tudjuk mekkorák lesznek, mire tényleg jók lesznek. Plusz, a fejlődés várható iránya, hogy az LLM-nek iterálni kell a válaszon, mielőtt kiírná neked (most ugye fix számú rétegen átfolyik, és rögtön kiírja neked a következő tokent), és úgy már sokkal de sokkal lassabb lesz, tehát gyorsabb vas kell alá. (Mondom ezt azzal együtt, hogy LLaMa 3 8B-t pont tegnap próbálgattam saját gépen, és érzetre már az 1 évvel ezelőtti felzúdulást kirobbantó kb. 200B-s ChatGPT 3.5 szintje.)
-
kilua
senior tag
Már 8giga ramos laptopomon is rendesen fut a LLaMA3 8B ami nem is rossz, és a stable diffusion 1.5 alapú modellek
Sőt már régi nem direkt MI chipes telefonon is:
[link]
[link]Elhülyéskedni már az is jó.
Egyébként a "mire fel az energia igény" abban egyetértek hogy lehet túl lett tolva hirtelen és ebből akár valamekkora bukta is lehet de egyelőre úgy néz ki hogy egyre több dolgot kiválthat ami ... na igen vagy valami kényelmes utópia vagy valami disztópia felé visz.
Új hozzászólás Aktív témák
- Bomba ár! Asus VivoBook X412F - i5-8GEN I 8GB I 256GB SSD I 14" FHD I HDMI I Cam I W11 I Garancia!
- Bomba ár! HP ProBook 650 G5 - i7-8GEN I 8GB I 256GB SSD I 15,6" FHD I Cam I W11 I Garancia!
- Bomba ár! Lenovo ThinkPad L380 - i5-8GEN I 8GB I 256SSD I 13,3" FHD Touch I Cam I W11 I Gari!
- Bomba ár! Asus VivoBook S410U - i5-8GEN I 8GB I 256GB SSD I 14" FHD I HDMI I Cam I W11 I Garancia!
- Bomba ár! HP ProBook 450 G3 - i7-6G I 8GB I 256GB SSD I HDMI I 15,6" FHD I Cam I W10 I Gar!
Állásajánlatok
Cég: Alpha Laptopszerviz Kft.
Város: Pécs
Cég: Ozeki Kft.
Város: Debrecen