Új hozzászólás Aktív témák
-
moleculez
veterán
Mondjuk ezen is el kell gondolkodni, mekkora komplexitású rendszer kell on-device. Szvsz egy egészséges balance kellene a cloud vs on-device vonalon, nem kell hogy mindent tudjon zsebben, de pl a napi használatot megkönnyítő tudásanyag besűríthető, aztán ha olyan topic/probléma van akkor megy cloud modelnek.
-
moleculez
veterán
Pont tegnap néztem, hogy mi a helyzet a local llm futtatással. Itt egy példa, kimaxolt M3 max 128GB RAM-mal .+ Apple MLX framework (szóval “optimalizáva” a platformra). Hát, maradjunk annyiban nem mostanában fogunk full ChatGPT-t futtatni localba’
-
#52
moleculez
veterán
secretgarden
#50
moleculez
veterán
válasz
secretgarden
#50
üzenetére
W12-vel igen, de szerintem nem lesz in-device AI, hanem cloud only.
Ami azt illeti, nagyon jól hangzik minden a promókon, meg ideális világban ideális adatokkal, amíg a való világgal nem szembesül
Mondjuk Excelre a legritkább esetben sem engedünk 1M sort, de amúgy kevesebb se ment neki, érdemes végignézni
De amúgy maga a koncepció tetszik, tiszta black mirror, csak kell neki még idő míg kiforrja magát.
De valahol el kell kezdeni.Nah megyek vissza Pythonba, simogatni Pandas-t meg matplotlibet és társait. Az teszi a dolgát🤷🏼♂️
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
- Dell Precision 3571 FHD / i7-12800H 14C / 16-32G D5 / 512G / Iris XE + NV T600 Box WS tervező
- PC konfiguráció összeállítás igény szereint, csak új nem használt alkatrészekkel, garanciácal!
- Lenovo P1 GEN 5/16'WQUXGA 4K TOUCH/i7-12800H vPro/32GB DDR5/4TB SSD/RTX A4500 16GB GDDR6/GARANCIA!!
- Xbox Series X, kitisztítva+újrapasztázva, 6 hó teljeskörű gar., Bp-i üzletből eladó!
- Nintendo Switch OLED Mario Edition 20.5, 512GB MicroSD + Android + Atmosphere, 3 hó garanciával
Állásajánlatok
Cég: BroadBit Hungary Kft.
Város: Budakeszi
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest