Apple M2 Ultrákon futhatnak az iPhone egyes AI funkciói

LOGOUT témák

PROHARDVER! témák

Mobilarena témák

IT café témák

GAMEPOD témák

Új hozzászólás Aktív témák

#9 janeszgol félisten Shyciii #7

Új Válasz 2024-05-14 05:11:56 #9
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

janeszgol

félisten

válasz Shyciii #7 üzenetére

Az A17 Pro nem olyan eros, mint regebben a tobbi Apple SoC a snapdragonhoz, kirinhez stb kepest.
Sd8 gen2 szint, az sd8 gen3 reggelire megeszi az A17 Pro-t. Ez egy.
Ketto. Ket dokumentum osszevetese a nehezebb feladatok koze tartozik. Sokkal eroforrasigenyesebb, mint ket kep vagy ket hangminta osszevetese.
#8 Gábor001 tag Shyciii #7

Új Válasz 2024-05-12 20:07:00 #8
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

Gábor001

tag

válasz Shyciii #7 üzenetére

Részben igaz, tényleg töredéke a training kapacitásigényének a futtatás. A bottleneck LLM-eknél inkább a (V)RAM, ami iPhone-on kicsi, az M2U viszont abban kifejezetten erős. Szerintem ez a fő ok a "kiszervezésre", mivel szerintem is elég erős az NPU az iPhone-okban.
#7 Shyciii veterán moleculez #6

Új Válasz 2024-05-11 10:20:33 #7
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

Shyciii

veterán

válasz moleculez #6 üzenetére

Őőő ez így nagyon nem igaz. Azért a tréningelt AI nagyon nem egy kategória egy cachelt kép megjelenítésével, miszerint nincs jelentős terhelés. Nem véletlen, hogy sem magyar, sem angol cikk nem azt írja, hogy a tréningezés folyik az M2 Ultra chipeken (ami amúgy pont a tréningezéshez harmatgyenge), hanem azt hogy a "bonyolultabb" műveletek fognak zajlani a szervereken. Ami érdekes, hogy pl a dokumentum összegzése az bonyolultnak minősül, és nem bír el vele az A17 Pro. Ez nekem fura. Most vagy hazudnak (mert teszem azt nagyon leszívná az akksit, vagy túlmelegedne a készülék, és inkább behazudják, hogy gyenge), vagy nem is olyan erős az A17 Pro, mint azt mindig súlykolták.
#6 moleculez veterán mad823 #5

Új Válasz 2024-05-11 07:55:01 #6
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

moleculez

veterán

válasz mad823 #5 üzenetére

A training és a futtatás 2 külön történet. A már trainingelt algoritmusnak nincs jelentős gépigénye, telefonon is elfut.
#5 mad823 őstag

Új Válasz 2024-05-11 07:30:17 #5
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

mad823

őstag

Külön erőművek kellenek ma a sok AI hülyeséghez, és akkor bárki is elhitte, hogy majd lokálisan pár watton ugyanaz el fog futni?
#4 moleculez veterán juuzer #2

Új Válasz 2024-05-10 14:20:15 #4
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

moleculez

veterán

válasz juuzer #2 üzenetére

A mac Prora még annyi se inkább úgy mondanám
#3 joey04 titán

Új Válasz 2024-05-10 14:13:32 #3
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

joey04

titán

Hú de izgi.
#2 juuzer addikt moleculez #1

Új Válasz 2024-05-10 13:43:56 #2
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

juuzer

addikt

válasz moleculez #1 üzenetére

Pont, hogy a Studiora volt nem? Inkább a mac Pro-ra nem volt.
#1 moleculez veterán

Új Válasz 2024-05-10 13:24:48 #1
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
Privát üzenet küldése

moleculez

veterán

Nem volt a termékre (mac Studio) elég nagy kereslet, gondolom a TSMC-vel szerződésben vannak x darab M2 Ultra Soc minimum legyártásával, hát ellövik erre. 🤷🏼‍♂️