Új hozzászólás Aktív témák

  • S_x96x_S

    őstag

    válasz b. #41322 üzenetére

    > Nem tudom hogy jön ebbe Nvidia, mint konkurencia
    > mert ez egy zárt ökoszisztéma, itt nincs más játékos.

    az apple hw zárt, de apple silicon-ra is bármit lehet fejleszteni.

    ha valaki "Stable Diffusion" -t vagy GPT szeretne futtatni az Apple M* gépén,
    akkor azt már most is megteheti.
    ráadásul a legtöbb AI-s cucc egyszerű Python script-el vezérelhető ..
    ugyanaz nVidiára és Mac-re is.
    https://machinelearning.apple.com/research/stable-diffusion-coreml-apple-silicon

    már lászódnak a magyar árak is.

    egy Mac mini ( 32 Gb egyesített memóriával ) ~ 849 990 Ft
    egy egyszerű Mac Studió : M2 max ~ 1 Milla mindenestől.
    ( 32 GB egyesített memóriával )
    és
    Az Mac Studió : M2 ultra 192 GB egyesített memóriával : 2 779 990 Ft
    ( Memory Bandwidth 800 GB/s )

    vs

    PNY NVIDIA RTX 6000 Ada Generation, 48GB GDDR6 ~ 10 000 EUR > 3,5M Ft - 4.5M Ft.
    ( Memory Bandwidth 960 GB/s )

    És abban igaza van az Apple -nek, hogy hiába gyorsabb az nVidia, de ha kevés a memória,
    akkor már nem sok komoly dologra használható ( AI / Ml nézőpontból )

    ""Finally, the 32-core Neural Engine is 40% faster. And M2 Ultra can support an enormous 192GB of unified memory, which is 50% more than M1 Ultra, enabling it to do things other chips just can't do. For example, in a single system, it can train massive ML workloads, like large transformer models that the most powerful discrete GPU can't even process because it runs out of memory. :Y ""

    Persze nem mindenki fog elgondolkodni .. mert ott a CUDA ; a játékok és a meglévő szoftveres támogatás ...
    de egyre többen gondolkodnak el ..

    Ami még érdekes, hogy az Apple -nek van jelenleg a legjobb chipletes GPU-ja
    csak már M2 Ultra ..

    [ Szerkesztve ]

    Mottó: "A verseny jó!"

Új hozzászólás Aktív témák