Új hozzászólás Aktív témák
-
ddekany
veterán
Megjegyzem, minden ami ír, vagy beszél (szóval én is), az kívülről nézve a következő tokent próbálja legenerálni, újra és újra. Az érdekes kérdés, hogy mit csinálsz "belül" (a nagy neurális hálóban), hogy a következő tokent kitaláld.
Egyébként Claude 3.5 csinál néha olyat, hogy generál gondolkodásnak jelölt szöveget, amit aztán kiszűrnek, hogy te ne lásd. Az arra egy kezdetleges trükk, hogy többet "gondolkodjon", mielőtt neked láthatóan válaszolna.
-
kilua
senior tag
Ja, én még mindig ott tartok hogy koboldAIba "New story" beírok "valami hülyeséget" aztán kisregényként logikusan folytatja (azaz szórakozásra használom, de úgy addiktív tud lenni)
De mivel az LLMek alapból a következő tokent igyekeznek kitalálni, kb pont erre való, és úgy még intelligensebbnek is tűnnek mint instruct csevegésben.
-
ddekany
veterán
Az lesz érdekes, ha NPU-val RAM-ból viszonylag értelmesen futnak ezek. Mert 192 GB RAM az most azonnal elérhető egyszerű embernek (bár kb. 300e, nem olcsó). Videókártya meg max 24 GB, és 400e+.
Bár Macbook Pro-n 70B-s kb 4b kvantált LLaMa 3.1-et láttam, hát... már kicsit lassabban ír, mint ahogy egy átlag ember olvasni tud. Abból összeraksz valami tipikus multi-agent csodát, ami ugye csomót beszélget magában mielőtt megoldást ad, nem lesz fürge.
-
ddekany
veterán
Megoldható, ha odateszik magukat. Pl. vannak ezek a deep fake-ra is használható eszközök, mikor felveszed videóra ahogy elmondasz valamit, aztán mutatsz egy fotót valakiről, hogy most mondja ez az ember el ugyan azt, ugyan azokkal a gesztusokkal meg fejmozdulatokkal. Azok konzisztensek maradnak.
Új hozzászólás Aktív témák
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft.
Város: Budapest
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest