Keresés

Új hozzászólás Aktív témák

  • ddekany

    veterán

    válasz mepet #11 üzenetére

    Mivel havi fixet kapnak tőled (vagy a Telekomtól), gyanítom túlságosan is hajlanak a nekik olcsóbb megoldás felé. Kérdés persze, hogy ha fogyasztás alapján fizetnél, és látnád hogy a Sonar mondjuk 10x olcsóbb tokenenként, akkor te mikor mit választanál. (Ehhez kéne látni, hány millió token az input havonta. Ha sokmillió, akkor eléggé fájna, ha végig nagy modellt használtál. Persze ilyet eleve csakis előre feltöltéssel szabad. Különben ha úgy felejetődik valami deep research csoda, egy nap után viszik a házat, asszonyt, mindent... :))

  • ddekany

    veterán

    válasz mepet #9 üzenetére

    A Perplexity arról szól, hogy a munkafolyamatot hogyan szervezik meg, ideértve a háttér infrastruktúrát (van saját crawlerük, meg saját RAG alapú indexük, és valahogy annak is szerepe van a Bing mellett). Ugyan van saját modelljük (Sonar), de amennyire értettem, az Llama amit arra fine tuning-oltak, hogy a találat anyagból olcsón, de mégis viszonylag hallucinációmentesen kiszedje ami releváns. Szóval az egy specialista arra ami náluk sokszor kell, de ahol úgy ítéli meg, hogy kell az ész, ott magától erősebb modellt választ (GPT vagy Claude akárhány, de volt hogy DeepSeek R1-et választott, a stílusból ítélve).

    Hogy per pillanat hogyan áll ez az egyre több hasonló képességet felszedő OpenAI/Google/Anthropic magukat elsősorban chat-ként hirdető szolgáltatások mellett, azzal régen kísérleteztem. Főleg az ilyen "deep" jelzővel ellátott módok megkavarhatják a felállást, bár azok drágábbak is. (Plusz a Perplexity-nek is van már "deep" módja...)

Új hozzászólás Aktív témák