Apple je navodno potpisao drajvere za Nvidia eGPU (eksterne grafičke procesore), omogućavajući im da konačno rade na uređajima sa Apple Silicon čipovima.
Apple je navodno potpisao drajvere za Nvidia eGPU (eksterne grafičke procesore), omogućavajući im da konačno rade na uređajima sa Apple Silicon čipovima.
U jednom od prethodnih tekstova (OVDE) smo ukazali značaj Apple računara za lokalno korišćenje modela otvornog koda. U ovom tekstu ćemo pogledati takođe Apple računare, ali modele Mac Studio.
Kada se govori o lokalnom pokretanju velikih jezičkih modela (LLM), prva asocijacija su obično moćne i skupe NVIDIA grafičke kartice. Međutim, poslednjih godina zajednica na platformama poput Reddita (r/LocalLLaMA) sve glasnije ističe Apple Silicon (M1, M2, M3 i M4 čipove) kao jednu od najboljih platformi za AI entuzijaste i profesionalce.
Želja za pokretanjem masivnih AI modela bez oslanjanja na Cloud ili održavanja bučnih serverskih rekova više nije samo futuristički san. Unutar r/LocalLLaMA zajednice, dolazak Apple M5 Max čipa dočekan je kao trenutak istine. Kao analitičar, ne posmatram ovo samo kao novi hardver, već kao promenu paradigme: Apple je konačno adresirao svoje najveće usko grlo – brzinu procesiranja prompta – i postao legitiman konkurent high-end Nvidia sistemima.