Apple M5 Max: Da li je došlo vreme da u svom lokalnom AI zamenite Nvidia haredver?

Želja za pokretanjem masivnih AI modela bez oslanjanja na Cloud ili održavanja bučnih serverskih rekova više nije samo futuristički san. Unutar r/LocalLLaMA zajednice, dolazak Apple M5 Max čipa dočekan je kao trenutak istine. Kao analitičar, ne posmatram ovo samo kao novi hardver, već kao promenu paradigme: Apple je konačno adresirao svoje najveće usko grlo – brzinu procesiranja prompta – i postao legitiman konkurent high-end Nvidia sistemima.

Brzina koja menja pravila igre: Moć MoE modela

M5 Max sa 128GB ujedinjene memorije postiže rezultate koji su do juče bili rezervisani za multi-GPU klastere. Ključni uvid je u performansama Mixture of Experts (MoE) modela, gde Apple trenutno briljira.

Benchmark rezultati (Generation speed):

• gpt-oss-120b-MXFP4-Q8: Neverovatnih 87.87 t/s.
• Qwen3.5-122B-A10B-4bit: Stabilnih 65.85 t/s (na 4K kontekstu).
• Qwen3-Coder-Next-8bit: Visokih 79.29 t/s.

Ove brzine omogućavaju tečne "agentic workflows" u realnom vremenu. Ipak, kao profesionalac, moram istaći važnu distinkciju: dok Apple dominira kod ogromnih MoE modela, Nvidia RTX 5090 i dalje "razbija" Apple na manjim, gustim (dense) modelima (poput Qwen3.5-27B) koji mogu stati u njenih 32GB VRAM-a.

"Holy shit thats good. Apple has been cooking 👏" – komentar koji najbolje oslikava šok zajednice ovim brojkama.

Revolucija u prompt processingu (PP): "Ultra trik"

Najveći skok M5 generacije je uvođenje Neuralnih akceleratora (tensor jezgara) u svaki GPU core. Apple je primenio takozvani "Ultra trik" – funkcionalno razdvajanje die-ova (čipleta) gde su CPU i I/O na jednom, a GPU jezgra na drugom die-u, što je donelo 4x–5x brži pre-procesing u odnosu na M4 generaciju.

Precizni podaci o PP brzini:

• Rekord: 2710.460 t/s postignuto na gpt-oss-120b modelu (16K kontekst).
• Uticaj konteksta: Brzina nije konstantna. Na modelu Qwen3-Coder-Next, PP pada sa 1887 t/s (32K kontekst) na 1432 t/s (64K kontekst).

Ovo dramatično smanjuje Time-to-First-Token, eliminišući iritantno čekanje kod dugačkih promptova ili analize opsežne dokumentacije.

Paradoks cene: Kako je Apple postao "budžet" opcija?

Iako zvuči apsurdno, matematika je jasna. Da biste dobili 128GB VRAM-a u Nvidia ekosistemu, potrebne su vam četiri RTX 5090 kartice.

Brza kalkulacija troškova:

• Apple M5 Max (128GB RAM): Između 5000€ i 7800€ (kompletan, prenosiv sistem).
• Nvidia Setup (128GB VRAM): Samo grafičke kartice koštaju preko 12.800€, bez troškova serverske matične ploče, napajanja od 2000W+ i kompleksnog hlađenja.

Uvid: "The tables turned rather quickly" (Table su se brzo okrenule). Apple je odjednom postao cenovno najefikasnije rešenje za rad sa modelima od 120B+ parametara.

Faktor forme i termalna realnost

Testirani 14-inčni model je čudo portabilnosti, ali fizika ne prašta. Za profesionalnu upotrebu, izbor između 14" i 16" je kritičan.

• Kratki zadaci (<10 min): Performanse su identične na oba modela.
• Maratonske sesije: Tokom dugotrajnog rada sa LLM-ovima ili treninga, 14-inčni model dostiže termalni limit.
• Thermal Throttling: Očekujte pad performansi od 10–20% na 14" modelu zbog redukcije radnog takta u cilju zaštite hardvera.

Za stacionarni rad, 16-inčni model ostaje logičan izbor zbog superiornog hlađenja i tiših ventilatora pod opterećenjem.

Ujedinjena memorija: Matematika konteksta

Ujedinjena memorija (Unified Memory) je tajno oružje koje omogućava M5 Maxu da "proguta" modele koje standardni PC ne može ni da učita.

Profesionalni proračun potrošnje (Rule of Thumb):

• Qwen3-Coder-Next (8-bit): Troši 0.09 GB po 1k tokena konteksta.
• Qwen3.5-122B-A10B (4-bit): Troši 0.156 GB po 1k tokena konteksta.

Ovo znači da na 128GB mašini možete pokrenuti 122B model sa neverovatnim kontekstom od 200.000+ tokena (što zahteva oko 104GB RAM-a).

Insajdersko upozorenje: Pri punom AI opterećenju na modelu od 128GB, baterija se može prazniti čak i dok je laptop uključen u struju (power drain), jer sistem povlači više energije nego što punjač može da isporuči.

Zaključak: Budućnost je na vašem stolu

M5 Max nije samo inkrementalni apdejt; to je potvrda da Apple Silicon postaje primarna platforma za lokalnu inferenciju masivnih modela. Iako Nvidia ostaje neprikosnovena u sirovoj snazi treninga i malih, brzih modela, Apple je pobedio u kategoriji "kapacitet po evru".

Pitanje za vas: Da li je prenosivost, niska potrošnja (relativno gledano) i ogromna ujedinjena memorija dovoljna da vas natera da napustite CUDA ekosistem? Za svakoga ko radi sa modelima preko 70B parametara, odgovor je verovatno – da.