Dal 18 agosto il fronte open-weight e l’hardware locale hanno tenuto il passo dei closed model. Arrivano MoE da centinaia di miliardi, quantizzazioni più accurate e macchine che promettono 70B–120B sulla scrivania.
MoE open di fascia alta
Tencent Hy pubblica Hy4 preview: 770B totali, 49B attivi, context 1M, Apache 2.0, Gated DSA, IndexCache e MTP nativo. inclusionAI rilascia Ling-3.0-flash (124B / 5,1B attivi, context 262K, MIT). IBM Granite 4.2 arriva in tagli 3B, 8B e 30B, addestrati su 15T token, context fino a 512K, thinking a tre livelli e tool calling nativo, Apache 2.0.
Ornith-1.5 punta sul self-improvement: famiglia 9B dense, 35B MoE (~3B attivi) e 397B MoE, MIT. Dichiara 86,1 su Terminal-Bench 2.1 e 86 su SWE-Bench Verified, con un 9B-Mobile da 1,5 GB per telefono. Spark-X2.5-4B (Apache 2.0, context 1M) supera Qwen3.5-9B su SWE-bench Pro (44,4 vs 33,8).
Locale, quanti e serving
Unsloth passa da Dynamic 2.0 a 3.0: calibrazione imatrix e quantizzazione per layer, fino a +10% di accuratezza Top-1% a parità di disco. Copre Qwen 3.8 27B, Muse-Glimmer 30B e DeepSeek-V4. Empero distilla Qwen3.8-4B in GGUF (context 262K). Circolano anche build uncensored di Qwen3.8 27B e Flash-Next via OrcaRouter.
Sul serving: DFlash 2 di Inco AI porta Qwen3.8-27B a 70 tok/s su MacBook Pro M5 Max (4,6× vs autoregressivo, lossless). UltraEP bilancia expert MoE in tempo reale (94,3% del force-balanced). FreeToken serve MoE edge da 8 GB di VRAM. LMCache persiste la KV cache e arriva a 15× di throughput su Q&A multi-turno. Soup CLI (v0.73.3, Apache-2.0) fine-tuna Llama-3.1-8B su RTX 3050 da 4 GB a 119,6 tok/s e 3,32 GB di picco.
Embodied e voce open
Isaac 0.5 di Perceptron è un foundation embodied 36B (~2,5B attivi), open weights e codice. Lo scaling video da 1.000 a 1 milione di ore taglia il bisogno di teleop da ~5.900 a 28 ore. GEN-1.5 di Generalist AI impara task fisici one-shot da una demo di 3–12 secondi. Skild AI S1 fa lo stesso da un solo video, con 66% step-success su task unseen. Superwhisper S1-mini (0,6B, 484 MB) porta ASR on-device al 94,8% di token accuracy. GLiNER2.5 ridisegna l’information extraction span-free.
Hardware: dalla M6 al wetware
Apple lancia il M6 a 2 nm (fino a 4,8× sul prompt processing rispetto a M4) e il M5 Ultra quad-die con fino a 512 GB e 1,2 TB/s. Xiaomi AI Cube è un mini PC prototipo per modelli da 120B, con stack XRING O3/O100/D100. Arduino VENTUNO Q porta 40 TOPS e un MCU real-time a 299 dollari. OpenAI Jalapeño, ASIC con Broadcom, dichiara 1,5–1,9× lavoro AI per watt vs GB200/GB300. Architect Labs Redwood è un acceleratore progettato end-to-end da un sistema AI in meno di due settimane. A Singapore, Cortical Labs accende un rack con neuroni umani vivi da 800–1.000 W. Microduck, bipede open-source di Hugging Face / Pollen, costa 399 dollari.
Fine agosto dice una cosa concreta: il locale non è più solo un 7B quantizzato. È MoE da 100B+, serving edge e silicon fatto apposta.
Testo: assistito da AI · revisionato da Carlos H. P. Ross
