Un benchmark standard
Un prompt fisso di 512 token, poi esattamente 128 token generati con decodifica greedy: un'esecuzione di riscaldamento e tre misurate, con le mediane.
iPhone · iPad · iPhone Duo · Mac in arrivo
MLX Benchmarks
Quanto vanno veloci i modelli linguistici sul tuo iPhone, iPad e Mac, misurati allo stesso modo su ogni dispositivo.
Gratis · Senza pubblicità · Nessun account · Richiede iOS 18.6 · Versione per Mac in arrivo
MLX Benchmarks misura quanto vanno veloci i modelli linguistici sul tuo dispositivo, interamente in locale, con MLX, il framework open source di Apple.
Ogni dispositivo esegue lo stesso test standard, così i tuoi risultati stanno accanto a quelli di tutti gli altri: quale dispositivo è il più veloce con un modello, quanto cala la velocità quando i modelli crescono e dove si colloca il tuo iPhone o iPad. È pensata per gli sviluppatori e per chi è curioso di intelligenza artificiale sul proprio hardware.
Novità · 1.1Benchmark standard, grafici della community e iPhone Duo
Cosa fa.
La classifica dei dispositivi
Condividi le tue esecuzioni in forma anonima e guarda dove si piazza il tuo dispositivo con ogni modello, per velocità di generazione, di prefill o tempo al primo token.
I modelli su un dispositivo
Come cambia la velocità al crescere del modello su un solo dispositivo, accanto alla stima ricavata dalla sua banda di memoria.
La latenza per token
Il tempo tra un token e l'altro come linea nel tempo e come distribuzione, con P50, P95, P99 e jitter.
La memoria
Pesi del modello, cache KV e attivazioni, e il picco rispetto alla memoria che il sistema concede all'app.
Modelli aperti
Un catalogo di modelli aperti supportati da MLX. Ognuno si scarica alla prima esecuzione; elimini quelli che non ti servono più.
Esecuzioni personalizzate
Il tuo prompt, la lunghezza della generazione e il numero di iterazioni. I risultati personalizzati restano sul tuo dispositivo.
iPad, iPhone Duo e Mac
Sugli schermi grandi risultati e grafici stanno affiancati; su iPhone Duo l'app segue il dispositivo, chiuso e aperto. Sul Mac, in arrivo, vedrai il chip e i core della GPU.
La tua privacy
Nessun account, niente pubblicità, nessun tracciamento. Si condividono solo le esecuzioni standard, se la condivisione è attiva, e niente che ti identifichi.
Su iPhone Duo, chiuso e aperto.
Chiuso trovi l'app di sempre, comoda con una mano. Aperto, il benchmark sta accanto ai suoi risultati e i grafici della community si affiancano.
Chiuso
Aperto
Su iPad, tutto in una schermata.
La barra laterale per le schede, il benchmark accanto ai suoi risultati e i due grafici della community affiancati.
In arrivo
Sul Mac, con il tuo chip.
La versione per Mac sta arrivando, con lo stesso benchmark standard su Apple silicon e il chip del tuo Mac, i core di CPU e GPU e la memoria, così ogni configurazione avrà il suo posto in classifica.
Domande frequenti
È gratis?
Sì, tutta: nessuna funzione a pagamento, niente pubblicità e nessun account.
Cosa misura il benchmark standard?
La velocità di prefill su un prompt fisso di 512 token, poi la velocità di generazione su esattamente 128 token con decodifica greedy, più il tempo al primo token, la latenza per token e la memoria. C'è un'esecuzione di riscaldamento e tre misurate, e si riportano le mediane. Siccome input e impostazioni non cambiano mai, i risultati di dispositivi diversi si possono confrontare.
Cosa viene condiviso con la community?
Solo le esecuzioni standard, e solo se “Condividi i risultati con la community” è attivo: il modello del dispositivo e il suo hardware (chip, numero di core, memoria), il modello provato, la versione dell'app e del sistema e le metriche misurate. Niente che ti identifichi. Puoi disattivare la condivisione nella scheda Benchmark o nelle Impostazioni.
Perché i miei risultati sono più lenti di quelli della community?
La modalità Risparmio energetico, un dispositivo caldo e altre app al lavoro rallentano la generazione. Le esecuzioni in Risparmio energetico o che finiscono con il dispositivo caldo restano fuori dalle mediane della community: lascia raffreddare il dispositivo e riprova.
Da dove arrivano i modelli?
Dalla community MLX su Hugging Face. Un modello si scarica la prima volta che lo provi e resta sul dispositivo; la scheda Modelli mostra quanto spazio occupano e ti permette di eliminarli.
Quanto spazio occupano i modelli?
Il più piccolo, Qwen3 0.6B a 4 bit, occupa circa 350 MB; un modello da 8 miliardi di parametri a 4 bit occupa circa 4,6 GB.
Su quali dispositivi funziona?
iPhone e iPad con iOS 18.6 o successivo. Su iPhone Duo l'app segue il dispositivo, chiuso e aperto. La versione per Mac con Apple silicon è in arrivo.
MLX Benchmarks è fatta da Sofapps.
Sofapps è un piccolo studio alle pendici dell’Etna. Progettiamo, sviluppiamo e curiamo nel tempo le nostre app, per le persone che le usano ogni giorno.
Tutte le nostre app
Serve aiuto?
Scrivici: leggiamo ogni messaggio e rispondiamo di persona.
Gratis · Senza pubblicità · Nessun account · Richiede iOS 18.6 · Versione per Mac in arrivo