Salta al contenuto

Runlix

Il motore, la chat, il server. Un'app sola.

Runlix esegue modelli AI sul tuo Mac: un motore Rust proprio su MLX, una chat che sa usare strumenti, e un server a cui si collegano gli altri programmi. macOS 14 e successivi, Apple Silicon.

Aggiornato 2026-09-12Misurato 2026-09-07

La chat di Runlix: l'elenco delle conversazioni a sinistra, una domanda, e la risposta col suo codice Python evidenziato.

Quasi tutti i modi di far girare un modello in locale sono un kit da comporre: il motore di qua, la chat di là, il server da un'altra parte, e una cartella di scaricati che gestisci tu. Runlix è quelle quattro cose in un'applicazione sola, e il motore sotto è suo.

Niente da avviare prima Il modello si carica dentro l'applicazione. Nessun servizio in secondo piano, e niente che resti acceso quando chiudi.
Controlla prima che tu scarichi Un verdetto con la ragione scritta accanto, letto dalla descrizione del modello — non dopo otto gigabyte.
Nessun account, nessuna telemetria Non c'è niente a cui iscriversi. La rete si tocca solo quando sei tu a cercare un modello.
macOS 14+, Apple Silicon Versione 0.1.0, e non c'è ancora niente da scaricare. La roadmap dice a che punto è il lavoro davvero.

Te lo dice prima di scaricare, non dopo

Scaricare otto gigabyte per scoprire che il modello non si carica è l'esperienza normale dell'AI in locale. Runlix lo chiede prima a Hugging Face, legge il config.json del modello, e dà un verdetto con la ragione scritta accanto.

lo esegue Runlix È una delle sei famiglie che il motore implementa nativamente.
non ancora Il motore non porta ancora questa famiglia. mlx-lm la conosce, quindi si può aggiungere.
non si può usare Niente safetensors, oppure è un modello di visione, oppure ha una quantizzazione applicata per tensore invece che per modello. La ragione viene detta.
non lo so Hugging Face non ha risposto, o il repository non ha config.json. Non saperlo si dice, non si indovina.

Scioglie anche gli alias, che è la parte su cui si inciampa: in MLX mistral è un altro nome di llama, quindi un modello Mistral gira sul motore nativo anche se dal nome non si direbbe. Runlix lo scrive nel verdetto invece di lasciartelo scoprire.

Misurato contro mlx-lm, non dichiarato

Il motore genera token identici a mlx_lm — verificato contro oracoli generati da mlx_lm stesso, non guardando l'uscita a occhio. La velocità è un rapporto contro lo stesso riferimento, e ogni rapporto porta la data in cui è stato preso.

Generazione avida 89% 253 tok/s · riferimento 284 tok/s
Temperatura 0,8 93% 229 tok/s · riferimento 246 tok/s
Prompt da 4096 token 86% 1865 ms · riferimento 1609 ms · picco 1115 MB

Riferimento: mlx-lm = 100%. Misurato il 7 settembre 2026 su Llama-3.2-1B a 4 bit. La velocità su una macchina condivisa varia fra un giro e l'altro: questi sono i numeri di una sessione, non il caso migliore.

Più lento del riferimento, quindi — e detto. Il motore esiste per girare in-process ed essere nostro, non per battere mlx_lm nella sua stessa aritmetica.

Per chi è

Tre tipi di persone vogliono la stessa cosa per ragioni diverse. Il sito è scritto per tutti e tre, invece di far finta che siano uno solo.

Costruisci con i modelli

Le parti interessanti sono il motore e il server: un runtime che puoi leggere, token verificati contro un riferimento invece che a occhio, e un endpoint a cui il tuo editor e i tuoi script puntano senza scrivere un adattatore.

Sei curioso, sul tuo Mac

Stanco di scegliere fra una scheda del browser e una riga di comando. Un'applicazione sola con dentro una chat e un catalogo che ti dice cosa girerà prima che tu spenda il download.

Alcune cose non possono uscire dal tuo Mac

I documenti di un cliente, gli appunti di un paziente, un fascicolo. Qui l'argomento non è la velocità: nessun account, nessuna telemetria, nessuna segnalazione di crash, nessuna statistica d'uso, e la rete toccata solo quando cerchi un modello.

Cosa non c'è ancora, e cosa ti serve

Non c'è ancora

Runlix è alla versione 0.1.0 e non c'è niente da scaricare. L'applicazione è firmata ad-hoc e non notarizzata, quindi macOS si rifiuterà di aprirla finché non glielo permetti esplicitamente.

Legge safetensors nel formato MLX soltanto — niente GGUF, mai, che è una decisione e non una lacuna. Niente modelli di visione, per ora.

Gli strumenti girano nella chat di Runlix; attraverso l'API HTTP il modello restituisce le chiamate e le esegue il tuo programma.

Cosa ti serve

macOS 14 o successivo, su Apple Silicon. I Mac Intel sono fuori dall'orizzonte e lo resteranno: MLX gira sulla GPU Apple, e non esiste una versione di questo che funzioni senza.

Il disco è soprattutto una questione di modelli, più che dell'applicazione in sé.

La roadmap è la versione onesta di tutto questo, e rispecchia le tappe del progetto invece di essere scritta per il sito.

Di cosa vuoi ricevere notizia?

Una email ti chiederà se intendevi davvero, e niente altro arriva finché non dici di sì. Ogni messaggio porta una via d'uscita in un clic, e chiedere di essere cancellati cancella davvero.