Zum Inhalt springen

Runlix

Die Engine, der Chat, der Server. Eine App.

Runlix führt KI-Modelle auf Ihrem Mac aus: eine eigene Rust-Engine auf MLX, ein Chat, der Werkzeuge benutzen kann, und ein Server, an den sich andere Programme anschließen. macOS 14 und neuer, Apple Silicon.

Aktualisiert 2026-09-12Gemessen 2026-09-07

Der Chat von Runlix: links die Liste der Unterhaltungen, eine Frage und die Antwort mit hervorgehobenem Python-Code.

Die meisten Wege, ein Modell lokal auszuführen, sind ein Bausatz: die Engine hier, der Chat dort, der Server woanders, und ein Ordner voller Downloads, den Sie selbst verwalten. Runlix ist diese vier Dinge in einer einzigen Anwendung, und die Engine darunter ist die eigene.

Nichts, was vorher startet Das Modell lädt in der Anwendung. Kein Hintergrunddienst, und nichts läuft weiter, wenn Sie beenden.
Es prüft vor dem Download Ein Urteil mit dem Grund daneben, aus der Beschreibung des Modells gelesen — nicht nach acht Gigabyte.
Kein Konto, keine Telemetrie Es gibt nichts, wofür man sich anmeldet. Das Netz wird nur berührt, wenn Sie selbst ein Modell suchen.
macOS 14+, Apple Silicon Version 0.1.0, und es gibt noch nichts zum Laden. Die Roadmap sagt, wo die Arbeit wirklich steht.

Es sagt es Ihnen vor dem Download, nicht danach

Acht Gigabyte herunterzuladen, um festzustellen, dass das Modell nicht lädt, ist die normale Erfahrung mit lokaler KI. Runlix fragt zuerst bei Hugging Face nach, liest die config.json des Modells und gibt ein Urteil ab — mit dem Grund daneben.

Runlix führt es aus Eine der sechs Familien, die die Engine nativ implementiert.
Noch nicht Die Engine trägt diese Familie noch nicht. mlx-lm kennt sie, also lässt sie sich hinzufügen.
Nicht verwendbar Keine safetensors, ein Vision-Modell, oder eine Quantisierung pro Tensor statt pro Modell. Der Grund wird genannt.
Nicht bekannt Hugging Face hat nicht geantwortet, oder das Repository hat keine config.json. Nichtwissen wird gesagt, nicht geraten.

Es löst auch Aliasnamen auf, und daran scheitern die meisten: In MLX ist mistral ein anderer Name für llama, ein Mistral-Modell läuft also auf der nativen Engine, obwohl der Name nichts davon verrät. Runlix schreibt das ins Urteil, statt es Sie herausfinden zu lassen.

Gegen mlx-lm gemessen, nicht behauptet

Die Engine erzeugt Tokens, die identisch zu mlx_lm sind — geprüft gegen Orakel, die mlx_lm selbst erzeugt hat, und nicht durch Betrachten der Ausgabe. Geschwindigkeit ist ein Verhältnis zur selben Referenz, und jedes Verhältnis trägt das Datum seiner Messung.

Gierige Generierung 89 % 253 tok/s · Referenz 284 tok/s
Temperatur 0,8 93 % 229 tok/s · Referenz 246 tok/s
Prompt mit 4096 Tokens 86 % 1865 ms · Referenz 1609 ms · Spitze 1115 MB

Referenz: mlx-lm = 100 %. Gemessen am 7. September 2026 auf Llama-3.2-1B mit 4 Bit. Die Geschwindigkeit schwankt auf einer geteilten Maschine zwischen den Durchläufen: das sind die Zahlen einer Sitzung, nicht der beste Fall.

Also langsamer als die Referenz — und das wird gesagt. Die Engine existiert, um im Prozess zu laufen und uns zu gehören, nicht um die Bibliothek zu schlagen, aus der sie übersetzt wurde.

Für wen das ist

Drei Arten von Menschen wollen hier dasselbe aus verschiedenen Gründen. Die Website ist für alle drei geschrieben, statt so zu tun, als wären sie eine.

Sie bauen mit Modellen

Die interessanten Teile sind die Engine und der Server: eine Laufzeit, die man lesen kann, Tokens gegen eine Referenz geprüft statt nach Augenmaß, und ein Endpunkt, auf den Ihr Editor und Ihre Skripte ohne Adapter zeigen.

Sie sind neugierig, auf Ihrem Mac

Müde, zwischen einem Browser-Tab und einer Kommandozeile zu wählen. Eine Anwendung mit einem Chat darin und einem Katalog, der sagt, was läuft, bevor Sie den Download ausgeben.

Manches darf Ihren Mac nicht verlassen

Die Unterlagen eines Mandanten, die Notizen eines Patienten, eine Akte. Hier ist das Argument nicht Geschwindigkeit: kein Konto, keine Telemetrie, keine Absturzberichte, keine Nutzungsstatistik, und das Netz nur berührt, wenn Sie ein Modell suchen.

Was noch nicht da ist, und was Sie brauchen

Noch nicht da

Runlix ist Version 0.1.0 und es gibt nichts zum Herunterladen. Die Anwendung ist ad-hoc signiert statt notarisiert, macOS wird sie also nicht öffnen, bis Sie es ausdrücklich erlauben.

Sie liest safetensors nur im MLX-Format — kein GGUF, nie, eine Entscheidung und keine Lücke. Noch keine Bildmodelle.

Werkzeuge laufen im Runlix-Chat; über die HTTP-API gibt das Modell die Aufrufe zurück und Ihr eigenes Programm führt sie aus.

Was Sie brauchen

macOS 14 oder neuer, auf Apple Silicon. Intel-Macs sind außerhalb des Rahmens und bleiben es: MLX läuft auf der Apple-GPU, und es gibt keine Fassung davon, die ohne eine funktioniert.

Der Speicherplatz ist vor allem eine Frage der Modelle, nicht der Anwendung selbst.

Die Roadmap ist die ehrliche Fassung von all dem und spiegelt die Meilensteine des Projekts, statt für die Website geschrieben zu sein.

Worüber möchten Sie informiert werden?

Eine E-Mail fragt nach, ob Sie das wirklich wollten; vorher kommt nichts weiter. Jede Nachricht enthält einen Ausstieg mit einem Klick, und wer die Löschung verlangt, wird gelöscht.