Jev & balo_engine — Das hybride KI-Nervensystem.
Als integraler Teil von BalonixOS trennt Jev semantisches Verstehen (Gemma-4 + EmbeddingGemma-2) strikt von deterministischer Systemausführung in Rust.
Integrierter Pfad in BalonixOS
system/llm-agent/
├── orchestrator/ # Rust (Jev Harness & Sicherheits-Gate)
├── balo_engine/ # Talente, Router, EmbeddingGemma-2
└── runtime.nix # Deklarative llama-server On-Demand Unit 8-Schichten Harness in Rust
0 MB VRAM im Ruhezustand
Takt 1–3 Transaktionsvertrag
Talent-Ausführung über typisierte Verträge
Systemfähigkeiten werden als feste Talente mit klarem Schema beschrieben. Nach der Modell-Auswahl prüft ein Sicherheits-Gate jeden Parameter vor dem Ausführen.
Drei Takte bis zum System-Zustand
Schnelle Live-Steuerung (Takt 1), Sitzungszustand (Takt 2) und deklarative NixOS-Konfiguration (Takt 3) arbeiten zusammen ohne doppelte Wahrheit.
On-Demand Runtime ohne Dauerlast
Die integrierte llama-server Runtime fährt lokal hoch, beantwortet Anfragen oder berechnet Embeddings und gibt Grafikspeicher danach wieder frei.
Warum trennt BalonixOS Jev (Rust) und das Sprachmodell?
Ein Sprachmodell darf Vorschläge machen, aber niemals unkontrolliert Shell-Befehle erfinden. Jev prüft Berechtigungen und Grenzen vor jedem Eingriff.
Welche Aufgaben übernimmt EmbeddingGemma-2?
Es indiziert Inhalte lokal als Vektoren und erkennt passende Dateien oder Aktionen semantisch — inklusive Tippfehlern und Mischsprache.
Ist Jev ein separates Standalone-Tool?
Nein. Jev und balo_engine sind fester Bestandteil des BalonixOS-Repositories unter GPL-3.0.