Jev & balo_engine — Das hybride KI-Nervensystem.

Als integraler Teil von BalonixOS trennt Jev semantisches Verstehen (Gemma-4 + EmbeddingGemma-2) strikt von deterministischer Systemausführung in Rust.

Integrierter Pfad in BalonixOS

system/llm-agent/
├── orchestrator/   # Rust (Jev Harness & Sicherheits-Gate)
├── balo_engine/    # Talente, Router, EmbeddingGemma-2
└── runtime.nix     # Deklarative llama-server On-Demand Unit
01

8-Schichten Harness in Rust

02

0 MB VRAM im Ruhezustand

03

Takt 1–3 Transaktionsvertrag

Talent-Ausführung über typisierte Verträge

Systemfähigkeiten werden als feste Talente mit klarem Schema beschrieben. Nach der Modell-Auswahl prüft ein Sicherheits-Gate jeden Parameter vor dem Ausführen.

Drei Takte bis zum System-Zustand

Schnelle Live-Steuerung (Takt 1), Sitzungszustand (Takt 2) und deklarative NixOS-Konfiguration (Takt 3) arbeiten zusammen ohne doppelte Wahrheit.

On-Demand Runtime ohne Dauerlast

Die integrierte llama-server Runtime fährt lokal hoch, beantwortet Anfragen oder berechnet Embeddings und gibt Grafikspeicher danach wieder frei.

Warum trennt BalonixOS Jev (Rust) und das Sprachmodell?

Ein Sprachmodell darf Vorschläge machen, aber niemals unkontrolliert Shell-Befehle erfinden. Jev prüft Berechtigungen und Grenzen vor jedem Eingriff.

Welche Aufgaben übernimmt EmbeddingGemma-2?

Es indiziert Inhalte lokal als Vektoren und erkennt passende Dateien oder Aktionen semantisch — inklusive Tippfehlern und Mischsprache.

Ist Jev ein separates Standalone-Tool?

Nein. Jev und balo_engine sind fester Bestandteil des BalonixOS-Repositories unter GPL-3.0.