Albireo

Ihr privater KI-Assistent, auf Ihrem eigenen Computer

Albireo führt Sprachmodelle direkt auf Ihrem Windows-11-Computer aus. Ihre Unterhaltungen, Dokumente und Modelle bleiben auf dem Gerät: kein Konto, keine Daten, die nach außen gesendet werden.

  • Kostenlos
  • Open Source
  • Windows 11, x64
  • Funktioniert offline
  • Version 1.0.23
  • Veröffentlicht am 15. November 2026
  • Lizenz Boost Software License 1.0
Eine Frage zu einem Diagramm, beantwortet vom mit Albireo gelieferten Modell
56,8
Token pro Sekunde auf einer Laptop-GPU, gegenüber 23,6 auf ihrem Prozessor
22
Modelle im signierten Katalog, von 7 Herausgebern
5
Engines: Prozessoren, NPU und GPU von Intel, GPU von NVIDIA
0
Konten, Abonnements oder nach außen gesendete Daten

Die Stärken von Albireo

Vertraulich durch seine Bauweise

Der Dienst lauscht nur auf der lokalen Adresse. Eine Frage, ein Dokument oder ein Bild verlässt den Computer nur, wenn Sie das Relais einschalten.

Schnell auf Ihrer vorhandenen Hardware

Seine Engine führt quantisierte Modelle mit Ganzzahlkernen aus und nutzt NPU und GPU von Intel oder eine NVIDIA-Karte, wenn der Computer darüber verfügt.

In wenigen Minuten einsatzbereit

Das vollständige Installationsprogramm bringt seine Modelle mit: Albireo antwortet, sobald die Installation endet, auch ohne Verbindung.

Kompatibel mit Ihren Werkzeugen

Die lokale Schnittstelle folgt der OpenAI-Schnittstelle: Ihre Client-Bibliotheken, Editoren und Skripte arbeiten unverändert damit.

Alle Funktionen eines Assistenten, lokal ausgeführt

Chat
Unterhaltungen, die im Browser bleiben, ein Inkognito-Modus, eine Suche über die Unterhaltungen und die Überlegungen der Modelle, die nachdenken, während sie denken.
Dokumente
Word, Excel, PowerPoint, OpenDocument, PDF, RTF, HTML, Text, CSV, Markdown und Quellcode, im Browser gelesen und einer Nachricht oder einem Projekt angehängt.
Bilder
Die Modelle, die Bilder lesen, nehmen PNG- und JPEG-Bilder an, angehängt, eingefügt oder in eine Frage gezogen.
Projekte
Unterhaltungen, gruppiert mit Anweisungen und Dokumenten als gemeinsamem Kontext, durchsucht nach Bedeutung und nach Wörtern.
Agentenmodus
Das Modell ruft Werkzeuge auf, die in der Seite laufen: Rechner, JavaScript in einer Sandbox, Lesen und Durchsuchen der Dokumente, bis zu 100 Schritte pro Antwort.
Webzugriff
Eine optionale Suche in Wikipedia und das Lesen öffentlicher Seiten und PDF-Dateien, in jeder neuen Unterhaltung ausgeschaltet.
Vorlesen
Jede Antwort kann von der mit Albireo gelieferten Sprachsynthese vorgelesen werden, ohne Netzwerk.
Eine Schnittstelle für andere Programme
Chat-Vervollständigungen, Vervollständigungen, Embeddings, Sprache und Modelle folgen der OpenAI-Schnittstelle, mit Streaming und Bildern, dokumentiert in einer Swagger-Seite.
Offline-Modus
Auf einem Computer ohne Netzwerk öffnet der Dienst keine Verbindung: Katalog, Modelle und Updates kommen aus einem signierten Paket auf einem Datenträger.
Relais zu einer externen Engine
Eine Unterhaltung kann an eine externe Engine weitergeleitet werden: jede OpenAI-kompatible Schnittstelle, die Cloud von Ollama oder Claude. Pseudalis pseudonymisiert ihre Texte, bevor sie den Computer verlassen, und eine Engine des Computers oder des lokalen Netzes bleibt offline nutzbar.

Der Modellkatalog von Albireo

Albireo führt nahezu jedes Sprachmodell mit offenen Gewichten aus, das im GGUF-Format veröffentlicht ist, in beiden heute üblichen Strukturen: dichte Modelle, bei denen alle Parameter für jedes Token arbeiten, und Modelle mit Expertenmischung (MoE), bei denen ein Router nur einige Experten aktiviert. Der Katalog unten führt die 22 getesteten und zum Download angebotenen Modelle auf, jedes per Hash geprüft.

Dichte Modelle

Architekturen llama, mistral, mistral3, granite, phi3, qwen2, qwen3 und qwen3vl.

Modelle mit Expertenmischung (MoE)

Architekturen mixtral, granitemoe, qwen3moe und qwen3vlmoe.

ModellHerausgeberFunktionenLiestGrößeLizenzOffizielle Quelle
Qwen3-VL 4B Instruct StandardAlibabaallgemein, Code, SicherheitText, Bilder2,95 GBApache-2.0Hugging Face
Qwen3-VL 4B ThinkingAlibabaallgemein, Code, SicherheitText, Bilder2,95 GBApache-2.0Hugging Face
Qwen3-VL 2B ThinkingAlibabaallgemein, Code, SicherheitText, Bilder1,55 GBApache-2.0Hugging Face
Qwen3 Embedding 0.6B StandardAlibabaDokumentensucheText639,2 MBApache-2.0Hugging Face
Qwen3-VL 2B InstructAlibabaallgemeinText, Bilder1,55 GBApache-2.0Hugging Face
Qwen3-VL 8B InstructAlibabaallgemein, Code, SicherheitText, Bilder5,78 GBApache-2.0Hugging Face
Qwen3-VL 8B ThinkingAlibabaallgemein, Code, SicherheitText, Bilder5,78 GBApache-2.0Hugging Face
EuroVLM 9B PreviewEuroLLM consortiumallgemeinText, Bilder6,42 GBApache-2.0Hugging Face
Phi-4-miniMicrosoftallgemeinText2,49 GBMITHugging Face
Ministral 3 3BMistral AIallgemeinText, Bilder2,99 GBApache-2.0Hugging Face
Ministral 3 8BMistral AIallgemeinText, Bilder6,06 GBApache-2.0Hugging Face
EuroLLM 9B InstructEuroLLM consortiumallgemeinText5,58 GBApache-2.0Hugging Face
Granite 4.2 3BIBMallgemein, CodeText2,24 GBApache-2.0Hugging Face
Granite 4.2 8BIBMallgemein, CodeText5,35 GBApache-2.0Hugging Face
Qwen3-VL 30B A3B ThinkingAlibabaallgemein, Code, SicherheitText, Bilder19,27 GBApache-2.0Hugging Face
Mistral Small 3.2 24BMistral AIallgemeinText, Bilder15,21 GBApache-2.0Hugging Face
Qwen2.5 Coder 1.5BAlibabaCodeText1,12 GBApache-2.0Hugging Face
Qwen2.5 Coder 7BAlibabaCodeText4,68 GBApache-2.0Hugging Face
Devstral Small 2Mistral AICodeText, Bilder15,21 GBApache-2.0Hugging Face
CyberSecQwen 4Bathena129 (lablab.ai)SicherheitText2,50 GBApache-2.0Hugging Face
Foundation-Sec 1.1 8BCiscoSicherheitText4,92 GBLlama 3.1 Community LicenseHugging Face
Foundation-Sec 8B ReasoningCiscoSicherheitText4,92 GBLlama 3.1 Community LicenseHugging Face

Die Größen zählen den Decoder und seinen Bild-Encoder. Jedes Modell behält die Lizenz seines Herausgebers.

Ein Modell zur Unterstützung vorschlagen

Tempo auf gängiger Hardware: die Techniken von Albireo

Albireo führt Modelle mit einer eigenen Engine aus, entwickelt für die Prozessoren und Grafikkarten, die bereits im Einsatz sind. Jede der folgenden Techniken ist im README des Produkts gemessen.

Quantisierte Gewichte, Ganzzahlkerne

Die Gewichte bleiben in der Speicherabbildung der GGUF-Datei, in ihrer quantisierten Form. Ganzzahlkerne berechnen 32 Produkte, wo ein Gleitkommavektor 8 berechnet.

Lesen eines Prompts: 216 Token pro Sekunde für Qwen3-VL 4B und mehr als 1.300 für Qwen3 0.6B (Intel Core Ultra 9 275HX, 24 Threads); auf zwei Kernen 230 gegenüber 126 mit Gleitkommazahlen (Qwen3 0.6B, AVX-VNNI)

Vorausschauendes Dekodieren

Eine Antwort schreibt mehrere Token pro Schritt, wenn ihr Kontext sie ankündigt. Das Modell behält die Token, die es selbst gezogen hätte, sodass die Antworten die Verteilung des Samplings behalten.

25,5 gegenüber 19,7 Token pro Sekunde beim Umschreiben von Code (Qwen3 0.6B, zwei Kerne); 26,3 gegenüber 23,6 auf 24 Threads (Qwen3-VL 4B)

Eine Engine für jede Art von Prozessor

Portable, AVX2- und AVX-VNNI-Engines für Prozessoren, die NPU und die integrierte GPU von Intel über OpenVINO, NVIDIA-Grafikprozessoren über CUDA. Der Dienst misst sie auf dem Gerät und führt die schnellste aus.

Schreiben: 80,6 bis 87,7 Token pro Sekunde für Qwen3 0.6B mit der Prozessor-Engine (Intel Core Ultra 9 275HX, 24 Threads)

Schichten, auf der NVIDIA-Karte berechnet

Die CUDA-Engine hält die Gewichte in ihren GGUF-Formaten auf der Karte und berechnet dort die Schichten eines dichten Modells, für die erzeugten Token einschließlich der Attention.

56,8 gegenüber 23,6 Token pro Sekunde (Qwen3-VL 4B, RTX 5070 Ti Laptop GPU gegenüber 24 Threads)

Erweiterter Speicher V²RAM

Der erweiterte Gerätespeicher der Bibliothek lässt die Kopien der Gewichte über den Speicher der Karte hinausgehen, in den Host-Speicher oder eine Datei, und holt sie vor ihrer Verwendung zurück.

Kompaktes Gesprächsgedächtnis

Schlüssel und Werte werden in 8 Bit gehalten, in Seiten, die sich Unterhaltungen mit gleichem Anfangstext teilen.

34 Bytes gegenüber 64 pro Wertegruppe, mit demselben nächsten Token auf 210 Positionen

Mehrere Unterhaltungen zugleich

Die Anfragen aller Clients werden in jedem Vorwärtsdurchlauf gemeinsam berechnet, und die Schlüssel und Werte einer beendeten Anfrage bleiben für den nächsten Zug im Cache.

32 bis 40 % weniger Zeit pro Schritt bei vier gemeinsam geschriebenen Antworten

Ein OpenVINO-Graph auf Prozessor und GPU von Intel

Mit OpenVINO wird ein ganzes Modell als ein einziger Graph auf dem Prozessor oder auf der integrierten GPU von Intel berechnet, und die NPU übernimmt Matrixprodukte. Der Graph liest den ersten Durchlauf eines Prompts schneller; die Prozessor-Engine bleibt bei den folgenden Durchläufen und beim Schreiben schneller, und die Messung der Engines, über das Symbol gestartet, behält die beste Wahl für die Maschine.

Erstes Lesen eines Prompts: 260 Token pro Sekunde mit dem Graphen gegenüber 216 mit der Prozessor-Engine (Qwen3-VL 4B, Intel Core Ultra 9 275HX, 24 Threads)

Engines
EngineLäuft auf
cpuJedem x86-64-Prozessor
cpu-avx2Prozessoren mit AVX2, FMA und F16C: Intel Haswell, AMD Zen und neuer
cpu-avxvnniProzessoren mit AVX-VNNI: Intel Core ab Alder Lake, Intel Xeon ab Sapphire Rapids, AMD Zen 5
openvinoNPU und integrierter GPU von Intel-Prozessoren, über OpenVINO
cudaNVIDIA-Grafikprozessoren, über CUDA

Bildschirmfotos

Zielgruppen und Einsatzfelder von Albireo

Teams, deren Daten im Haus bleiben müssen

Recht, Gesundheit, Finanzen, öffentliche Stellen und Industrie: Fragen zu internen Dokumenten bleiben in der Organisation.

Entwickler

Ein lokaler, OpenAI-kompatibler Endpunkt für Editoren, Skripte und Tests, mit Code-Modellen im Katalog.

Sicherheitsteams

Auf Cybersicherheit spezialisierte Modelle, ein Offline-Modus und ein signiertes Paket für isolierte Computer.

Integratoren und Softwarehersteller

Eine Komponente zum Einbetten oder zum Vertrieb unter eigener Marke, unter einer freizügigen Lizenz.

Merkmale

PlattformWindows 11, x64
ProgrammeInferenz-Engines, Windows-Dienst, Webanwendung, Symbol im Infobereich und Installationsprogramm
ModellformatQuantisiertes GGUF: Q4_0 bis Q8_0, Q2_K bis Q6_K und IQ4_NL
Architekturenllama, mistral, mistral3, granite, granitemoe, phi3, qwen2, qwen3, qwen3moe, qwen3vl, qwen3vlmoe, mixtral
Bild-EncoderQwen3-VL, LLaVA-NeXT (EuroVLM) und Pixtral (Ministral 3, Devstral Small 2, Mistral Small 3.2)
Mit Albireo gelieferte ModelleQwen3-VL-4B-Instruct mit seinem Bild-Encoder (2,95 GB) und Qwen3-Embedding-0.6B (0,64 GB)
Katalog22 Modelle von 7 Herausgebern, signiert und anhand ihrer Hashes geprüft
KontextDas Kontextfenster, für das jedes Modell trainiert wurde
Arbeitsspeicher8 GB für das standardmäßig installierte Modell
Lokale Schnittstellehttps://localhost:8443, kompatibel mit der OpenAI-Schnittstelle, dokumentiert mit Swagger
GesprächsformateChatML, Mistral, Llama 3, Granite, Phi-4-mini und Foundation-Sec, nativ geschrieben
Sprachen der OberflächeEnglisch, Französisch, Deutsch, Italienisch und Spanisch
UpdatesSignierter Feed, Installationsprogramme nach Größe und SHA-256 geprüft
LizenzBoost Software License 1.0, Community Edition

Überprüfbare Sicherheit

Nur lokal
Der Dienst lauscht auf 127.0.0.1 und lehnt Anfragen ab, deren Host oder Ursprung nicht lokal ist.
Eine Zertifizierungsstelle des Computers
Das HTTPS-Zertifikat stammt von einer auf dem Computer erzeugten Stelle mit einem ECDSA-P-256-Schlüssel, durch Namensbeschränkungen auf localhost begrenzt.
Von Windows geschützte Schlüssel
Der private Schlüssel des Servers und der Schlüssel des Relais sind mit DPAPI verschlüsselt und werden nie im Klartext geschrieben.
Eine signierte Lieferkette
Der Update-Feed und der Modellkatalog sind mit ECDSA P-256 signiert, und jede heruntergeladene Datei wird anhand ihres SHA-256 geprüft.
Eine offene Schnittstelle
Die Routen folgen der OpenAI-Schnittstelle und sind mit OpenAPI beschrieben, sodass vorhandene Client-Bibliotheken unverändert funktionieren.
Isolierte Sprachsynthese
Der Synthesizer läuft in einem getrennten Prozess niedriger Integrität, ohne Privilegien und im Speicher begrenzt.

Gut zu wissen

Preis und Lizenz
Albireo Community ist kostenlos, für private wie berufliche Nutzung, unter der Boost Software License 1.0. Jedes Modell behält die Lizenz seines Herausgebers.
Hardware
Ein Windows-11-Computer (x64) mit 8 GB Arbeitsspeicher führt das Standardmodell aus. Eine Grafikkarte oder eine Intel-NPU beschleunigt es und ist nicht erforderlich.
Ohne Netzwerk
Sind die Modelle installiert, funktioniert alles offline. Ein isolierter Computer erhält Katalog, Modelle und Updates aus einem signierten Paket.
Ihre Daten
Die Unterhaltungen bleiben im Browser des Computers. Der Dienst erreicht die Außenwelt nur für Updates, für die Modelle, die Sie herunterladen, und für den Webzugriff oder das Relais, die Sie einschalten.
Updates
Der Dienst liest einen signierten Feed und prüft jedes Installationsprogramm anhand von Größe und SHA-256, bevor er es installiert.

Installation

Jede Version wird mit zwei Installationsprogrammen angeboten. Das vollständige bringt die mit Albireo gelieferten Modelle mit: Der Assistent antwortet, sobald die Installation endet, ohne Verbindung. Das Online-Installationsprogramm enthält dieselben Programme ohne die Modelle: Der Dienst lädt die Standardmodelle bei seinem ersten Start.

Der Assistent fragt nach Sprache, Lizenz, Ordnern und Optionen. Die Befehlszeile deckt stille Bereitstellungen ab:

albireo-setup /silent [/dir <folder>] [/data-dir <folder>] [/models <folder>] [/port <port>] [/offline]
albireo-setup /uninstall [/silent] [/keep-data]
albireo-setup /models-dir <folder>
albireo-setup /service start|stop|restart
albireo-setup /lang en|fr|de|it|es

Mit Pseudalis auf demselben Computer

Das Relais kann jeden Text vor dem Versand pseudonymisieren und die Werte in den Antworten wieder einsetzen, während sie eintreffen. Die Tabelle der Ersatzwerte bleibt im Speicher des Dienstes, und Bilder verlassen den Computer nie: Das lokale Modell beschreibt sie.

Albireo installieren und die erste Frage stellen

Das vollständige Installationsprogramm bringt seine Modelle mit: Albireo antwortet, sobald die Installation endet.