Unsere Arbeit und P16

P16 ist das französische Programm, von Inria geleitet und von France 2030 getragen, das souveräne, offene und interoperable Softwarebibliotheken für KI entwickelt. Unsere Bibliothek und unsere Produkte verfolgen dieselben Ziele, und wir wollen uns um seine Unterstützung bewerben.

P16 in Kürze

P16 wurde im September 2024 im Rahmen der Nationalen Strategie für künstliche Intelligenz gestartet und verdankt seinen Namen der Maßnahme Nr. 16 der Beschleunigungsstrategie für KI. Sein Auftrag ist, die technologische Autonomie Frankreichs und Europas durch Softwarebibliotheken zu stärken, die den gesamten Zyklus der Daten und der Modelle abdecken. Inria leitet das Programm über sein KI-Programm, mit etwa 8 Millionen Euro über fünf Jahre.

  • Drei vorrangige Handlungsfelder: die Interoperabilität der Daten, ihre Aufbereitung sowie das Training und die Ausführung von Modellen.
  • Bibliotheken, die als digitale Gemeingüter entwickelt, breit verteilt und gepflegt werden.
  • Ein Weg des Transfers in die Industrie, auch für die Forschung zu vertrauenswürdiger, sparsamer und eingebetteter KI.
  • Softwarekomponenten, die nach Qualität, Reife, Allgemeingültigkeit und ihrem Wert für die digitale Souveränität ausgewählt werden.

Schnittmengen unserer Arbeit mit den Zielen von P16

Jede Zeile verbindet ein von P16 genanntes Ziel mit dem, was wir bereits veröffentlicht haben.

Ziel von P16Veröffentlichungen von Cydral Technology
Souveräne und offene BibliothekenDlib-Transformer-extensions, in Frankreich in Standard-C++14 geschrieben und unter der Boost Software License 1.0 veröffentlicht, ohne Python-Umgebung in der Kette.
InteroperabilitätModelle im GGUF-Format, eine lokale Schnittstelle, die der OpenAI-Schnittstelle folgt und mit OpenAPI beschrieben ist, Dokumente, die in ihren Office-Formaten gelesen und geschrieben werden.
DatenaufbereitungEin Tokenizer mit Byte-Pair-Encoding, Werkzeuge für Korpora und Datensätze sowie Pseudalis, das personenbezogene Daten aus Dokumenten entfernt, bevor sie ein Modell oder einen Prompt speisen.
Training und Ausführung von ModellenFine-Tuning mit LoRA und DoRA, Destillation, Pruning sowie Engines für Prozessoren, für NPU und GPU von Intel und für NVIDIA-Grafikprozessoren.
Sparsame KIQuantisierte Gewichte, Ganzzahlkerne und per Software erweiterter GPU-Speicher: Ein multimodales Modell mit 4 Milliarden Parametern antwortet auf einem Laptop mit 8 GB Arbeitsspeicher.
Vertrauenswürdige KILokale Ausführung, signierte Updates, umkehrbare Pseudonymisierung nach den Artikeln 25 und 32 der DSGVO und Berichte, die die Grenzen jeder Methode nennen.
Eingebettete KIOperationen, die an die NPU und die integrierte GPU des Prozessors geleitet werden, und Modelle, die in ein einziges Programm kompiliert sind.
Transfer in die UnternehmenZwei installierte Produkte, Albireo und Pseudalis, in ihren Community-Editionen kostenlos und offen für den Vertrieb unter einer anderen Marke.

Gemessen an seinen Auswahlkriterien

Softwarequalität

Tests, lauffähige Beispiele und ein Forschungsbericht je Methode, zusammen mit dem Code aufbewahrt.

Reife

Veröffentlichte Versionen mit ihren Installationsprogrammen, ein signierter Update-Kanal und ein per Hash geprüfter Modellkatalog.

Allgemeingültigkeit

Eine einzige Bibliothek deckt das Leben eines Modells ab, vom Import eines veröffentlichten Modells bis zu seiner Destillation, für Text wie für Bilder.

Souveränität

Code, Modelle und Schlüssel bleiben auf Geräten, die ihre Eigentümer kontrollieren, und jede Komponente lässt sich lesen, prüfen und selbst betreiben.

Die gesuchte Unterstützung

Cydral Technology ist heute kein Partner von P16 und erhält keine öffentliche Förderung. Wir wollen die Bibliothek dem Programm vorstellen und dort Unterstützung in der Entwicklung, Sichtbarkeit und, wenn möglich, eine Finanzierung finden. So ließe sich die Bibliothek dauerhaft pflegen und zu mehr europäischen Unternehmen bringen.

Bis dahin ist jede andere Unterstützung willkommen: eine Funktion fördern, die Roadmap finanzieren oder die Produkte vertreiben.

Quellen

P16 und France 2030 werden hier genannt, um öffentliche Programme zu beschreiben. Ihre Nennung bedeutet keine Unterstützung von Cydral Technology durch Inria oder den französischen Staat.