Unsere Arbeit und P16
P16 ist das französische Programm, von Inria geleitet und von France 2030 getragen, das souveräne, offene und interoperable Softwarebibliotheken für KI entwickelt. Unsere Bibliothek und unsere Produkte verfolgen dieselben Ziele, und wir wollen uns um seine Unterstützung bewerben.
P16 in Kürze
P16 wurde im September 2024 im Rahmen der Nationalen Strategie für künstliche Intelligenz gestartet und verdankt seinen Namen der Maßnahme Nr. 16 der Beschleunigungsstrategie für KI. Sein Auftrag ist, die technologische Autonomie Frankreichs und Europas durch Softwarebibliotheken zu stärken, die den gesamten Zyklus der Daten und der Modelle abdecken. Inria leitet das Programm über sein KI-Programm, mit etwa 8 Millionen Euro über fünf Jahre.
- Drei vorrangige Handlungsfelder: die Interoperabilität der Daten, ihre Aufbereitung sowie das Training und die Ausführung von Modellen.
- Bibliotheken, die als digitale Gemeingüter entwickelt, breit verteilt und gepflegt werden.
- Ein Weg des Transfers in die Industrie, auch für die Forschung zu vertrauenswürdiger, sparsamer und eingebetteter KI.
- Softwarekomponenten, die nach Qualität, Reife, Allgemeingültigkeit und ihrem Wert für die digitale Souveränität ausgewählt werden.
Schnittmengen unserer Arbeit mit den Zielen von P16
Jede Zeile verbindet ein von P16 genanntes Ziel mit dem, was wir bereits veröffentlicht haben.
| Ziel von P16 | Veröffentlichungen von Cydral Technology |
|---|---|
| Souveräne und offene Bibliotheken | Dlib-Transformer-extensions, in Frankreich in Standard-C++14 geschrieben und unter der Boost Software License 1.0 veröffentlicht, ohne Python-Umgebung in der Kette. |
| Interoperabilität | Modelle im GGUF-Format, eine lokale Schnittstelle, die der OpenAI-Schnittstelle folgt und mit OpenAPI beschrieben ist, Dokumente, die in ihren Office-Formaten gelesen und geschrieben werden. |
| Datenaufbereitung | Ein Tokenizer mit Byte-Pair-Encoding, Werkzeuge für Korpora und Datensätze sowie Pseudalis, das personenbezogene Daten aus Dokumenten entfernt, bevor sie ein Modell oder einen Prompt speisen. |
| Training und Ausführung von Modellen | Fine-Tuning mit LoRA und DoRA, Destillation, Pruning sowie Engines für Prozessoren, für NPU und GPU von Intel und für NVIDIA-Grafikprozessoren. |
| Sparsame KI | Quantisierte Gewichte, Ganzzahlkerne und per Software erweiterter GPU-Speicher: Ein multimodales Modell mit 4 Milliarden Parametern antwortet auf einem Laptop mit 8 GB Arbeitsspeicher. |
| Vertrauenswürdige KI | Lokale Ausführung, signierte Updates, umkehrbare Pseudonymisierung nach den Artikeln 25 und 32 der DSGVO und Berichte, die die Grenzen jeder Methode nennen. |
| Eingebettete KI | Operationen, die an die NPU und die integrierte GPU des Prozessors geleitet werden, und Modelle, die in ein einziges Programm kompiliert sind. |
| Transfer in die Unternehmen | Zwei installierte Produkte, Albireo und Pseudalis, in ihren Community-Editionen kostenlos und offen für den Vertrieb unter einer anderen Marke. |
Gemessen an seinen Auswahlkriterien
Softwarequalität
Tests, lauffähige Beispiele und ein Forschungsbericht je Methode, zusammen mit dem Code aufbewahrt.
Reife
Veröffentlichte Versionen mit ihren Installationsprogrammen, ein signierter Update-Kanal und ein per Hash geprüfter Modellkatalog.
Allgemeingültigkeit
Eine einzige Bibliothek deckt das Leben eines Modells ab, vom Import eines veröffentlichten Modells bis zu seiner Destillation, für Text wie für Bilder.
Souveränität
Code, Modelle und Schlüssel bleiben auf Geräten, die ihre Eigentümer kontrollieren, und jede Komponente lässt sich lesen, prüfen und selbst betreiben.
Die gesuchte Unterstützung
Cydral Technology ist heute kein Partner von P16 und erhält keine öffentliche Förderung. Wir wollen die Bibliothek dem Programm vorstellen und dort Unterstützung in der Entwicklung, Sichtbarkeit und, wenn möglich, eine Finanzierung finden. So ließe sich die Bibliothek dauerhaft pflegen und zu mehr europäischen Unternehmen bringen.
Bis dahin ist jede andere Unterstützung willkommen: eine Funktion fördern, die Roadmap finanzieren oder die Produkte vertreiben.
Quellen
- Inria: Was ist P16, das Inria im Rahmen von France 2030 anvertraute Projekt (auf Französisch)
- Die Website von P16
- Französische Nationale Forschungsagentur, Projekt P16 (23-RDIA-0001)
P16 und France 2030 werden hier genannt, um öffentliche Programme zu beschreiben. Ihre Nennung bedeutet keine Unterstützung von Cydral Technology durch Inria oder den französischen Staat.