Il nostro lavoro e P16
P16 è il programma francese, guidato da Inria e sostenuto da France 2030, che sviluppa librerie software sovrane, aperte e interoperabili per l'IA. La nostra libreria e i nostri prodotti perseguono gli stessi obiettivi, e intendiamo chiederne il sostegno.
P16 in breve
Avviato nel settembre 2024 nell'ambito della Strategia nazionale per l'intelligenza artificiale, P16 prende il nome dalla misura n. 16 della strategia di accelerazione per l'IA. La sua missione è rafforzare l'autonomia tecnologica della Francia e dell'Europa con librerie software che coprono l'intero ciclo dei dati e dei modelli. Inria guida il programma attraverso il suo Programma IA, con circa 8 milioni di euro in cinque anni.
- Tre azioni prioritarie: l'interoperabilità dei dati, la loro preparazione, poi l'addestramento e l'esecuzione dei modelli.
- Librerie sviluppate, ampiamente diffuse e mantenute come beni comuni digitali.
- Un percorso di trasferimento verso l'industria, anche per le ricerche sull'IA affidabile, frugale e integrata.
- Componenti software selezionati per qualità, maturità, genericità e interesse per la sovranità digitale.
Convergenze tra il nostro lavoro e gli obiettivi di P16
Ogni riga collega un obiettivo dichiarato da P16 a ciò che abbiamo già pubblicato.
| Obiettivo di P16 | Pubblicazioni di Cydral Technology |
|---|---|
| Librerie sovrane e aperte | Dlib-Transformer-extensions, scritta in Francia in C++14 standard e pubblicata sotto la Boost Software License 1.0, senza ambiente Python nella catena. |
| Interoperabilità | Modelli letti dal formato GGUF, un'interfaccia locale che segue l'interfaccia di OpenAI ed è descritta con OpenAPI, documenti letti e scritti nei loro formati da ufficio. |
| Preparazione dei dati | Un tokenizer con codifica a coppie di byte, strumenti per corpora e dataset, e Pseudalis, che toglie i dati personali dai documenti prima che alimentino un modello o un prompt. |
| Addestramento ed esecuzione dei modelli | Fine-tuning con LoRA e DoRA, distillazione, potatura e motori per i processori, per la NPU e la GPU di Intel e per i processori grafici NVIDIA. |
| IA frugale | Pesi quantizzati, kernel interi e memoria GPU estesa via software: un modello multimodale da 4 miliardi di parametri risponde su un portatile con 8 GB di memoria. |
| IA affidabile | Esecuzione locale, aggiornamenti firmati, pseudonimizzazione reversibile ai sensi degli articoli 25 e 32 del GDPR e rapporti che dichiarano i limiti di ogni metodo. |
| IA integrata | Operazioni instradate verso la NPU e la GPU integrata del processore, e modelli compilati in un unico programma. |
| Trasferimento alle imprese | Due prodotti installati, Albireo e Pseudalis, gratuiti nelle edizioni Community e aperti alla distribuzione con un altro marchio. |
Rispetto ai suoi criteri di selezione
Qualità del software
Test, esempi eseguibili e un rapporto di ricerca per ogni metodo, conservati con il codice.
Maturità
Versioni pubblicate con i loro programmi di installazione, un canale di aggiornamenti firmato e un catalogo di modelli verificato tramite hash.
Genericità
Una sola libreria copre la vita di un modello, dall'importazione di un modello pubblicato alla sua distillazione, per il testo e per le immagini.
Sovranità
Codice, modelli e chiavi restano su macchine controllate dai loro proprietari, e ogni componente può essere letto, verificato e ospitato.
Il sostegno che cerchiamo
Cydral Technology non è oggi partner di P16 e non riceve alcun finanziamento pubblico. Intendiamo presentare la libreria al programma e trovarvi un sostegno di ingegneria, visibilità e, se possibile, un finanziamento. Questo permetterebbe di mantenere la libreria nel tempo e di portarla a un maggior numero di imprese europee.
Nel frattempo ogni altro aiuto è benvenuto: sponsorizzare una funzione, finanziare la tabella di marcia o distribuire i prodotti.
Fonti
- Inria: che cos'è P16, il progetto affidato a Inria nell'ambito di France 2030 (in francese)
- Il sito di P16
- Agenzia nazionale francese della ricerca, progetto P16 (23-RDIA-0001)
P16 e France 2030 sono citati qui per descrivere programmi pubblici. La loro menzione non implica alcun sostegno a Cydral Technology da parte di Inria o dello Stato francese.