Nuestro trabajo y P16
P16 es el programa francés, dirigido por Inria y respaldado por France 2030, que desarrolla bibliotecas de software soberanas, abiertas e interoperables para la IA. Nuestra biblioteca y nuestros productos persiguen los mismos objetivos, y tenemos intención de solicitar su apoyo.
P16 en breve
Lanzado en septiembre de 2024 en el marco de la Estrategia nacional para la inteligencia artificial, P16 toma su nombre de la medida n.º 16 de la estrategia de aceleración de la IA. Su misión es reforzar la autonomía tecnológica de Francia y de Europa mediante bibliotecas de software que cubren todo el ciclo de los datos y de los modelos. Inria dirige el programa a través de su Programa IA, con unos 8 millones de euros en cinco años.
- Tres acciones prioritarias: la interoperabilidad de los datos, su preparación, y el entrenamiento y la ejecución de los modelos.
- Bibliotecas desarrolladas, ampliamente difundidas y mantenidas como bienes comunes digitales.
- Una vía de transferencia a la industria, también para las investigaciones sobre IA de confianza, frugal e integrada.
- Componentes de software seleccionados por su calidad, su madurez, su genericidad y su interés para la soberanía digital.
Convergencias entre nuestro trabajo y los objetivos de P16
Cada línea relaciona un objetivo enunciado por P16 con lo que ya hemos publicado.
| Objetivo de P16 | Publicaciones de Cydral Technology |
|---|---|
| Bibliotecas soberanas y abiertas | Dlib-Transformer-extensions, escrita en Francia en C++14 estándar y publicada bajo la Boost Software License 1.0, sin entorno de Python en la cadena. |
| Interoperabilidad | Modelos leídos del formato GGUF, una interfaz local que sigue la interfaz de OpenAI y se describe con OpenAPI, documentos leídos y escritos en sus formatos ofimáticos. |
| Preparación de los datos | Un tokenizador de codificación por pares de bytes, herramientas de corpus y de conjuntos de datos, y Pseudalis, que retira los datos personales de los documentos antes de que alimenten un modelo o un prompt. |
| Entrenamiento y ejecución de los modelos | Ajuste fino con LoRA y DoRA, destilación, poda, y motores para los procesadores, para la NPU y la GPU de Intel y para los procesadores gráficos de NVIDIA. |
| IA frugal | Pesos cuantizados, núcleos enteros y memoria de GPU ampliada por software: un modelo multimodal de 4000 millones de parámetros responde en un portátil con 8 GB de memoria. |
| IA de confianza | Ejecución local, actualizaciones firmadas, seudonimización reversible conforme a los artículos 25 y 32 del RGPD e informes que enuncian los límites de cada método. |
| IA integrada | Operaciones encaminadas a la NPU y a la GPU integrada del procesador, y modelos compilados en un único programa. |
| Transferencia a las empresas | Dos productos instalados, Albireo y Pseudalis, gratuitos en sus ediciones Community y abiertos a la distribución con otra marca. |
Frente a sus criterios de selección
Calidad del software
Pruebas, ejemplos ejecutables y un informe de investigación por método, conservados con el código.
Madurez
Versiones publicadas con sus instaladores, un canal de actualizaciones firmado y un catálogo de modelos comprobado por hash.
Genericidad
Una sola biblioteca cubre la vida de un modelo, de la importación de un modelo publicado a su destilación, para el texto y para la imagen.
Soberanía
El código, los modelos y las claves permanecen en máquinas que sus propietarios controlan, y cada componente puede leerse, auditarse y alojarse.
Los apoyos que buscamos
Cydral Technology no es hoy socio de P16 y no recibe financiación pública. Tenemos intención de presentar la biblioteca al programa y encontrar en él apoyo de ingeniería, visibilidad y, si es posible, financiación. Ese apoyo permitiría mantener la biblioteca en el tiempo y llevarla a más empresas europeas.
Mientras tanto, cualquier otra ayuda es bienvenida: patrocinar una función, financiar la hoja de ruta o distribuir los productos.
Fuentes
- Inria: qué es P16, el proyecto confiado a Inria en el marco de France 2030 (en francés)
- El sitio de P16
- Agencia nacional francesa de investigación, proyecto P16 (23-RDIA-0001)
P16 y France 2030 se citan aquí para describir programas públicos. Su mención no implica respaldo alguno a Cydral Technology por parte de Inria ni del Estado francés.