Nuestro trabajo y P16

P16 es el programa francés, dirigido por Inria y respaldado por France 2030, que desarrolla bibliotecas de software soberanas, abiertas e interoperables para la IA. Nuestra biblioteca y nuestros productos persiguen los mismos objetivos, y tenemos intención de solicitar su apoyo.

P16 en breve

Lanzado en septiembre de 2024 en el marco de la Estrategia nacional para la inteligencia artificial, P16 toma su nombre de la medida n.º 16 de la estrategia de aceleración de la IA. Su misión es reforzar la autonomía tecnológica de Francia y de Europa mediante bibliotecas de software que cubren todo el ciclo de los datos y de los modelos. Inria dirige el programa a través de su Programa IA, con unos 8 millones de euros en cinco años.

  • Tres acciones prioritarias: la interoperabilidad de los datos, su preparación, y el entrenamiento y la ejecución de los modelos.
  • Bibliotecas desarrolladas, ampliamente difundidas y mantenidas como bienes comunes digitales.
  • Una vía de transferencia a la industria, también para las investigaciones sobre IA de confianza, frugal e integrada.
  • Componentes de software seleccionados por su calidad, su madurez, su genericidad y su interés para la soberanía digital.

Convergencias entre nuestro trabajo y los objetivos de P16

Cada línea relaciona un objetivo enunciado por P16 con lo que ya hemos publicado.

Objetivo de P16Publicaciones de Cydral Technology
Bibliotecas soberanas y abiertasDlib-Transformer-extensions, escrita en Francia en C++14 estándar y publicada bajo la Boost Software License 1.0, sin entorno de Python en la cadena.
InteroperabilidadModelos leídos del formato GGUF, una interfaz local que sigue la interfaz de OpenAI y se describe con OpenAPI, documentos leídos y escritos en sus formatos ofimáticos.
Preparación de los datosUn tokenizador de codificación por pares de bytes, herramientas de corpus y de conjuntos de datos, y Pseudalis, que retira los datos personales de los documentos antes de que alimenten un modelo o un prompt.
Entrenamiento y ejecución de los modelosAjuste fino con LoRA y DoRA, destilación, poda, y motores para los procesadores, para la NPU y la GPU de Intel y para los procesadores gráficos de NVIDIA.
IA frugalPesos cuantizados, núcleos enteros y memoria de GPU ampliada por software: un modelo multimodal de 4000 millones de parámetros responde en un portátil con 8 GB de memoria.
IA de confianzaEjecución local, actualizaciones firmadas, seudonimización reversible conforme a los artículos 25 y 32 del RGPD e informes que enuncian los límites de cada método.
IA integradaOperaciones encaminadas a la NPU y a la GPU integrada del procesador, y modelos compilados en un único programa.
Transferencia a las empresasDos productos instalados, Albireo y Pseudalis, gratuitos en sus ediciones Community y abiertos a la distribución con otra marca.

Frente a sus criterios de selección

Calidad del software

Pruebas, ejemplos ejecutables y un informe de investigación por método, conservados con el código.

Madurez

Versiones publicadas con sus instaladores, un canal de actualizaciones firmado y un catálogo de modelos comprobado por hash.

Genericidad

Una sola biblioteca cubre la vida de un modelo, de la importación de un modelo publicado a su destilación, para el texto y para la imagen.

Soberanía

El código, los modelos y las claves permanecen en máquinas que sus propietarios controlan, y cada componente puede leerse, auditarse y alojarse.

Los apoyos que buscamos

Cydral Technology no es hoy socio de P16 y no recibe financiación pública. Tenemos intención de presentar la biblioteca al programa y encontrar en él apoyo de ingeniería, visibilidad y, si es posible, financiación. Ese apoyo permitiría mantener la biblioteca en el tiempo y llevarla a más empresas europeas.

Mientras tanto, cualquier otra ayuda es bienvenida: patrocinar una función, financiar la hoja de ruta o distribuir los productos.

Fuentes

P16 y France 2030 se citan aquí para describir programas públicos. Su mención no implica respaldo alguno a Cydral Technology por parte de Inria ni del Estado francés.