Investigación y resultados
Publicamos lo que medimos, cómo lo hemos medido y dónde se detiene el método. Los informes se conservan con el código que describen.
Ampliación por software de la memoria de GPU
V²RAM gestiona la residencia de los bloques de tensores un nivel por debajo del ejecutor del framework, dentro del propio objeto búfer. Los bloques se mueven entre la tarjeta, la memoria fijada del anfitrión y un almacén proyectado en memoria, dentro de un presupuesto, guiados solo por la secuencia de accesos que la ejecución revela. Ninguna red, capa ni bucle de entrenamiento cambia.
| Configuración | Presupuesto | Residente | Con V²RAM | Relación |
|---|---|---|---|---|
| Inferencia, conjunto de trabajo de 200 MiB | 128 MiB | 13,2 ms | 35,2 ms | 2,7× |
| Entrenamiento, conjunto de trabajo de 1186 MiB | 128 MiB | 256,6 ms | 353,7 ms | 1,4× |
Milisegundos por paso, mediana de tres ejecuciones. El presupuesto se fija a propósito por debajo del conjunto de trabajo.
| Lote | Conjunto de trabajo | Pico en la tarjeta | Resultado |
|---|---|---|---|
| Sin V²RAM | 6028 MiB | – | No arrancó: anfitrión sin memoria |
| 1 | 6028 MiB | 10 748 MiB | Ejecutado |
| 2 | 7709 MiB | 10 170 MiB | Ejecutado |
| 4 | 10 984 MiB | 9568 MiB | Ejecutado |
| 8 | 17 506 MiB | 9178 MiB | Ejecutado |
| 16 | 30 600 MiB (estimado) | 9092 MiB | Detenido por el sistema |
Un modelo de 270 millones de parámetros con atención de consultas agrupadas y cuatro expertos por capa.
Detección y sustitución de los datos personales
Cuatro dispositivos se reparten la detección: escáneres que verifican los dígitos de control, tablas de palabras en cinco idiomas, un etiquetador SVM estructural y un transformer a nivel de byte de 116 791 parámetros. Cada valor se sustituye por una etiqueta que lleva su cifrado bajo FF1 y AES-256.
La versión 1.0.11 alcanza un F1 de 0,946 en el conjunto de prueba, 0,919 con seis veces más ruido, 0,953 en documentos enteros y 0,951 en lugares del extranjero; las tablas recogen las medidas detalladas de la versión 1.0.5. En textos escritos a mano en los cinco idiomas, el F1 se sitúa entre 0,886 y 0,907. En dieciséis archivos escritos para la prueba en los cinco idiomas (Word, PowerPoint, PDF, CSV, código fuente, imágenes), la versión 1.0.11 deja legibles 2 de los 1223 valores que proteger, frente a 109 con la versión anterior. En una muestra privada de documentos reales, la precisión es de 0,859 y la exhaustividad de 0,912: aproximadamente un valor de cada once queda legible, por lo que conviene releer un documento protegido antes de compartirlo. El detector lee unos 41 000 caracteres por segundo con dos núcleos.
| Conjunto de prueba | Precisión | Exhaustividad | F1 |
|---|---|---|---|
| Prueba, cinco idiomas | 0,955 | 0,935 | 0,945 |
| Valores nunca vistos en el entrenamiento | 0,951 | 0,935 | 0,943 |
| Seis veces más ruido | 0,941 | 0,897 | 0,918 |
| Documentos enteros | 0,961 | 0,943 | 0,952 |
| Solo lugares del extranjero | 0,960 | 0,939 | 0,949 |
| Por idioma | Precisión | Exhaustividad | F1 |
|---|---|---|---|
| Francés | 0,975 | 0,965 | 0,970 |
| Inglés | 0,971 | 0,964 | 0,967 |
| Italiano | 0,950 | 0,926 | 0,938 |
| Alemán | 0,949 | 0,926 | 0,937 |
| Español | 0,928 | 0,898 | 0,913 |
| Sistema | F1 en el conjunto de prueba |
|---|---|
| Solo reglas | 0,840 |
| Solo etiquetador SVM | 0,749 |
| Solo transformer a nivel de byte | 0,903 |
| Detector completo | 0,945 |
La inferencia con pesos cuantizados
Los motores de Albireo mantienen los pesos en la proyección en memoria del archivo GGUF y los multiplican en su forma cuantizada. Los núcleos enteros, la caché de claves y valores en 8 bits, la decodificación anticipada y las capas calculadas en la tarjeta se miden cada uno frente a una referencia.
- Las claves y los valores en 8 bits dan el mismo token siguiente que la media precisión en las 210 posiciones de un texto, con una divergencia media de 6,5e-5.
- La decodificación anticipada reescribe una función a 25,5 tokens por segundo frente a 19,7 con dos núcleos, y conserva la distribución del muestreo.
- Cuatro respuestas escritas a la vez tardan entre un 32 y un 40 % menos por paso que cuatro separadas.
- Con los 24 hilos de un Intel Core Ultra 9 275HX, el motor del procesador lee un prompt a 216 tokens por segundo y escribe a 19,5 con Qwen3-VL 4B; con Qwen3 0.6B lee a más de 1300 tokens por segundo y escribe a más de 80.
| Motor | Tokens por segundo |
|---|---|
| NVIDIA CUDA, GeForce RTX 5070 Ti Laptop GPU | 56,8 |
| Procesador, 24 hilos | 23,6 |
| Núcleos | Enteros | Coma flotante |
|---|---|---|
| AVX-VNNI | 230 tokens/s | 126 tokens/s |
| AVX2 | 154 tokens/s | 125 tokens/s |
Encaminamiento de las operaciones hacia la NPU y la GPU integrada
Construida con el entorno de ejecución OpenVINO, la biblioteca ofrece cada operación con tensores a los dispositivos de inferencia del procesador. El anfitrión y cada dispositivo se cronometran en unas pocas llamadas, y el más rápido conserva esa forma. Una máquina sin estos dispositivos funciona exactamente como antes.
| Configuración | Tiempo por paso |
|---|---|
| Solo el anfitrión, con Intel oneMKL | 97,4 ms |
| Encaminamiento automático | 63,3 ms |
El enrutamiento confía a la GPU integrada softmax, las activaciones, la entropía cruzada y las convoluciones, calculadas entre 2,2 y 6,9 veces más rápido que en el anfitrión. La NPU sigue siendo candidata para cada operación: con los tamaños de este banco, su coste fijo por llamada aún supera la ventaja de su cálculo, y el enrutamiento la elige en cuanto una medida la da como la más rápida.
La predicción como compresión
Una red entrenada es un modelo de probabilidad de lo que sigue, y un codificador aritmético lo convierte en un código sin pérdida. Un ejemplo construye toda la cadena: un tokenizador y un decodificador entrenados en Dlib, pesos cuantizados y compilados en el programa, y una aritmética fijada operación por operación para que un decodificador en otra máquina reproduzca cada probabilidad.
| Archivo comprimido | 117 169 624 bytes |
|---|---|
| Bits por byte | 0,937 |
| Descompresor, tokenizador y red incluidos | 7 063 888 bytes |
| Tiempo por sentido, un núcleo | Unas 25 horas |
| Compresión con los núcleos elegidos por el procesador | 24 h 48 min en lugar de 30 h 18 min |
Razonamiento jerárquico y cómputo adaptativo
Dos programas de ejemplo entrenan modelos de razonamiento jerárquico con Sudoku-Extreme y con los rompecabezas ARC. Aportan a la biblioteca una cabeza de parada entrenada junto con la red, el optimizador Adam-atan2, una pérdida stablemax y un promedio de los pesos, cada uno disponible para los demás modelos del repositorio.
Imágenes: autosupervisión, coloración y síntesis
Nuestros trabajos anteriores sobre imágenes produjeron métodos y modelos que siguen publicados.
| Trabajo | Resultado |
|---|---|
| BAREL, aprendizaje autosupervisado seguido de aprendizaje métrico supervisado | 96,1 % en el banco LFW de reconocimiento facial, con un conjunto de entrenamiento casi 8 veces menor que el del primer modelo ResNet de Dlib |
| Barlow Twins en CIFAR-10 con una ResNet-50 | 88,25 % de exactitud en prueba tras un entrenamiento autosupervisado |
| Colorify, coloración de alta resolución | Una red de 223 capas y unos 41,7 millones de parámetros entrenada con unas 900 000 imágenes |
| FFgan, rostros sintéticos | Rostros en color de 162 píxeles de una DCGAN entrenada con más de 150 000 rostros |
Contribuciones a Dlib
Dlib es una de las bibliotecas C++ de código abierto de referencia para el aprendizaje automático y la visión por computador. Antes de publicar nuestras propias extensiones, contribuimos a la propia biblioteca con código y modelos entrenados, primero para los rostros (reconocimiento, género, edad, síntesis) y después para los transformers.
En la biblioteca
Catorce contribuciones se integraron en Dlib entre agosto de 2024 y octubre de 2025.
- Capas para transformers: normalización RMS, embeddings, capa lineal, máscara triangular inferior, transposición, redimensionado, producto matricial por plano
- Una capa de tiempo de cómputo adaptativo y una capa de dropout con la tasa fijada en compilación
- Un tokenizador de codificación por pares de bytes
- Programas de ejemplo: una red transformer, y después otra con codificación posicional rotatoria y mezcla de expertos
- Un cargador para el conjunto de datos ARC-AGI
- Una corrección de la capa reorg, en procesador y en CUDA
| Modelo | Tarea | Resultado |
|---|---|---|
face_recognition_densenet_model_v1 | Reconocimiento facial, DenseNet entrenada con el método BAREL | 96,1 % en LFW, con un conjunto de entrenamiento casi 8 veces menor que el del primer modelo ResNet de Dlib |
dnn_gender_classifier_v1 | Clasificación del género a partir de un rostro | En torno al 97,3 % en la evaluación LFW, entrenado con unos 200 000 rostros |
dnn_age_predictor_v1 | Estimación de la edad a partir de un rostro, ResNet-10 | Entrenado con unas 110 000 imágenes etiquetadas |
dcgan_162x162_synth_faces | Rostros sintéticos, DCGAN | Rostros en color de 162 píxeles |
highres_colorify | Coloración automática, ResNet con estructura U-Net | 223 capas y unos 41,7 millones de parámetros, utilizable con una tarjeta gráfica de 8 GB |
res50_self_supervised_cifar_10 | Aprendizaje autosupervisado, Barlow Twins, ResNet-50 | 88,25 % de exactitud en prueba en CIFAR-10 |
resnet34_stable_imagenet_1k | Clasificación de imágenes, ResNet-34 | 99,98 % top-1 en la parte de prueba de Stable ImageNet-1K |
vit-s-16_stable_imagenet_1k | Clasificación de imágenes, Vision Transformer | 99,76 % top-1 en la parte de prueba de Stable ImageNet-1K |
Los modelos de género y de edad los publica Cydral Technology bajo la licencia Creative Commons Zero 1.0.
Publicaciones
- Buffer-Level Residency Management for GPU Memory Extension
- Aldric Pierrain, Cydral Technology. Informe de investigación, septiembre de 2026
- Technical application architecture of Pseudalis Community
- Aldric Pierrain, Cydral Technology. Informe de investigación, noviembre de 2026
- Onward to the Hutter Prize: a token-level transformer compresses enwik9 to 117 MB on one CPU core
- Aldric Pierrain, Cydral Technology. Informe de investigación, noviembre de 2026
- BAREL: Backpropagation And Reinforcement-based Environment for Learning
- Aldric Pierrain, Cydral Technology. Publicación, abril de 2023
- A Small Language Model Stack, Built in C++ on One Machine
- Aldric Pierrain, Cydral Technology. Artículo
Método de medida
Cada cifra nombra su hardware, su modelo y su protocolo. Los resultados se contrastan con implementaciones de referencia antes de enunciarse, y los límites de un método figuran en el mismo lugar que sus resultados.
Este trabajo persigue los objetivos de P16, el programa France 2030 dirigido por Inria para bibliotecas de IA soberanas.