Progetti
Tutti i nostri progetti poggiano su una stessa libreria. I prodotti e i programmi di ricerca si appoggiano a essa; i nostri lavori precedenti sulle immagini vi hanno condotto.
La libreria: Dlib-Transformer-extensions
Dlib-Transformer-extensions aggiunge la modellazione moderna a transformer a Dlib, una libreria C++ di apprendimento automatico apprezzata per la chiarezza delle sue interfacce. È scritta in C++14 standard e pubblicata sotto la Boost Software License 1.0.
Il progetto copre tutta la vita di un modello senza uscire dal C++, senza altre dipendenze né ambienti aggiuntivi come Python.
Caricare
Leggere un modello a pesi aperti da un contenitore GGUF: le famiglie llama, mistral, mixtral, gemma, qwen2, qwen3 e granite, con i pesi quantizzati dequantizzati al volo.
Eseguire
Servirlo con un motore di esecuzione a forme dinamiche, un'interfaccia web di chat e un punto di accesso compatibile con l'interfaccia OpenAI.
Convertire
Generare una rete Dlib tipizzata staticamente, i cui pesi sono normali parametri addestrabili.
Specializzare
Proseguire l'addestramento, affinare con mascheramento del prompt o innestare adattatori LoRA e DoRA.
Derivare
Distillare un maestro in un allievo più piccolo di un'altra architettura, oppure togliere interi blocchi e riparare il resto.
Consegnare
Compilare il modello addestrato in un programma, o servirlo da un servizio installato.
Ambito della libreria
Visione e multimodalità
Vision Transformer come dorsale per immagini o come torre visiva di un modello che legge testo e immagini, addestrabile da un capo all'altro.
Ricerca documentale
Modelli di embedding indicizzano una cartella di documenti e rispondono a una domanda con il passaggio che le corrisponde.
Protezione dei dati personali
Regole e piccoli riconoscitori appresi trovano i dati personali in cinque lingue; una cifratura che conserva il formato li sostituisce in modo reversibile.
Memoria GPU estesa
V²RAM sposta i blocchi tra la scheda, la memoria dell'host e un archivio su disco, così un modello più grande della scheda vi si addestra.
NPU e GPU integrata
Ogni operazione sui tensori gira sul dispositivo misurato come il più veloce: l'host, la NPU di Intel o la GPU integrata, tramite OpenVINO.
Nuclei specifici del processore
I percorsi di codice per AVX2, AVX-VNNI e AVX-512 VNNI sono scelti in esecuzione secondo ciò che offre il processore.
Pesi quantizzati sulla scheda
Nuclei CUDA moltiplicano le attivazioni per pesi tenuti nei loro formati GGUF, senza espanderli.
La predizione come compressione
Una rete addestrata e un codificatore aritmetico formano un compressore senza perdita che ogni processore riproduce bit per bit.
I prodotti costruiti sulla libreria
Albireo e Pseudalis fanno della libreria due applicazioni Windows pronte all'uso: motori di inferenza, servizio locale, applicazione web e aggiornamenti firmati.
- ProdottiAlbireo, Pseudalis
- ServiziMotori di inferenza, servizio HTTPS locale, applicazioni web, aggiornamenti firmati
- LibreriaDlib-Transformer-extensions
- FondamentaDlib, C++14 standard
- HardwareProcessori x86-64, NPU e GPU Intel, GPU NVIDIA
Programmi di ricerca
- Estensione della memoria GPU
- Gestire la residenza dei tensori dentro l'oggetto buffer, sotto l'esecutore del framework.
- Calcolo adattivo
- Modelli di ragionamento gerarchico addestrati su Sudoku-Extreme e sui rompicapi ARC, con una testa di arresto appresa insieme alla rete.
- Pseudonimizzazione
- Quattro dispositivi di rilevamento e una cifratura che conserva il formato, misurati su testi sintetici e scritti a mano in cinque lingue.
- Un modello proprio della libreria
- La raccolta dei corpora, l'addestramento e la misura del tokenizer, il pre-addestramento, l'affinamento per istruzioni e la valutazione sono pronti per un piccolo modello linguistico costruito qui.
Lavori precedenti sulle immagini
Prima dei modelli linguistici, abbiamo pubblicato progetti sulle immagini costruiti su Dlib: colorazione automatica, generazione di volti sintetici, apprendimento auto-supervisionato e riconoscimento facciale. Restano disponibili su GitHub.
