Dlib-Transformer-extensions
Des architectures de transformers, des utilitaires pour les modèles de langage, des exemples et des modèles entraînés pour Dlib, en C++14. Albireo et Pseudalis y sont développés.
Tout ce que nous publions est disponible sur GitHub, de la bibliothèque actuelle aux projets d'image qui l'ont précédée.
Des architectures de transformers, des utilitaires pour les modèles de langage, des exemples et des modèles entraînés pour Dlib, en C++14. Albireo et Pseudalis y sont développés.
Un très petit modèle de langage construit avec Dlib : des couches d'embedding, d'encodage positionnel et linéaires écrites pour lui, avec un exemple complet d'apprentissage.
Un tokeniseur par encodage de paires d'octets pour Dlib, avec des vocabulaires de 500 à 8 000 jetons entraînés sur 2,7 Go de texte anglais et français.
Des programmes d'apprentissage pour les modèles Dlib : un Vision Transformer auto-supervisé par Barlow Twins, une comparaison avec ResNet-34 sur Stable ImageNet-1K et des modèles de langage à mélange d'experts.
La colorisation automatique d'images et de films en noir et blanc : un ResNet à structure U-Net, affiné par un réseau antagoniste génératif et entraîné sur environ 900 000 images.

Des visages synthétiques générés par un DCGAN entraîné sur plus de 150 000 visages, avec un serveur web intégré pour essayer le modèle.

Une méthode d'apprentissage hybride qui fait suivre l'apprentissage auto-supervisé d'un apprentissage métrique supervisé. Son modèle de reconnaissance faciale atteint 96,1 % sur LFW.
Des jeux de données Stable ImageNet-1K prétraités à plusieurs résolutions, pour des expériences de vision rapides avec Dlib.
Un robot d'exploration du web multifil, écrit pour constituer des bases d'images destinées à la recherche.
Plusieurs modèles que nous avons entraînés sont publiés dans le dépôt de modèles de Dlib : reconnaissance faciale par un DenseNet entraîné selon la méthode BAREL, classifieur de genre, estimateur d'âge, visages synthétiques, colorisation haute résolution, ResNet-50 auto-supervisé et modèles Vision Transformer.
La bibliothèque et les produits sont sous la Boost Software License 1.0. Les autres dépôts portent leur propre licence, indiquée sur chaque carte.