Dlib-Transformer-extensions
Архитектуры трансформеров, утилиты для языковых моделей, примеры и обученные модели для Dlib, на C++14. Здесь же разрабатываются Albireo и Pseudalis.
Всё, что мы публикуем, доступно на GitHub, от нынешней библиотеки до проектов по изображениям, которые ей предшествовали.
Архитектуры трансформеров, утилиты для языковых моделей, примеры и обученные модели для Dlib, на C++14. Здесь же разрабатываются Albireo и Pseudalis.
Очень маленькая языковая модель, построенная на Dlib: написанные для неё слои эмбеддингов, позиционного кодирования и линейные слои, с полным примером обучения.
Токенизатор с кодированием пар байтов для Dlib, со словарями от 500 до 8 000 токенов, обученными на 2,7 ГБ английского и французского текста.
Программы обучения моделей Dlib: Vision Transformer с самообучением Barlow Twins, сравнение с ResNet-34 на Stable ImageNet-1K и языковые модели со смесью экспертов.
Автоматическое раскрашивание чёрно-белых фотографий и фильмов: ResNet со структурой U-Net, доработанная генеративно-состязательной сетью и обученная примерно на 900 000 изображений.

Синтетические лица, созданные DCGAN, обученной более чем на 150 000 лиц, со встроенным веб-сервером для проверки модели.

Гибридный метод обучения, в котором за самообучением следует контролируемое метрическое обучение. Его модель распознавания лиц достигает 96,1 % на LFW.
Наборы данных Stable ImageNet-1K, предобработанные в нескольких разрешениях, для быстрых экспериментов со зрением в Dlib.
Многопоточный веб-краулер, написанный для сбора баз изображений для исследований.
Несколько обученных нами моделей опубликованы в репозитории моделей Dlib: распознавание лиц на DenseNet, обученной методом BAREL, классификатор пола, предсказатель возраста, синтетические лица, раскрашивание в высоком разрешении, ResNet-50 с самообучением и модели Vision Transformer.
Библиотека и продукты распространяются под лицензией Boost Software License 1.0. У остальных репозиториев своя лицензия, указанная на каждой карточке.