À venir
Le prochain produit ajoute à Albireo l'apprentissage des modèles, en complément de leur exécution.
En préparation
Une extension d'apprentissage pour Albireo
L'extension permettra à une organisation d'entraîner ses propres modèles avec Albireo, par affinage d'un modèle existant ou à partir de zéro, selon deux modes.
Aucune date de sortie n'est annoncée. Le périmètre peut évoluer avec les besoins des premiers partenaires.
Supervisé
Les apprentissages sont préparés, lancés et suivis depuis Albireo, sur les données d'un site.
Fédéré
Plusieurs ordinateurs entraînent le même modèle sur leurs propres données. Les mises à jour du modèle circulent ; les données restent où elles sont.
Les briques déjà fournies par la bibliothèque
- L'affinage supervisé avec masquage du prompt, par le gabarit de discussion de chaque modèle.
- Les adaptateurs LoRA et DoRA sur les chemins d'attention et de propagation avant, fusionnés ensuite dans les poids.
- La distillation d'un maître dans un élève d'une autre architecture, à partir de logits enregistrés.
- L'élagage en profondeur d'un modèle publié, les blocs restants étant réparés par distillation.
- V²RAM, pour entraîner un modèle dont le jeu de travail dépasse la mémoire de la carte.
- Le routage des opérations d'apprentissage vers le GPU intégré du processeur.
Autres chantiers de la feuille de route
- QLoRA
- Garder la base gelée quantifiée en mémoire pendant l'affinage.
- Optimisation par préférences
- DPO avec la référence gelée obtenue du même réseau, ses adaptateurs neutralisés.
- Mélange d'experts sur le chemin statique
- Rendre ces modèles entraînables et convertibles comme les autres.
- Un modèle propre à la bibliothèque
- Un petit modèle de langage sur une topologie et un vocabulaire choisis ici.
Définissons cette extension ensemble
Présentez-nous les modèles que vous souhaitez entraîner et l'emplacement de vos données, ou soutenez ce développement.