À venir

Le prochain produit ajoute à Albireo l'apprentissage des modèles, en complément de leur exécution.

En préparation

Une extension d'apprentissage pour Albireo

L'extension permettra à une organisation d'entraîner ses propres modèles avec Albireo, par affinage d'un modèle existant ou à partir de zéro, selon deux modes.

Aucune date de sortie n'est annoncée. Le périmètre peut évoluer avec les besoins des premiers partenaires.

Supervisé

Les apprentissages sont préparés, lancés et suivis depuis Albireo, sur les données d'un site.

Fédéré

Plusieurs ordinateurs entraînent le même modèle sur leurs propres données. Les mises à jour du modèle circulent ; les données restent où elles sont.

Les briques déjà fournies par la bibliothèque

  • L'affinage supervisé avec masquage du prompt, par le gabarit de discussion de chaque modèle.
  • Les adaptateurs LoRA et DoRA sur les chemins d'attention et de propagation avant, fusionnés ensuite dans les poids.
  • La distillation d'un maître dans un élève d'une autre architecture, à partir de logits enregistrés.
  • L'élagage en profondeur d'un modèle publié, les blocs restants étant réparés par distillation.
  • V²RAM, pour entraîner un modèle dont le jeu de travail dépasse la mémoire de la carte.
  • Le routage des opérations d'apprentissage vers le GPU intégré du processeur.

Autres chantiers de la feuille de route

QLoRA
Garder la base gelée quantifiée en mémoire pendant l'affinage.
Optimisation par préférences
DPO avec la référence gelée obtenue du même réseau, ses adaptateurs neutralisés.
Mélange d'experts sur le chemin statique
Rendre ces modèles entraînables et convertibles comme les autres.
Un modèle propre à la bibliothèque
Un petit modèle de langage sur une topologie et un vocabulaire choisis ici.

Définissons cette extension ensemble

Présentez-nous les modèles que vous souhaitez entraîner et l'emplacement de vos données, ou soutenez ce développement.