Próximamente

El próximo producto añade a Albireo el entrenamiento de modelos, además de su ejecución.

En preparación

Una extensión de entrenamiento para Albireo

La extensión permitirá a una organización entrenar sus propios modelos con Albireo, ajustando un modelo existente o partiendo de cero, en dos modos.

No se anuncia ninguna fecha de lanzamiento. El alcance puede cambiar con las necesidades de los primeros socios.

Supervisado

Los entrenamientos se preparan, se lanzan y se siguen desde Albireo, con los datos de una sede.

Federado

Varios equipos entrenan el mismo modelo con sus propios datos. Las actualizaciones del modelo viajan; los datos se quedan donde están.

Los componentes ya disponibles en la biblioteca

  • El ajuste fino supervisado con enmascarado del prompt, mediante la plantilla de conversación de cada modelo.
  • Los adaptadores LoRA y DoRA en los caminos de atención y de propagación hacia delante, fusionados después en los pesos.
  • La destilación de un maestro en un alumno de otra arquitectura, a partir de logits registrados.
  • La poda en profundidad de un modelo publicado, con los bloques restantes reparados por destilación.
  • V²RAM, para entrenar un modelo cuyo conjunto de trabajo supera la memoria de la tarjeta.
  • El encaminamiento de las operaciones de entrenamiento a la GPU integrada del procesador.

Otros trabajos de la hoja de ruta

QLoRA
Mantener la base congelada cuantizada en memoria durante el ajuste fino.
Optimización por preferencias
DPO con la referencia congelada obtenida de la misma red, con sus adaptadores neutralizados.
Mezcla de expertos en el camino estático
Hacer estos modelos entrenables y convertibles como los demás.
Un modelo propio de la biblioteca
Un pequeño modelo de lenguaje con una topología y un vocabulario elegidos aquí.

Definamos juntos esta extensión

Indíquenos qué modelos desea entrenar y dónde residen sus datos, o apoye este desarrollo.