In arrivo

Il prossimo prodotto aggiunge ad Albireo l'addestramento dei modelli, accanto alla loro esecuzione.

In preparazione

Un'estensione di addestramento per Albireo

L'estensione permetterà a un'organizzazione di addestrare i propri modelli con Albireo, affinando un modello esistente o partendo da zero, in due modalità.

Non è annunciata alcuna data di uscita. Il perimetro può cambiare con le esigenze dei primi partner.

Supervisionata

Gli addestramenti sono preparati, avviati e seguiti da Albireo, sui dati di una sede.

Federata

Più computer addestrano lo stesso modello sui propri dati. Gli aggiornamenti del modello viaggiano; i dati restano dove sono.

I mattoni già forniti dalla libreria

  • L'affinamento supervisionato con mascheramento del prompt, tramite il modello di chat di ciascun modello.
  • Gli adattatori LoRA e DoRA sui percorsi di attenzione e feed-forward, poi fusi nei pesi.
  • La distillazione di un maestro in un allievo di un'altra architettura, a partire da logit registrati.
  • La potatura in profondità di un modello pubblicato, con i blocchi rimasti riparati per distillazione.
  • V²RAM, per addestrare un modello il cui insieme di lavoro supera la memoria della scheda.
  • L'instradamento delle operazioni di addestramento verso la GPU integrata del processore.

Altri cantieri della tabella di marcia

QLoRA
Tenere la base congelata quantizzata in memoria durante l'affinamento.
Ottimizzazione per preferenze
DPO con il riferimento congelato ottenuto dalla stessa rete, con gli adattatori neutralizzati.
Miscela di esperti sul percorso statico
Rendere questi modelli addestrabili e convertibili come gli altri.
Un modello proprio della libreria
Un piccolo modello linguistico su una topologia e un vocabolario scelti qui.

Definiamo insieme questa estensione

Presentateci i modelli che volete addestrare e dove risiedono i vostri dati, oppure sostenete questo sviluppo.