In arrivo
Il prossimo prodotto aggiunge ad Albireo l'addestramento dei modelli, accanto alla loro esecuzione.
In preparazione
Un'estensione di addestramento per Albireo
L'estensione permetterà a un'organizzazione di addestrare i propri modelli con Albireo, affinando un modello esistente o partendo da zero, in due modalità.
Non è annunciata alcuna data di uscita. Il perimetro può cambiare con le esigenze dei primi partner.
Supervisionata
Gli addestramenti sono preparati, avviati e seguiti da Albireo, sui dati di una sede.
Federata
Più computer addestrano lo stesso modello sui propri dati. Gli aggiornamenti del modello viaggiano; i dati restano dove sono.
I mattoni già forniti dalla libreria
- L'affinamento supervisionato con mascheramento del prompt, tramite il modello di chat di ciascun modello.
- Gli adattatori LoRA e DoRA sui percorsi di attenzione e feed-forward, poi fusi nei pesi.
- La distillazione di un maestro in un allievo di un'altra architettura, a partire da logit registrati.
- La potatura in profondità di un modello pubblicato, con i blocchi rimasti riparati per distillazione.
- V²RAM, per addestrare un modello il cui insieme di lavoro supera la memoria della scheda.
- L'instradamento delle operazioni di addestramento verso la GPU integrata del processore.
Altri cantieri della tabella di marcia
- QLoRA
- Tenere la base congelata quantizzata in memoria durante l'affinamento.
- Ottimizzazione per preferenze
- DPO con il riferimento congelato ottenuto dalla stessa rete, con gli adattatori neutralizzati.
- Miscela di esperti sul percorso statico
- Rendere questi modelli addestrabili e convertibili come gli altri.
- Un modello proprio della libreria
- Un piccolo modello linguistico su una topologia e un vocabolario scelti qui.
Definiamo insieme questa estensione
Presentateci i modelli che volete addestrare e dove risiedono i vostri dati, oppure sostenete questo sviluppo.