Скоро

Следующий продукт добавляет в Albireo обучение моделей, в дополнение к их запуску.

В подготовке

Расширение Albireo для обучения

Расширение позволит организации обучать собственные модели в Albireo, дообучая существующую модель или с нуля, в двух режимах.

Дата выпуска не объявлена. Состав может измениться в зависимости от потребностей первых партнёров.

Контролируемый

Запуски обучения готовятся, стартуют и отслеживаются из Albireo, на данных одной площадки.

Федеративный

Несколько компьютеров обучают одну и ту же модель на своих данных. Перемещаются обновления модели; данные остаются на месте.

Готовые компоненты библиотеки

  • Контролируемое дообучение с маскированием подсказки, через шаблон чата каждой модели.
  • Адаптеры LoRA и DoRA на путях внимания и прямого распространения, сливаемые обратно в веса.
  • Дистилляция учителя в ученика другой архитектуры по записанным логитам.
  • Прореживание опубликованной модели по глубине с восстановлением оставшихся блоков дистилляцией.
  • V²RAM для обучения модели, рабочий набор которой превышает память карты.
  • Маршрутизация операций обучения на встроенный GPU процессора.

Другие задачи дорожной карты

QLoRA
Хранить замороженную основу квантованной в памяти во время дообучения.
Оптимизация по предпочтениям
DPO, где замороженный эталон получается из той же сети с нейтрализованными адаптерами.
Смесь экспертов на статическом пути
Сделать такие модели обучаемыми и преобразуемыми, как любые другие.
Собственная модель библиотеки
Небольшая языковая модель с топологией и словарём, выбранными здесь.

Определим это расширение вместе

Расскажите, какие модели вы хотите обучать и где находятся ваши данные, или поддержите эту разработку.