Скоро
Следующий продукт добавляет в Albireo обучение моделей, в дополнение к их запуску.
В подготовке
Расширение Albireo для обучения
Расширение позволит организации обучать собственные модели в Albireo, дообучая существующую модель или с нуля, в двух режимах.
Дата выпуска не объявлена. Состав может измениться в зависимости от потребностей первых партнёров.
Контролируемый
Запуски обучения готовятся, стартуют и отслеживаются из Albireo, на данных одной площадки.
Федеративный
Несколько компьютеров обучают одну и ту же модель на своих данных. Перемещаются обновления модели; данные остаются на месте.
Готовые компоненты библиотеки
- Контролируемое дообучение с маскированием подсказки, через шаблон чата каждой модели.
- Адаптеры LoRA и DoRA на путях внимания и прямого распространения, сливаемые обратно в веса.
- Дистилляция учителя в ученика другой архитектуры по записанным логитам.
- Прореживание опубликованной модели по глубине с восстановлением оставшихся блоков дистилляцией.
- V²RAM для обучения модели, рабочий набор которой превышает память карты.
- Маршрутизация операций обучения на встроенный GPU процессора.
Другие задачи дорожной карты
- QLoRA
- Хранить замороженную основу квантованной в памяти во время дообучения.
- Оптимизация по предпочтениям
- DPO, где замороженный эталон получается из той же сети с нейтрализованными адаптерами.
- Смесь экспертов на статическом пути
- Сделать такие модели обучаемыми и преобразуемыми, как любые другие.
- Собственная модель библиотеки
- Небольшая языковая модель с топологией и словарём, выбранными здесь.
Определим это расширение вместе
Расскажите, какие модели вы хотите обучать и где находятся ваши данные, или поддержите эту разработку.