即将推出

下一款产品在运行模型之外,为 Albireo 增加模型训练能力。

筹备中

Albireo 的训练扩展

这项扩展将让组织用 Albireo 训练自己的模型,既可以微调现有模型,也可以从零开始,并提供两种模式。

尚未公布发布日期。范围可能随首批合作伙伴的需求而调整。

监督模式

训练任务在 Albireo 中准备、启动和跟踪,使用单个站点的数据。

联邦模式

多台电脑各自用自己的数据训练同一个模型。流动的是模型的更新,数据留在原地。

核心库已经具备的能力

  • 带提示掩码的监督微调,通过每个模型的对话模板进行。
  • 作用于注意力和前馈路径的 LoRA 与 DoRA 适配器,可合并回权重。
  • 根据记录下来的 logits,把教师模型蒸馏为另一种架构的学生模型。
  • 对已发布模型做深度剪枝,其余模块通过蒸馏修复。
  • V²RAM,用于训练工作集超出显卡显存的模型。
  • 把训练运算路由到处理器的集成 GPU。

路线图上的其他工作

QLoRA
微调期间让冻结的基座模型在内存中保持量化。
偏好优化
DPO,其冻结的参考模型取自同一个网络,只需让适配器失效。
静态路径上的专家混合
让这类模型像其他模型一样可以训练和转换。
核心库自己的模型
一个小型语言模型,拓扑和词表都在这里选定。

与我们一起定义这项扩展

告诉我们您希望训练哪些模型、数据存放在哪里,或者支持这项开发。