即将推出
下一款产品在运行模型之外,为 Albireo 增加模型训练能力。
筹备中
Albireo 的训练扩展
这项扩展将让组织用 Albireo 训练自己的模型,既可以微调现有模型,也可以从零开始,并提供两种模式。
尚未公布发布日期。范围可能随首批合作伙伴的需求而调整。
监督模式
训练任务在 Albireo 中准备、启动和跟踪,使用单个站点的数据。
联邦模式
多台电脑各自用自己的数据训练同一个模型。流动的是模型的更新,数据留在原地。
核心库已经具备的能力
- 带提示掩码的监督微调,通过每个模型的对话模板进行。
- 作用于注意力和前馈路径的 LoRA 与 DoRA 适配器,可合并回权重。
- 根据记录下来的 logits,把教师模型蒸馏为另一种架构的学生模型。
- 对已发布模型做深度剪枝,其余模块通过蒸馏修复。
- V²RAM,用于训练工作集超出显卡显存的模型。
- 把训练运算路由到处理器的集成 GPU。
路线图上的其他工作
- QLoRA
- 微调期间让冻结的基座模型在内存中保持量化。
- 偏好优化
- DPO,其冻结的参考模型取自同一个网络,只需让适配器失效。
- 静态路径上的专家混合
- 让这类模型像其他模型一样可以训练和转换。
- 核心库自己的模型
- 一个小型语言模型,拓扑和词表都在这里选定。