还记得今年五月我介绍 gemma-skills 代码库时的情景吗?看到你们中有多少人利用我之前的文章来简化工作流程,这令人倍感欣慰。(嘿,虽然我们在吉特哈布(GitHub)上获得的星标数量还未达到海量,但我觉得我们已经有了一个非常棒的开端!😉)
但是,随着我构建更多的自定义应用程序,我不断遇到同样的障碍:如何获取一个优秀的基础模型并使其适应我的特定需求。
对模型进行微调通常需要费力地研究复杂的设置和令人困惑的指南。为了使这一过程简单快捷,我们创建了最新的技能:gemma-trainer
什么是 gemma-trainer?
gemma-trainer 是您在本地硬件上训练和调整杰玛(Gemma)模型的蓝图。它处理“如何做”的问题,以便您可以专注于特定的项目目标,无论是教导模型掌握新领域知识,还是使其行为符合您的偏好。
您为何会使用它
更快、更轻量级的训练:我们建议使用 Unsloth 进行单图形处理器(GPU)训练,这使得训练速度快且内存占用少,从而能够在个人硬件上轻松运行。
三种关键方法:它指导您完成监督微调(SFT)以教授新知识,直接偏好优化(DPO)以对齐偏好,以及奖励建模(RM)以对响应进行评分。
教导模型看和听:它包含清晰的说明,用于训练具备图像和音频(多模态学习)以及文本处理能力的模型。
随处运行:使用 LiteRT-LM 快速将模型转换为轻量级格式(如 GGUF),并在移动设备或智能物联网(IoT)设备上运行。
最新的最佳实践:该技能持续更新最新的优化设置和训练技术,确保您始终使用最佳方法。
实际用例
“在数据集 bebechien/HongGildongJeon 上对 Gemma 4 E2B 进行微调。”
借助 gemma-trainer 技能,您的智能体将与您协作,执行以下操作:
验证您的数据:使用验证脚本确保您的训练数据符合模板要求。
设置参数:选择最佳的低秩自适应(LoRA)设置,以教导模型掌握语言细微差别,同时避免视频随机存取存储器(VRAM)耗尽。
运行训练:使用优化的、资源效率高的默认设置启动训练会话。
评估与迭代:审查模型的性能并调整设置,以获得您所需的确切结果。
以下示例展示了智能体在杰玛(Gemma)4 120亿参数模型上启动针对音频任务的微调运行: