告别复杂微调！云上训练工具助力专属大模型构建

随着人工智能技术的飞速进步，自然语言处理领域涌现出了一批卓越的通用大语言模型。这些模型虽然在许多场景中展现出了强大的能力，但在针对具体业务场景的专业领域应用中，往往显得力不从心，难以达到垂类领域专家的精准度，因此难以真正落地实施。

近日，优刻得上线云上训练工具，在GPU云主机产品最新上线集成了LLama-Factory项目的镜像，为客户提供模型训练环境快速部署的服务。创建GPU云主机时，选择镜像市场“大模型专区_LLaMA-Factory”，即可获得开箱即用的模型训练环境。

目前，大部分企业在尝试将预训练的模型，应用到自身场景上时，主要分为两种思路：一种是RAG（Retrieval Augmented Generation），在模型输入的Prompt加入更多目标领域的相关知识，引导大模型在生成答案时尽可能靠拢目标领域，利用Prompt中给予的目标知识，一定程度上减消大模型幻觉。另一种方案是有监督微调，用高质量的专业领域数据，对模型进行增量训练，满足专业领域场景需求。

然而大语言模型的微调过程一向是具备挑战性的任务，主要复杂性来自于以下两个方面：一方面微调需要大量高性能的算力资源，且反复训练，正常十几B的参数量的模型，即需要申请A800这样的高性能GPU算力资源。另一方面则是微调方法的选择，目前常见的微调方案有多种，每种方法都需要安装大量的第三方库和依赖项，甚至还需某些框架集成，因此对于很多业务使用者来说，微调是一件容易让人望而生畏、有门槛的事情。****

这一背景下，优刻得上线云上训练工具，在镜像市场中集成LLaMA-Factory，为上述问题提供了全新的思路。基于优刻得丰富的GPU算力资源，可同时解决客户选择高性能算力和训练微调环境搭建的问题，大大提高了模型训练的效率和便捷性。

******LLaMA-Factory是一个涵盖预训练、指令微调到RLHF阶段的开源全栈大模型微调框架，具备高效、易用、可扩展的优点。**通过集成多家开源模型、多种训练方法以及先进的算法，LLaMA-Factory大幅降低了大模型微调的门槛。同时，还提供了零代码、可视化的微调界面LLaMA Board，页面提供丰富的中英文参数提示，实时的状态监控和简洁的模型断点管理，支持网页重连和刷新，对于非开发人员操作极度友好。

LLaMA-Factory的优势如下：

• 集成多家开源模型，包括但不限于ChatGLM、LLaMA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、Phi等。

• 集成多种训练方法，主要包括（增量）预训练、指令监督微调、奖励模型训练、PPO训练、DPO训练和ORPO训练。

• 支持多种精度，主要包括32比特全参数微调、16比特冻结微调、16比特 LoRA微调和基于AQLM/AWQ/GPTQ/LLM.int8的2/4/8比特QLoRA微调。

• 集成多种先进算法，主要包括GaLore、DoRA、LongLoRA、LLaMA Pro、LoRA+、LoftQ 和Agent微调。

• 提供实时实验监控，主要工具包括：LlamaBoard、TensorBoard、Wandb、MLflow等等。

• 集成极速推理工具栈，可提供基于vLLM的OpenAI风格API、浏览器界面和命令行接口。

云上零代码实现专属大模型，请前往优刻得控制台体验！操作指南如下：

https://docs.ucloud.cn/gpu/practice/LLaMA-Factory

扫码咨询优刻得大模型智算产品和方案