模型训练指南拓展：LLaMA-Factory介绍

简单直接地说，**LLaMA-Factory** 是目前大模型工业界最流行、最好用的 **“全流程微调工具箱”**。

如果把训练模型比作炒菜，你自己写代码（Transformers 库）相当于从打铁铸锅、种菜开始；而 LLaMA-Factory 就像是一个**全自动集成厨房**，它把复杂的底层代码封装好了，你只需要把“数据”丢进去，在界面上点点选选，就能完成从**增量预训练（PT）**到**指令微调（SFT）**再到**对齐（DPO）**的所有工作。

## 核心价值（为什么技术人员都在用它？）

1. **全集成：** 支持几乎所有主流开源模型（Qwen, Llama, Baichuan, Yi, Mistral, Gemma 等）。
2. **全流程：** 涵盖了：
   - **PT**（增量预训练）
   - **SFT**（有监督微调）
   - **RLHF/DPO**（人类偏好对齐）
   - **Evaluation**（模型评测）
   - **Export**（模型合并与导出）
3. **显存友好：** 集成了 **LoRA、QLoRA、DeepSpeed、GaLore** 等各种省显存的技术，一张 24G 显存的 4090 就能跑 7B 甚至 13B 模型的微调。
4. **可视化：** 它提供了一个叫 **LLaMA Board** 的网页界面，你可以在浏览器里直接调参数，看 Loss 曲线。

## 训练实操流程（以 PT 增量预训练为例）

在 LLaMA-Factory 中，你不需要写复杂的 Python 训练脚本，主要是通过修改一个 **YAML 配置文件** 或在 **WebUI** 上操作。

### 1. 环境准备

```Bash
git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e .[metrics,bitsandbytes,qwen]
```

### 2. 数据准备

你需要将你的纯文本语料放在 `data/` 目录下，并在 `dataset_info.json` 中注册。 对于 **PT（增量预训练）**，数据格式通常很简单：

```JSON
[
  {"file_name": "your_corpus.txt"}
]
```

### 3. 启动 WebUI (最直观的方式)

```Bash
llamafactory-cli webui
```

然后在浏览器打开 `localhost:7860`：

- **训练阶段：** 选择 `Pre-Training`（预训练）。
- **模型路径：** 填入你的底座模型（如 `Qwen/Qwen2.5-7B`）。
- **训练方法：** 选 `LoRA` 或 `Full`。
- **学习率：** 设置为 `1e-5`。
- **开始：** 点击“开始训练”，后台就会自动调用驱动跑起来。

### 4. 命令行启动 (生产环境推荐)

写一个 `train_pt.yaml` 文件，内容概括如下：

```YAML
### 核心参数
stage: pt                    # 阶段是预训练
model_name_or_path: qwen/Qwen2.5-7B
dataset: your_custom_data    # 对应你注册的数据集名称
cutoff_len: 1024             # 文本截断长度

### 训练技术
finetuning_type: lora        # 使用 LoRA 节省显存
lora_target: all             # 针对所有线性层进行微调

### 超参数
learning_rate: 0.00002
num_train_epochs: 3.0
per_device_train_batch_size: 4
gradient_accumulation_steps: 4
```

然后执行：

```Bash
llamafactory-cli train train_pt.yaml
```

## LLaMA-Factory 解决了什么问题？

1. **避开了繁琐的代码：** 你不需要处理 `model.backward()`、`optimizer.step()` 或者分布式训练（Distributed Data Parallel）的底层死锁问题。
2. **统一了数据格式：** 它提供了一套标准，不管你喂什么数据，只要按它的 JSON 格式转一下，就能适配所有模型。
3. **一键合并：** 训练完的 LoRA 权重（几十 MB），它提供了一个 `export_model` 功能，一键就能和原始模型合并成一个完整的模型（几个 GB），直接拿去部署。

## 总结

**LLaMA-Factory 是目前最高效的“模型训练脚手架”。** 你的最佳方案是：

1. **用 LLaMA-Factory 的 PT 模式** 喂入你们业务场景的原始语料。
2. **用 LLaMA-Factory 的 SFT 模式** 喂入你之前提到的陪伴式对话数据。
3. **最后用它导出的 GGUF 或 Safetensors** 进行部署。