LLAMA Factory大模型微调 累计(1)

首先安装

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip uninstall -y accelerate vllm matplotlib
pip install llamafactory==0.9.0
llamafactory-cli version

#下载Qwen2.0 数据集,并解压到data目录
wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/llama_factory/Qwen2-VL-History.zip
mv data rawdata && unzip Qwen2-VL-History.zip -d data

预训练数据集中的是对话

然后启用webUI 并设置数据从魔搭社区下载(USE_MODELSCOPE_HUB=1 )

USE_MODELSCOPE_HUB=1 llamafactory-cli webui

进入WebUI后可以选择语言,模型名称,训练方法

发表回复