首先安装
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip uninstall -y accelerate vllm matplotlib
pip install llamafactory==0.9.0
llamafactory-cli version
#下载Qwen2.0 数据集,并解压到data目录
wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/llama_factory/Qwen2-VL-History.zip
mv data rawdata && unzip Qwen2-VL-History.zip -d data
预训练数据集中的是对话
然后启用webUI 并设置数据从魔搭社区下载(USE_MODELSCOPE_HUB=1 )
USE_MODELSCOPE_HUB=1 llamafactory-cli webui
进入WebUI后可以选择语言,模型名称,训练方法