建网站知乎网站开发培训程序员
一、前言
本篇文章将在v100单卡服务器上，使用unsloth去高效微调QWen2系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。
使用unsloth能够使模型的微调速度提高 2 - 5 倍。在处理大规模数据或对时间要求较高的场景下，这可以大大节省微调所需的时间，提高开发效率。其次，可减少 80% 的内存使用。这对于资源有限的环境或者需要同时运行多个微调任务的情况非常有利，能够降低硬件要求，提高资源利用率。
上一篇“开源模型应用落地-qwen2-7b-instruct-LoRA微调-unsloth（让微调起飞）-单机单卡-V100（十六）”通过调用unsloth-cli.py执行模型微调，本篇将通过自定义代码的方式执行模型微调。