Firefly

Firefly 是一款为AI开发者提供的一站式大模型训练工具。

作为一个开源项目，Firefly支持对多种主流大模型进行预训练、指令微调和DPO。

这些大模型包括Gemma、Qwen1.5、MiniCPM、Llama、InternLM、Baichuan、ChatGLM、Yi、Deepseek、Qwen、Orion、Ziya、Xverse、Mistral、Mixtral-8x7B、Zephyr、Vicuna和Bloom等。