KilnAI

Kiln AI简介

Kiln ai是一个开源的，可以进行大型语言模型（LLM）的微调、合成数据生成和数据集协作的AI工具。它提供直观的界面，支持Windows、MacOS和Linux系统，用户可以通过零代码方式对多种模型进行微调并自动部署。

Kiln AI也支持了deepseek（我本地ollama部署了一个deepseek-r1:14b）进行了小测试，对于像本人这种需要本地蒸馏大语言模型进行开发和研究的人来说，Kiln AI 它简直就是一款“神器”。

Kiln AI功能特点：

• 零代码微调：Kiln AI允许用户通过简单的界面进行模型的微调，用户可以选择合适的模型，如GPT-4o、Llama系列等，并配置参数进行微调。

• 数据集构建：Kiln AI支持用户构建和迭代数据集。用户可以输入自己的数据源，工具会帮助提高数据质量和多样性，从而优化训练效果。

• 合成数据生成：该工具可以自动生成合成数据，以支持模型训练，减少数据标注成本，特别适用于数据稀缺的情况。

• 团队协作：基于 Git 的 AI 数据集版本控制。直观的用户界面让您可以轻松地与 QA、PM 和主题专家就结构化数据进行协作。

• 提示词生成：自动从您的数据中生成提示，包括思路链、小样本和多样本等。

• 广泛的模型和提供商支持：支持Ollama、OpenAI、OpenRouter、Fireworks、Groq、AWS等。

支持的模型和提供商

• 支持任何兼容OpenAI的API，包括Ollama、OpenAI、OpenRouter、Fireworks、Groq和AWS。

• 广泛的模型库：支持的模型有GPT、Llama、Claude、Gemini、Mistral、Gemma和Phi。

如何使用Kiln AI进行数据集构建和模型优化？

1. 下载和安装Kiln AI：

• 访问Kiln AI的GitHub页面，下载适用于您操作系统的安装包。

• 按照安装向导的指示完成安装过程。

2. 启动Kiln AI应用程序：

• 安装完成后，启动Kiln AI应用程序。您将看到一个直观的用户界面。

3. 创建新任务：

• 在Kiln AI的UI中，点击“创建新任务”按钮。这将引导您进入任务定义和目标设定阶段。

• 输入任务的名称、描述以及任何特定的输入和输出要求。

4. 生成训练数据：

• 使用Kiln AI提供的交互式可视化工具生成训练数据。您可以通过主题树、多示例提示和链式思考等技术生成高质量的合成数据。

• 在生成数据时，确保数据的多样性和准确性。

5. 选择和微调模型：

• 在Kiln AI中，您可以选择多种预训练模型进行微调，包括Llama、GPT-4o、Mixtral等。

• 配置微调参数，如训练集和验证集的划分，并启动微调任务。

6. 部署和使用模型：

• 微调完成后，Kiln AI会自动部署模型。您可以在UI中直接测试和调用微调后的模型。

• 如果需要，您还可以通过API将模型集成到其他系统或应用中。

7. 团队协作和版本控制：

• Kiln AI支持基于Git的版本控制，方便团队成员协作处理数据集和模型。

• 您可以使用Kiln AI的界面或命令行工具进行版本管理和协作。

GitHub仓库地址：https://github.com/Kiln-AI/Kiln