unslothai/unsloth：Unsloth 是一个本地 AI 模型训练与推理一体化平台，提供 Web 界面 (Studio) 和 Python 库 (Core)，支持文本、本页整理它解决什么问题、适用场景、安装方式和使用方法。
Unsloth 是一个本地 AI 模型训练与推理一体化平台，提供 Web 界面 (Studio) 和 Python 库 (Core)，支持文本、音频、视觉等多模态模型，通过优化内核实现 2 倍训练加速与 70% VRAM 节省。
Unsloth 是一个本地 AI 模型训练与推理一体化平台，定位为降低本地部署大模型门槛的集成工具。它提供两种主要使用方式：Unsloth Studio 是基于 Web 的图形界面，适合不熟悉代码的用户进行模型管理、对话、训练配置；Unsloth Core 是 Python 代码库，适合开发者通过脚本实现自动化训练与推理。核心用途涵盖本地运行开源模型（如 Qwen、Gemma、DeepSeek）、进行高效微调与强化学习训练、处理多模态数据（文本、音频、图像）、以及在不同格式间转换导出模型。
Unsloth 主要解决本地 AI 开发中的三大痛点：一是简化模型运行与训练的复杂环境配置，通过集成化界面和优化内核降低对硬件和软件栈的要求；二是降低 GPU 成本与显存占用，通过自定义 Triton 内核实现训练速度提升 2 倍、显存节省高达 70%，且无精度损失；三是统一分散的多模态工作流，将文本、音频、视觉模型的推理、训练、数据准备整合在单一平台，并提供可视化数据配方编辑，避免在不同工具间切换。此外，通过与模型官方团队合作修复 bug，提升了本地运行的模型准确性与兼容性。
Unsloth 适用于以下场景：本地大模型推理与对话交互，支持上传 PDF、CSV、DOCX 等文件进行问答；高效 LLM 微调与强化学习训练，包括 GRPO、FP8 等先进方法；多模态模型处理，如文本到语音（TTS）微调、视觉模型训练；模型格式转换与导出，支持 GGUF、16-bit safetensors 等；研究人员在本地环境进行实验，无需依赖云端资源；以及需要多 GPU 协同训练的中大型项目。注意：CPU 模式目前仅支持聊天和数据配方功能，训练需 NVIDIA GPU。
Unsloth 提供系统级安装脚本与 Python 包两种安装路径。对于 Linux 和 macOS 用户，可使用根目录下的 install.sh 脚本；Windows 用户可使用 install.ps1 脚本。此外，项目基于 pyproject.toml 构建，要求 Python 版本在 3.9 至 3.14 之间，核心依赖包括 typer、pydantic、pyyaml、nest-asyncio。NVIDIA GPU 训练需要 CUDA 环境支持。仓库中未明确给出通过 pip 直接安装的命令或详细步骤，但提供了构建系统配置和包数据定义，表明可作为 Python 包分发。
Unsloth 有两种主要使用方式：通过 Unsloth Studio (Web UI) 进行图形化操作，包括搜索下载模型、聊天交互、创建数据配方、配置训练任务、监控训练过程及导出模型；通过 Unsloth Core 以代码方式调用，使用命令行工具 `unsloth`（由 pyproject.toml 定义的入口点）启动和管理功能。在 Studio 界面中，用户可以上传多种文件类型进行数据处理，使用自动调参和工具调用功能，并利用多 GPU 训练支持。仓库中未明确列出 `unsloth` 命令的具体子命令和参数，需参考官方文档获取详细操作指南。
Unsloth 的核心实现特点包括：自定义 Triton 内核优化，如 MoE 分组 GEMM 内核，通过融合操作消除专家循环以提升效率；数据配方系统提供可视化节点工作流，支持从 PDF、CSV、DOCX 等自动创建数据集；训练模块支持全参数微调、RL、预训练、4/16-bit 及 FP8 训练，并具备实时观测性图表；推理引擎统一支持多种模型格式，具备自愈工具调用和代码执行能力。项目前端基于 React/TypeScript 和 Tailwind CSS，后端采用 Python 异步架构。仓库中未明确给出所有模型的具体兼容列表或性能基准测试细节。
Unsloth 是一个本地 AI 模型训练与推理一体化平台，提供 Web 界面 (Studio) 和 Python 库 (Core)，支持文本、音频、视觉等多模态模型，通过优化内核实现 2 倍训练加速与 70% VRAM 节省。
Unsloth 是一个本地 AI 模型训练与推理一体化平台，定位为降低本地部署大模型门槛的集成工具。它提供两种主要使用方式：Unsloth Studio 是基于 Web 的图形界面，适合不熟悉代码的用户进行模型管理、对话、训练配置；Unsloth Core 是 Python 代码库，适合开发者通过脚本实现自动化训练与推理。核心用途涵盖本地运行开源模型（如 Qwen、Gemma、DeepSeek）、进行高效微调与强化学习训练、处理多模态数据（文本、音频、图像）、以及在不同格式间转换导出模型。
Unsloth 提供系统级安装脚本与 Python 包两种安装路径。对于 Linux 和 macOS 用户，可使用根目录下的 install.sh 脚本；Windows 用户可使用 install.ps1 脚本。此外，项目基于 pyproject.toml 构建，要求 Python 版本在 3.9 至 3.14 之间，核心依赖包括 typer、pydantic、pyyaml、nest-asyncio。NVIDIA GPU 训练需要 CUDA 环境支持。仓库中未明确给出通过 pip 直接安装的命令或详细步骤，但提供了构建系统配置和包数据定义，表明可作为 Python 包分发。
Unsloth 有两种主要使用方式：通过 Unsloth Studio (Web UI) 进行图形化操作，包括搜索下载模型、聊天交互、创建数据配方、配置训练任务、监控训练过程及导出模型；通过 Unsloth Core 以代码方式调用，使用命令行工具 `unsloth`（由 pyproject.toml 定义的入口点）启动和管理功能。在 Studio 界面中，用户可以上传多种文件类型进行数据处理，使用自动调参和工具调用功能，并利用多 GPU 训练支持。仓库中未明确列出 `unsloth` 命令的具体子命令和参数，需参考官方文档获取详细操作指南。