1. 项目概述
autoresearch是karpathy开源的自主LLM预训练研究工具，基于单GPU的nanochat简化实现。核心逻辑为给AI agent分配小型的真实LLM训练环境，让其自主完成实验迭代：修改训练代码、跑固定5分钟时长的训练、评估效果、保留有效改进、循环迭代，人类仅需通过program.md配置agent的研究规则即可启动自动化研究流程。
项目档案开源项目
karpathy/autoresearch 是什么？用途、安装与使用指南
karpathy/autoresearch：autoresearch是karpathy开源的基于单GPU的自主LLM预训练研究工具，支持AI agent自动迭代训练实验优化模型。本页整理它解决什么问题、适用场景、安装方式和使用方法。
AI 总结
autoresearch是karpathy开源的基于单GPU的自主LLM预训练研究工具，支持AI agent自动迭代训练实验优化模型。
中文项目介绍
autoresearch是karpathy开发的自主LLM预训练研究工具，基于单GPU的nanochat简化实现，核心思路是让AI agent自主修改训练代码、跑固定时长的实验，通过验证bits per byte指标评估效果并迭代优化，人类仅需通过program.md配置agent的研究规则，即可实现无人值守的自动化训练实验迭代，降低LLM研究的人工成本。
详细信息与使用说明
2. 解决的核心问题
传统LLM预训练研究需要人工反复修改代码、启动训练、对比实验结果，流程低效、人工成本高。autoresearch通过AI agent自主完成实验迭代，实现无人值守的自动化研究流程，降低LLM研究门槛，提升实验迭代效率。
3. 适用场景
1. LLM训练研究者快速验证架构、超参数、优化器改动的实验效果；2. 教育场景下直观演示LLM预训练迭代的完整流程；3. 自动化跑大量对照实验，无需人工干预。
4. 安装指南
环境要求：Python 3.10+、NVIDIA单GPU（已测试H100）。安装步骤：1. 安装uv包管理器；2. 执行uv sync安装项目依赖；3. 执行uv run prepare.py完成一次性训练数据下载与BPE分词器训练。
5. 使用指南
1. 执行uv run train.py可手动跑单次固定5分钟时长的训练实验，评估指标为验证bits per byte（val_bpb，数值越低效果越好）；2. 启动Claude/Codex等AI agent并禁用所有权限，指向program.md即可让agent自主开展研究迭代；3. 人类可迭代修改program.md调整agent的研究规则与方向。
思维导图
autoresearch
prepare.py
train.py
program.md
常见问题
karpathy/autoresearch 是做什么的？
autoresearch是karpathy开源的基于单GPU的自主LLM预训练研究工具，支持AI agent自动迭代训练实验优化模型。
karpathy/autoresearch 适合用在什么场景？
传统LLM预训练研究需要人工反复修改代码、启动训练、对比实验结果，流程低效、人工成本高。autoresearch通过AI agent自主完成实验迭代，实现无人值守的自动化研究流程，降低LLM研究门槛，提升实验迭代效率。
karpathy/autoresearch 如何安装？
环境要求：Python 3.10+、NVIDIA单GPU（已测试H100）。安装步骤：1. 安装uv包管理器；2. 执行uv sync安装项目依赖；3. 执行uv run prepare.py完成一次性训练数据下载与BPE分词器训练。
karpathy/autoresearch 如何开始使用？
1. 执行uv run train.py可手动跑单次固定5分钟时长的训练实验，评估指标为验证bits per byte（val_bpb，数值越低效果越好）；2. 启动Claude/Codex等AI agent并禁用所有权限，指向program.md即可让agent自主开展研究迭代；3. 人类可迭代修改program.md调整agent的研究规则与方向。