TiniestGPT

自动关联目录:TiniestGPT

不是“一个能用的大模型”,而是一本能跑通的大模型全链路教科书: 数据 → 分词 → 架构 → 预训练 → 后训练 → 推理系统 → Agent 应用。 上游仓库:https://github.com/HUSTJJD/TiniestGPT,本页由同步脚本自动生成。

  1. 学习路线:如何用 TiniestGPT 学完大模型全链路
  2. 数据:决定模型上限的第一环
  3. 模型架构:小参数量、全先进技术
  4. 预训练工程:把算力变成 loss
  5. 后训练:从"会续写"到"会帮忙"
  6. 推理优化与 AI Infra(本项目重点)
  7. Agentic 框架:让模型"能动手、会反省、可协作"
  8. vLLM 对照:从"教学实现"到"生产实现"
  9. 08 · CUDA 编程与算子优化
  10. 09 · 分布式训练:显存账本与 3D 并行
  11. 10 · 服务化、可观测与部署
  12. 大模型前沿技术雷达(2026 H2)
  13. Target 定义与 Gap 分析