GitHub 雷达
首次出现 65 天前

datawhalechina/happy-llm

这是一个名为Happy-LLM的开源学习教程项目,旨在帮助学习者从零开始深入理解大语言模型(LLM)的原理与训练过程,并动手实现自己的大模型。项目主要基于Python编程语言,使用Jupyter Notebook作为载体,核心内容围绕PyTorch和Transformers等主流框架展开,从NLP基础概念、Transformer架构到预训练模型,最终实现LLaMA2模型的搭建与训练。该项目的亮点在于其系统性的章节设计,覆盖了从理论到实践的完整路径,包括预训练、微调、RAG和Agent等前沿应用,并提供免费在线阅读、PDF及PPT资源,非常适合大学生、研究人员和LLM爱好者作为入门与进阶的学习材料。

近 7 日
+208
累计 Star
33.9k
Fork
3,212
近 30 日
+836
Star 趋势 · 43 个采集点
+4%
7 月 30 日9 月 21 日
语言Jupyter Notebook
分类AI/机器学习
最近提交8 月 9 日
创建时间5 月 28 日
首次收录7 月 30 日 · 自动扫描
README 摘要
这是一个名为Happy-LLM的开源学习教程项目,旨在帮助学习者从零开始深入理解大语言模型(LLM)的原理与训练过程,并动手实现自己的大模型。项目主要基于Python编程语言,使用Jupyter Notebook作为载体,核心内容围绕PyTorch和Transformers等主流框架展开,从NLP基础概念、Transformer架构到预训练模型,最终实现LLaMA2模型的搭建与训练。该项目的亮点在于其系统性的章节设计,覆盖了从理论到实践的完整路径,包括预训练、微调、RAG和Agent等前沿应用,并提供免费在线阅读、PDF及PPT资源,非常适合大学生、研究人员和LLM爱好者作为入门与进阶的学习材料。
中文摘要由 AI 生成,仅供参考。
在 GitHub 打开