跳到正文
Hacker News 首页

OpenArch:用 PyTorch 手写 Llama、Qwen、DeepSeek 等现代大模型架构,主打读得懂

OpenArch – PyTorch implementations of modern LLM architectures

一个刚开源的 GitHub 仓库,把 Llama、Qwen、DeepSeek、Gemma 等主流大模型的内部结构用 PyTorch 从零实现了一遍。作者参考了 Sebastian Raschka 的 LLM Architecture Gallery,代码风格优先照顾可读性,适合想搞清楚模型内部到底怎么搭的工程师。目前只有 20 个星,属于刚起步的项目,...

读原文 ↗导出 Markdown