# Llama 3.1 发布：405B、70B、8B 三个尺寸，主打多语言和长上下文

> 原标题：Llama 3.1 - 405B, 70B & 8B with multilinguality and long context

- 来源：Hugging Face 博客
- 发布时间：2024-07-23T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/1498
- 原文：https://huggingface.co/blog/llama31

## 摘要

Meta 在 Hugging Face 上放出了 Llama 3.1，一共三个尺寸：8B、70B 和 405B。8B 适合在消费级显卡上跑，70B 给大规模 AI 应用，405B 主要用来做合成数据、让模型当裁判或者蒸馏小模型。每个尺寸都有基础版和指令微调版。这次还多了两个安全模型：Prompt Guard 是个小分类器，用来检测提示注入和越狱攻击；L...

## 推荐理由

Meta 的 Llama 3.1 是开源阵营的旗舰更新，标题已经把三个参数规模和两个关键能力点出来了。我会先打个折：正文没披露上下文窗口到底多长、支持哪些语种、许可是不是真开放可商用，也没给任何基准跑分，所以信息缺口不小。真正值得盯的是 405B 能不能免费用、长上下文推理实际要烧多少钱。这些没公布之前，分数先卡在 85-94 这个区间的低位。

## 锐评

Llama 3.1 这次放出了 8B、70B 和 405B 三个尺寸，8B 能在消费级显卡上跑，70B 给大规模应用，405B 主要用来做合成数据、当裁判或者蒸馏小模型。博客里给了推理和训练的内存需求，也讲了怎么用 Transformers 库加载、提示词格式和工具调用，这些对开发者挺实用。

但标题里最吸引人的“多语言”和“长上下文”，正文一个字都没展开。上下文窗口到底多长、支持哪些语言、多语言能力有没有评测，全都没说。405B 的授权条款和实际推理成本也没提，这点得打个问号。另外，博客里提到的 Prompt Guard 安全分类器，只说了能检测提示注入和越狱攻击，没给准确率或误报率，实际效果不好判断。

总的来说，这篇更像是个使用指南，不是技术报告。想知道模型到底强在哪，还得等 Meta 放正式的论文或跑分。