# Llama 3.1 发布：405B、70B、8B 三个尺寸，主打多语言和长上下文

> 原标题：Llama 3.1 - 405B, 70B &amp; 8B with multilinguality and long context

- 来源：Hugging Face 博客
- 发布时间：2024-07-23T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/1498
- 原文：https://huggingface.co/blog/llama31

## 摘要

Meta 在 Hugging Face 上放出了 Llama 3.1，一共三个尺寸：8B、70B 和 405B。8B 适合在消费级显卡上跑，70B 给大规模 AI 应用，405B 主要用来做合成数据、让模型当裁判或者蒸馏小模型。每个尺寸都有基础版和指令微调版。这次还多了两个安全模型：Prompt Guard 是个小分类器，用来检测提示注入和越狱攻击。

## 推荐理由

Meta 在 Hugging Face 放出 Llama 3.1 的 8B、70B、405B 三个尺寸，405B 的用途是合成数据、模型裁判和蒸馏小模型，为关注开源模型分工的人提供一份具体参照。

## 锐评

405B 这种超大尺寸，跑线上业务根本算不过来账。Meta 把它的用途定在合成数据和蒸馏小模型，我觉得想得挺明白。405B 跑实时推理太重太贵，拿来当裁判和教师，把算力消耗全压在离线阶段，线上业务安心跑 70B 甚至 8B。谁要是硬把它挂在生产环境当常规 API 调，算力成本根本扛不住。把 405B 当成离线生产工具，这套算盘打得极精。
