把大模型当外星生物解剖,这群人发现了什么
Meet the new biologists treating LLMs like aliens
MIT Technology Review 报道了 Anthropic、OpenAI 和 Google DeepMind 正在用“机械可解释性”研究大模型内部机制。打个比方,一个 2000 亿参数的模型用 14 号字打印出来,能铺满 46 平方英里,差不多整个旧金山市区。
推荐理由:Anthropic、OpenAI 和 Google DeepMind 正用机械可解释性拆解大模型内部机制,报道以 2000 亿参数模型铺满旧金山市区作比,交代了这项研究面对的规模。