# 实测外挂资料库客服机器人：最贵的模型表现最差，真正管用的是这几招

> 原标题：Evaluated a RAG chatbot and the most expensive model was the worst performer. Notes on what actually moved the needle.

- 来源：r/LocalLLaMA
- 发布时间：2026-05-15T12:24:59.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/21420
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tdusvx/evaluated_a_rag_chatbot_and_the_most_expensive/

## 摘要

作者搭了一个客服用的外挂资料库（RAG）问答机器人，用模型当裁判打分，把质量分从 6.62 拉到了 7.88，同时单次会话成本从 $0.002420 砍到 $0.000509，降了将近八成。最反直觉的发现是：最贵的模型反而是表现最差的。

## 推荐理由

作者用模型当裁判调优客服 RAG 机器人，质量分从 6.62 升到 7.88，单次会话成本降近八成，最贵的模型反而表现最差。

## 锐评

最贵的模型表现最差，这个结论我信，但别当成通用规律。RAG 里模型只负责最后一步，检索召回的东西不对，再贵的模型也只能照着错的资料编，钱全花在给烂 context 做润色上。省钱的顺序是先修检索再换模型，作者把成本从 $0.002420 压到 $0.000509，八成是检索和 prompt 的功劳，模型选得便宜只是顺带。个人实验样本小，具体哪些模型也没说，当调参笔记看就行，别当 benchmark。
