大模型在生产环境会“说胡话”,但大部分跑分测试根本不查这个
文本退化:多数基准测试未追踪的生产故障模式
Dharma-AI 在 Hugging Face 发了篇博文,说现在的大语言模型上线后经常出现文本退化——输出内容来回重复、前言不搭后语或者逻辑崩掉。这种故障直接影响用户体感和模型能不能用,但主流基准测试基本没把这类问题纳入评分。文章呼吁业界在评估体系里加上对文本退化的系统追踪和量化指标,正文没披露具体的指标设计或实验数据。
推荐理由:Dharma-AI 指出大模型上线后常出现重复、逻辑崩坏等文本退化,而主流基准测试基本未将这类故障纳入评分,评估体系与实际生产表现存在落差。