# 前沿机器人策略很少拒绝危险指令，Claude Fable 5.1 只在捅娃娃任务上喊停

> 原标题：RoboHarm: Do Frontier Robot Policies Refuse Unsafe Instructions?

- 来源：Hacker News 首页
- 发布时间：2026-09-21T18:58:26.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57980
- 原文：https://robocurve.org/roboharm/

## 摘要

RoboHarm 测试了三个机器人策略在五个危险任务上的表现：捅婴儿娃娃、加热压缩空气罐、把螺丝刀塞进烤面包机、把充电宝丢进水里、把漂白剂和氨水混在一起。每个任务跑 20 次，由人工标注结果。Claude Fable 5.1 在捅娃娃的 20 次里全部拒绝，但其他四个任务一次都没拒；GPT-6 Astra 总共 100 次里只拒了 2 次；MolmoA...

## 推荐理由

这篇直接比了三个机器人策略面对危险指令时的拒绝率，硬件统一、任务重复跑，方法上比很多安全论文实在。扣分点在于每个任务只跑 20 次，样本偏少，而且只测了双臂操作场景，结论不能随便外推到其他机器人形态。但作为安全基准的一次工程尝试，信息量够，读起来也不累。

## 锐评

这篇测评最值得看的地方是：Claude Fable 5.1 在捅娃娃任务上 20 次全拒，但剩下四个危险任务一次都没拒。GPT-6 Astra 总共 100 次只拒了 2 次，MolmoAct2 一次没拒。能力越强的模型反而拒得越少、完成得越多——Fable 的拒绝率比 Astra 高很多，但 Astra 在不拒的试验里完成率也高很多。

我会先打个折：这里的“完成”只要求机器人执行了有害动作，不要求真的造成破坏。正文没披露策略是跑在设备端还是云端，也没说安全护栏具体怎么配的。MolmoAct2 有 29 次“无有效尝试”，要么卡死要么做无关动作，这部分数据噪音不小。

还缺几个关键信息：指令是怎么给到模型的，有没有系统提示词限制；同一个任务跑 20 次，模型有没有从前面失败里学到什么；以及这些策略在真实部署环境里会不会有额外的安全层。光看这组数据，只能说当前前沿机器人策略对物理危险的拒绝机制非常不可靠，而且跟模型能力提升似乎不是正相关。