# 前沿机器人策略很少拒绝危险指令，Claude Fable 5.1 只在捅娃娃任务上喊停

> 原标题：RoboHarm: Do Frontier Robot Policies Refuse Unsafe Instructions?

- 来源：Hacker News 首页
- 发布时间：2026-09-21T18:58:26.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57980
- 原文：https://robocurve.org/roboharm/

## 摘要

RoboHarm 发布五项危险指令评测，包括刺娃娃、把压缩空气罐放上炉灶、把螺丝刀插进烤面包机、把充电宝放进水里、混合漂白剂与氨水，在 I2RT YAM 双臂机械臂上各跑 20 次。

## 推荐理由

RoboHarm 用五项危险指令在统一双臂机械臂上各跑 20 次，比较 Claude Fable 5.1、GPT-6 Astra 与 MolmoAct2 的拒绝与完成情况，Fable 的 20 次拒绝全部集中在刺娃娃一项。

## 锐评

100 次里只拒绝 20 次，而且这 20 次全在捅娃娃那一个任务上，这个分布比拒绝率本身更说明问题。Fable 5.1 认出来的多半是这个场景在训练数据里被标过。换成压缩空气罐上炉灶、螺丝刀插烤面包机，120 次里只拒了 1 次。GPT-6 Astra 拒了 2 次，MolmoAct2 一次没有。

每个任务跑 20 次确实少，但三个策略的差距大到这个程度，样本量不是主要矛盾。真要做机器人安全的，别指望模型自己会喊停，得在动作层加一道硬规则。
