Goodfire推出AI智能体内部信号安全监测器

据10月9日报道，Goodfire推出读取模型内部信号的AI智能体安全监测器，已向Baseten客户开放。该监测器通过小型探针逐步检测风险，仅在触发警报时，才将相关情况交由另一AI模型复查。Goodfire称，相比由另一模型逐步检查输出的方案，这种方式可降低监测成本。客户可自行选择需要监测的风险，以及记录、人工审核或拒绝请求等响应方式。目前报道披露的进展是产品已开放使用，未提供具体成本降幅。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。