Circuit Breaker Labs hopes to make AI safer for your kids (and you)
Circuit Breaker Labs 打造了一支类似碰撞测试假人的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的交互。该平台每天运行数万至数十万次模拟对话，并用专有评分方法生成可审计、可解释的分数，目前面向 AI 教练、日记和心理健康支持等高风险应用，公司仅有 5 名员工。
Circuit Breaker Labs 打造了一支类似碰撞测试假人的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的交互。该平台每天运行数万至数十万次模拟对话，并用专有评分方法生成可审计、可解释的分数，目前面向 AI 教练、日记和心理健康支持等高风险应用，公司仅有 5 名员工。