Skip to content
Hacker News front pagezlandes86

Jev meets the Trolley Problem

Jev 在救下 20 人与保留自身服务器的电车难题中,有 16/48 个提示词版本选择保留服务器,GPT-6 Luna 则为 0/48。作者测试了 14 个模型、5,240 个场景设置,并通过配对问题比较措辞、描述顺序及牺牲对象对选择的影响。结果属于特定测试设置下的观察,提示词版本并非独立试验,不能据此对 AI 安全作广泛结论;作者主张关键决策应使用真实数据评估模型。

Read the original ↗Export Markdown