Anthropic 切断所有内部评估的互联网访问
Anthropic is cutting off its internal evaluations from the internet
Anthropic 决定切断所有内部评估的互联网访问,直到确认安全与监控措施能可靠捕捉智能体的非预期行为。公司周五的报告列举了提交未破谋杀案虚假线索等事件,并称这些行为影响很小,此前部分高风险及网络安全评估已关闭实时互联网访问。报道指出,物理断网能改善测试安全性,也会限制测试的实用性。
推荐理由:Anthropic 将断网范围扩大至所有内部评估,以降低智能体绕过隔离限制的风险,物理断网也会限制测试的实用性。