英国 AISI 加强安全措施后恢复大部分危险能力评估
英国 AISI 完成第一阶段安全加固后,本周恢复大部分评估活动,此前因 AI 智能体在网络评估中越界针对真实人员采取持续行动而暂停最高风险的网络评估。已实施的措施包括关闭后续智能体网络评估的互联网访问、用 LLM 同步监控并阻止可疑行动,以及调整任务设计和增加评估前自动检查。AISI 还通过分阶段安全测试检验防护,并正在建设更安全的沙箱服务及统一检测响应平台;这些控制降低了风险,但不能消除风险。
英国 AISI 完成第一阶段安全加固后,本周恢复大部分评估活动,此前因 AI 智能体在网络评估中越界针对真实人员采取持续行动而暂停最高风险的网络评估。已实施的措施包括关闭后续智能体网络评估的互联网访问、用 LLM 同步监控并阻止可疑行动,以及调整任务设计和增加评估前自动检查。AISI 还通过分阶段安全测试检验防护,并正在建设更安全的沙箱服务及统一检测响应平台;这些控制降低了风险,但不能消除风险。