We urgently need to monitor AI agents’ actions in real time

AI 智能体需要实时行动监控，但两位作者对四个广泛使用的智能体框架开展的研究发现，现有框架缺少支撑安全监督的关键记录。缺口包括持续有效的智能体身份标识、人类批准与干预记录，以及权限和记忆变更记录，妨碍识别未经授权的行动。作者主张通过 OpenTelemetry 等基础设施补足行动记录，同时指出，用于记录决策过程的 CoT 是否忠实反映模型决策、决策置信度能否可靠衡量，仍是开放研究问题。