跳到正文
Hacker News 首页

Anthropic 发现并阻止了多起用 Claude 尝试开发生物武器的案例

Anthropic blocks 'malicious use' of AI that could develop biological weapons

Anthropic 在最新威胁情报报告中称,已识别并阻止利用其 AI 模型从事可能支持生物武器研发的恶意活动,报告列出 5 个相关案例研究。报告称 2025 年 12 月至 2026 年 8 月间阻止了对 Claude Haiku、Sonnet 和 Opus 的恶意使用,涉及网络间谍、影响力行动、监控、诈骗和武器开发,其中 6 起案例涉及用 Claude 开发常规武器软件。

推荐理由:Anthropic 在威胁情报报告中披露,2025 年 12 月至 2026 年 8 月间阻止了 5 起可能支持生物武器研发的 Claude 滥用活动,并列出网络间谍、诈骗等案例。

读原文 ↗导出 Markdown