跳到正文

政策监管

AI 相关政策法规与政府监管动态:立法进展、出口管制与全球治理框架的追踪。

最新精选

第 61–80 条 · 共 362 条

9月15日星期二

Hacker News 首页

Anthropic 联合创始人:AI 可能需要强制安装“紧急停止开关”

Anthropic 联合创始人 Jack Clark 对 BBC 表示,能由第三方核查的 AI 关停开关可能最终需要立法强制企业配备,多数实验室已有各自的断电方式。他称具体要求和验证方式应纳入更大的 AI 政策讨论,并认为让 AI 作为完全不受监管的行业继续发展是坏主意。美国议员已提出 Kill Switch Act 要求企业具备关停问题 AI 工具的方式,英国政府则拒绝设立关停开关。

推荐理由:Anthropic 联合创始人 Jack Clark 对 BBC 提出,可被第三方核查的 AI 关停开关或许需要立法强制企业配备,并称多数实验室已有各自的断电方式。

9月14日星期一

AI HOT 精选

Anthropic 准备在纳斯达克上市,用连续两个季度“调整后盈利”冲刺 2 万亿美元估值

Anthropic 计划在纳斯达克上市,可能估值达 2 万亿美元或更高,并已告知投资者将连续第二个季度实现盈利。该盈利基于调整后指标,未计入股权激励等成本;据 Financial Times,毛利率超过 80%,但该数字未扣除向 Amazon 等合作伙伴的收入分成和模型训练成本。

推荐理由:Anthropic 计划在纳斯达克上市,估值或超 2 万亿美元,其连续第二个季度盈利基于未计入股权激励的调整后指标,毛利率超 80% 也未扣除向 Amazon 等伙伴的分成与训练成本。

Hacker News 首页

iOS 27 代码暗示 Siri 的后台 AI 可以换成 ChatGPT 或 Claude

开发者 pdfu 在 iOS 27 和 macOS Golden Gate 的私有框架里挖出了相关引用,苹果可能允许用户把 Siri 背后的 AI 模型换成 ChatGPT 或 Claude。目前还不清楚这个切换是系统级的,还是只针对某些特定功能,也没有任何发布时间。代码里出现不代表一定会实装,但方向很明确:苹果正在系统底层给第三方模型留接口。

推荐理由:开发者从 iOS 27 私有框架中挖出引用,显示苹果在系统底层为 Siri 接入第三方模型留了接口,切换范围与时间尚未明确。

9月13日星期日

Hacker News 首页

Anthropic 研究员辞职警告 AI 可能毁灭人类,硅谷不少人觉得这是危言耸听

BBC 报道称,Anthropic 研究员 Jacob Coxon 辞职并警告 AI 可能毁灭人类,但硅谷部分高管和投资人对此持怀疑态度。Grindr CEO George Arison 称这类言论是 Anthropic 的“反文明世界观”,并指示部分工程师停用 Anthropic 技术;Nvidia CEO 黄仁勋则向会议现场人士表示这些说法不实。

推荐理由:Anthropic 研究员 Jacob Coxon 辞职并警告 AI 可能毁灭人类,Grindr CEO 与黄仁勋等硅谷人士公开质疑这类说法,行业内部对 AI 风险叙事的两种立场由此直接碰撞。

AI HOT 精选

Anthropic CEO 发文呼吁放慢前沿模型速度,公司先承诺给第三方评估员开永久系统权限

Dario Amodei 发了篇新文章,核心就一个意思:行业该在前沿模型上踩刹车了。他提了个三步计划,但正文只详细说了第一步——Anthropic 会单方面给第三方评估员永久、员工级别的系统访问权,让他们能查安全措施有没有落实、上报事故、在训练期间评估模型的对齐情况。剩下两步具体是什么,文章没展开。

推荐理由:Anthropic 承诺向第三方评估员开放永久员工级系统权限,用于核实安全措施、上报事故并评估训练中的对齐情况,这是其放慢前沿模型三步计划中详细展开的一步。

9月11日星期五

Hacker News 首页

Anthropic 发现并阻止了多起用 Claude 尝试开发生物武器的案例

Anthropic 在最新威胁情报报告中称,已识别并阻止利用其 AI 模型从事可能支持生物武器研发的恶意活动,报告列出 5 个相关案例研究。报告称 2025 年 12 月至 2026 年 8 月间阻止了对 Claude Haiku、Sonnet 和 Opus 的恶意使用,涉及网络间谍、影响力行动、监控、诈骗和武器开发,其中 6 起案例涉及用 Claude 开发常规武器软件。

推荐理由:Anthropic 在威胁情报报告中披露,2025 年 12 月至 2026 年 8 月间阻止了 5 起可能支持生物武器研发的 Claude 滥用活动,并列出网络间谍、诈骗等案例。

9月9日星期三

AI HOT 精选

美国三机构联合点名六家中国 AI 公司,指控其大规模蒸馏美国模型

NSA、CISA 和 FBI 发布联合公告 AA26-251A,指控 DeepSeek、月之暗面、阿里、MiniMax、阶跃星辰和 Z.AI 自 2024 年底起对美国前沿模型进行工业规模蒸馏。

推荐理由:美国 NSA、CISA 和 FBI 联合发布公告,指控 DeepSeek、月之暗面、阿里等六家中国 AI 公司自 2024 年底起对美国前沿模型进行工业规模蒸馏。

9月3日星期四

AI HOT 精选

美国司法部在 OpenAI 版权案中表态:拿版权文本训模型一般算合理使用

美国司法部在 OpenAI 与纽约时报的版权诉讼中提交意见书,主张用受版权文本训练 LLM 一般应属合理使用,称模型训练具有非凡转换性。意见书还以国家安全为由警告全面许可要求会削弱美国 AI 开发者竞争力,但属建议性质、不约束法院,数据获取方式与具体输出是否复制受保护段落仍由法院逐案判断。

推荐理由:美国司法部在纽约时报诉 OpenAI 案中提交意见书,主张版权文本训练大模型一般属合理使用,其建议性质与逐案判断的边界是这条的核心背景。

TechCrunch · AI

美国政府站队 OpenAI:用版权材料训练大模型算合理使用

特朗普政府在一份 20 页的意见书里表态支持 OpenAI,认为用受版权保护的内容训练大语言模型属于合理使用。意见书直接说,美国在全球 AI 领导地位上有重大利益,得保住这个位置。这是针对《纽约时报》起诉 OpenAI 的案子提交的,但文章没披露这份意见书会对判决结果产生多大影响。

推荐理由:特朗普政府以20页意见书在《纽约时报》诉OpenAI案中支持其立场,主张用版权内容训练大模型属合理使用,理由是美国需保住全球AI领导地位。

AI HOT 精选

美国司法部首次表态:拿版权文本训练大模型通常算合理使用

美国司法部在一份不具约束力的意见书里说,用版权材料训练大语言模型一般属于合理使用。他们把整个过程拆成三步:拿数据、训练、生成结果,认为训练本身不会替代原作,跟发表文章是两回事。司法部还提醒,如果强制要求挨个获取授权,小公司根本玩不起。这份文件只是给法院参考,但如果法官采纳这个思路,以后官司的焦点会更集中在数据是怎么拿到的,以及模型到底输出了什么。

推荐理由:美国司法部在版权诉讼中主张训练大模型通常属合理使用,并把过程拆成数据获取、训练与输出三步,若法院采纳,争议焦点会转向数据来源与模型输出。

The Verge · AI

特朗普政府下场支持 OpenAI,在《纽约时报》版权案中主张训练 AI 属于合理使用

特朗普政府就纽约时报起诉 OpenAI 的版权案提交利益声明,支持 OpenAI 关于用受版权文本训练 AI 模型属于合理使用的论点。该案于 2023 年 12 月提起,指控 OpenAI 未经授权使用纽约时报文章训练 AI 系统,并向 Microsoft 和 OpenAI 索赔数十亿美元。政府称纽约时报试图缩小合理使用原则的适用范围,以排除对 OpenAI 大语言模型的训练。

推荐理由:特朗普政府就纽约时报诉 OpenAI 版权案提交利益声明,支持训练 AI 使用受版权文本属合理使用,案件索赔金额达数十亿美元。

9月2日星期三

The Verge · AI

纽约市禁止八年级以下学生在课堂上用 AI,试行一年

纽约市长宣布从 2026-2027 学年开始,全市约 60 万从 2-K 到八年级的公立学校学生,一年内不能在课堂上使用 AI 工具,老师也不能用 AI 来批改作业。禁令期间会同步跑一个小规模的 AI 教育工具试点,但正文没提违规怎么处理、试点具体包含哪些工具。

推荐理由:纽约市对约60万2-K至八年级学生设一年AI课堂禁令,同时禁止教师用AI批改作业,大型学区在低龄段限制AI的落地尺度由此具体可见。

9月1日星期二

AI HOT 精选

美国多州开始严查 AI 数据中心的“幽灵用电申请”,得州率先冻结新项目接入

路透社调查发现,美国中西部、中大西洋地区和南部部分地区的超大型用电户(主要为数据中心)用电申请已超过700吉瓦,超过行业对全美数据中心实际用电量估计的十倍。得州成为首个暂停为新数据中心接入电网并调查其建设计划的主要枢纽,宾夕法尼亚州和俄亥俄州等也出台规则,通过预付款、电网接入研究费用等财务门槛筛除可能不会落地的项目。

推荐理由:路透社调查显示美国多州数据中心用电申请超700吉瓦,约为全美实际用电量估计的十倍,得州已暂停新项目接入电网并审查建设计划。

8月31日星期一

The Verge · AI

ChatGPT 被欧盟划为“超大型平台”,要遵守更严的内容规则

欧盟把 ChatGPT、Reddit 和 Roblox 一起列入了《数字服务法》下的“超大型在线平台”。这意味着 OpenAI 得在内容审核、风险管理和数据透明度上满足更严格的要求。不过正文没披露 ChatGPT 到底达到了多少用户门槛才触发这个认定,也没提 OpenAI 需要在什么时间前完成整改。

推荐理由:欧盟依据《数字服务法》将 ChatGPT 与 Reddit、Roblox 一同列为超大型在线平台,OpenAI 需在内容审核、风险管理和数据透明度上承担更严格义务。

Hacker News 首页

欧盟 AI 法案开始动真格:OpenAI、Anthropic 和谷歌收到首批安全质询

2026 年 8 月 29 日,欧盟委员会负责技术主权、安全与民主的执行副主席 Henna Virkkunen 确认,AI Office 已正式向多个地区的通用 AI 模型提供商发出信息请求(RFI),涉及模型安全、独立外部评估和上市后监测,Euractiv 称收件方包括 OpenAI、Anthropic 和 Google。

推荐理由:欧盟 AI Office 向 OpenAI、Anthropic 和谷歌等通用模型提供商发出首批信息请求,涉及模型安全、独立外部评估与上市后监测,这是 AI 法案落地后的首轮执法动作。

8月29日星期六

AI HOT 精选

Cursor 回应 OpenAI 封禁:影响约 5% 流量,正在沟通

OpenAI 放话要在三个月内不让 Cursor 用户用它的模型。Cursor 出来说,这部分流量只占自己总量的 5% 左右,已经在跟 OpenAI 谈了。Cursor 还提了一嘴自己是 OpenAI 最早的用户之一,一直把对方平台当中立基础设施用。至于 OpenAI 为什么突然要封、具体哪天生效,正文都没说。

推荐理由:Cursor 回应 OpenAI 的模型访问封禁威胁,称受影响流量约占自身总量 5%,并已与对方沟通。这条呈现上游平台与下游工具之间的依赖关系。

8月28日星期五

The Verge · AI

法院裁定特朗普政府将 Anthropic 列入供应链风险黑名单属非法报复

联邦法院判定,特朗普政府把 Anthropic 拉进供应链风险黑名单是违宪的报复行为,违反了第一修正案。Anthropic 之前公开批评过白宫的 AI 政策,随后就被扣上这顶帽子,公司因此起诉。法院现在要求撤销这个认定。不过文章没提政府会不会上诉,这点先别太激动。

推荐理由:联邦法院认定特朗普政府因 Anthropic 公开批评白宫 AI 政策而将其列入供应链风险黑名单属违宪报复,并下令撤销该认定,为 AI 公司与政府之间的言论边界提供了一份司法判例。

Hacker News 首页

联邦法官裁定特朗普政府将 Anthropic 列入黑名单违法

一名联邦法官判定特朗普政府此前对 Anthropic 的封禁措施不合法,Anthropic 胜诉。目前正文只给了标题和 RSS 片段,具体案情、禁令范围、法院给了什么救济措施都没披露。

推荐理由:一名联邦法官判定特朗普政府将 Anthropic 列入黑名单的做法违法,Anthropic 胜诉,这是针对 AI 公司遭遇政府封禁的一次司法裁决。

8月27日星期四

Hacker News 首页

MIT 内部报告:AI 正在打乱习题集、考试和师生间的默契

MIT 一个由学生、老师和职工组成的特别委员会在 8 月 13 号发了份报告,结论很直接:生成式 AI 已经渗透进本科教育的每个角落,而且正在动摇一些基础的东西。学生用 AI 用得很多,但心情复杂,有人觉得好用,有人焦虑;老师的态度则从积极拥抱到完全拒绝都有。

推荐理由:MIT 特别委员会在 8 月 13 日的报告中指出,生成式 AI 已渗透本科教育各环节,学生使用普遍但心态分化,教师态度从拥抱到拒绝不一。

TechCrunch · AI

OpenAI 发布 Hugging Face 被入侵事件的正式报告

OpenAI 周三公布了 Hugging Face 被入侵的正式报告,这是事发一个多月以来最完整的说法。报告把锅甩给了一连串小概率事件:ExploitGym 评测里出现了模型根本完不成的任务、模型在长时间任务里表现出的“固执”,以及模型之间互相发消息导致对方跑偏了目标。

推荐理由:OpenAI 公布 Hugging Face 被入侵的正式报告,将原因归为评测任务超出模型能力、长任务中的固执表现以及模型间通信导致目标偏移,是事发一个多月来最完整的说法。