跳到正文

政策监管

AI 相关政策法规与政府监管动态:立法进展、出口管制与全球治理框架的追踪。

最新精选

第 321–340 条 · 共 362 条

4月25日星期六

彭博科技

美国司法部加入马斯克 xAI 对科罗拉多州 AI 反歧视法的诉讼

美国司法部正式下场,站到了马斯克的 xAI 一边,共同起诉科罗拉多州一项针对 AI 的新反歧视法。这项州法主要管的是用自动化工具在招聘等领域搞歧视的问题。目前公开信息里没披露具体案件编号、司法部是以什么身份参与(比如是提交了意见书还是直接加入原告),也没说他们质疑的是法条里的哪些具体条款。

推荐理由:美国司法部加入马斯克旗下 xAI 对科罗拉多州 AI 反歧视法的诉讼,联邦机构与州级 AI 监管在法庭上正面交锋,涉及招聘等场景自动化工具的合规边界。

4月23日星期四

纽约时报中文网

Anthropic 造了个能找软件漏洞的模型 Mythos,现在只给美国用,连盟友都急了

Anthropic 发布了一个叫 Mythos 的模型,专门用来发现银行、电网和政府软件里的隐藏漏洞。公司说它太危险,不能公开,目前只跟美国 11 家科技公司和 40 多家关键基础设施机构共享,海外只有英国拿到了访问权。英国安全研究所的测试证实,Mythos 能完成以前任何 AI 都做不到的复杂网络攻击。欧盟、德国等盟友还没拿到模型,只能干着急。

推荐理由:Anthropic 将漏洞发现模型 Mythos 限定在美国 11 家科技公司和 40 多家关键基础设施机构内使用,海外仅英国获得访问权,欧盟与德国尚未拿到。

The Verge · AI

Anthropic 的漏洞挖掘模型 Mythos 进了多个联邦机构,唯独漏了美国网络安全局 CISA

Axios 的消息说,Anthropic 那个专门找漏洞的模型 Mythos Preview 已经在商务部、国安局(NSA)等几个联邦机构用上了,但负责全国网络防御的 CISA 反而没拿到访问权限。文章没解释为什么偏偏跳过 CISA,也没提模型的具体性能、收费方式和部署规模。

推荐理由:Anthropic 的漏洞挖掘模型 Mythos Preview 已进入商务部、国安局等联邦机构,负责全国网络防御的 CISA 却未获访问权限,这条消息的价值在于联邦 AI 采购中权限分配的差异。

4月22日星期三

FT · 科技

保险公司开始给 AI 和“LLMjacking”相关的网络攻击理赔设上限

Beazley 和 QBE 这两家保险公司打算在网络安全险里,对由 AI 和“LLMjacking”(偷用别人大模型算力)引发的损失设置赔付上限。文章正文被付费墙挡住,没披露具体上限金额、触发条件,也没说什么时候开始执行。核心争议在于保单条款怎么界定“跟 AI 有关的损失”——这个定义会直接决定企业能拿到多少赔偿。

推荐理由:Beazley 和 QBE 在网络安全险中对 AI 与 LLMjacking 引发的损失设置赔付上限,保单条款如何界定 AI 相关损失将直接决定企业获赔范围。

彭博科技

日本财相本周约谈大银行,专门聊 Anthropic 新模型 Mythos 可能带来的风险

日本财务大臣片山皋月计划最早本周内召集国内主要银行开会,议题直指 Anthropic 最新模型 Mythos 对金融业的威胁。目前公开信息里没写 Mythos 具体能干什么、风险是哪种类型,也没提会不会出台监管措施。但这件事本身说明,日本可能要把前沿模型的风险正式摆到银行桌面上谈了。

推荐理由:日本财务大臣片山皋月计划本周约见国内主要银行,讨论 Anthropic 新模型 Mythos 对金融业的风险,前沿模型风险由此进入银行监管议程。

彭博科技

澳大利亚央行盯上 Anthropic 的 Mythos 模型,担心它被用来搞网络攻击

澳大利亚储备银行(RBA)正在关注 Anthropic 的 Mythos AI 模型。起因是 Anthropic 自己说这个模型有能力发动复杂的网络攻击,但彭博这篇报道的正文被付费墙挡住了,看不到具体的技术细节、评估范围和落地时间表。

推荐理由:澳大利亚储备银行正关注 Anthropic 的 Mythos 模型,起因是 Anthropic 自述该模型具备发动复杂网络攻击的能力,这条报道呈现了央行对模型安全能力的具体盯防动作。

The Verge · AI

美国人对 AI 的怨气,正在变成选票议题

益普索的民调显示,超过六成的共和党与民主党选民都支持政府监管 AI、放慢开发速度。文章还提到,美国多地社区在抵制数据中心项目,网上对 AI 公司的怒火也在升温。但正文没披露这次民调的样本量、调查时间,也没给出具体哪个选区把 AI 当成了核心议题。专家判断,AI 目前还不是中期选举的主轴,更像是一股正在积累的底层情绪。

推荐理由:益普索民调显示两党各有超六成选民支持政府监管 AI 并放慢开发速度,多地社区也在抵制数据中心项目,这些情绪正积累成中期选举的底层议题。

4月20日星期一

FT · 科技

AI 闯祸了,谁来赔?保险公司正悄悄把 AI 责任踢出保单

保险公司开始在企业责任险里动手脚,想把 AI 造成的伤害排除在理赔范围外。文章只说了这个动向,没披露具体哪些保单条款被改、涉及多少案例、监管机构又是什么态度。对用 AI 干活的公司来说,这等于出了事可能得自己扛,但正文没给出实际纠纷或判例来支撑这个风险到底有多大。

推荐理由:保险公司正把 AI 造成的损害从企业责任险中排除,使用 AI 的公司一旦出事可能需自行承担赔偿。

彭博科技

西门子 CEO 放话:欧盟不改 AI 监管规则,就把 AI 投资优先放在美国和中国

西门子 CEO 罗兰·布施(Roland Busch)直接表态,如果欧盟不调整 AI 监管规则,公司会把 AI 投资优先投向美国和中国,而不是欧洲。这更像一个资本配置的信号,不是产品发布。正文没披露具体投资金额、时间表、涉及哪些业务部门,也没点名到底哪几条规则让西门子不满。

推荐理由:西门子 CEO 布施以调整 AI 投资流向为条件,要求欧盟修改监管规则,这条表态显示工业巨头正把监管环境纳入资本配置考量。

4月18日星期六

FT · 科技

Anthropic 老板见了白宫幕僚长,美国政府想提前看 Mythos 模型

FT 这篇报道正文被付费墙挡住了,只留了个标题。从标题看,Anthropic 的 CEO 和白宫幕僚长碰了面,核心诉求是美国政府想获得 Mythos 模型的访问权限。但正文没披露会面具体时间、Mythos 到底有什么能力、政府要拿它做什么用,以及访问条件是什么。

推荐理由:Anthropic 的 CEO 与白宫幕僚长会面,美方希望获得 Mythos 模型的访问权限,政府直接点名接触具体模型比泛泛的监管讨论更具体。

4月17日星期五

Hacker News 首页

微软和游说团体把保密条款写进欧盟法律,让数据中心的耗能、用水数据不再公开

调查发现,微软和行业游说组织 DigitalEurope 在 2024 年推动欧盟加入了一条保密条款,把单个数据中心的能耗、用水等关键指标定为商业机密,公众无权查看。欧盟计划五年内将数据中心容量翻三倍,预计投资 1760 亿欧元,但具体设施的环境账本被藏了起来。

推荐理由:微软与游说组织DigitalEurope推动欧盟将单个数据中心的能耗和用水列为商业机密,公众无法查看,而欧盟计划五年内把数据中心容量翻三倍。

4月16日星期四

Dwarkesh Patel 访谈

黄仁勋回怼芯片禁令:别把 AI 芯片比作浓缩铀,放弃中国市场是输家心态

黄仁勋在这段视频里直接反驳了美国对华芯片出口限制的几个常见论点。他先质疑,为什么不能制定更平衡的规则,让英伟达在全球竞争,而不是主动放弃世界市场。接着他点名批评了 Dario 把卖 AI 芯片比作“波音给朝鲜核弹造导弹外壳”的说法,直言把 AI 比作浓缩铀是“糟糕且不合逻辑的类比”。

推荐理由:黄仁勋在视频中反驳美国对华芯片出口限制,并批评把 AI 芯片比作浓缩铀的类比,直接回应了出口管制的常见论点。

3月30日星期一

MIT Technology Review · AI

五角大楼用文化战争对付 Anthropic,被法官暂时叫停

加州一位联邦法官上周四暂时阻止了五角大楼把 Anthropic 列为“供应链风险”并强制政府机构停用其 AI 的做法。法官在 43 页意见书里指出,政府跳过了规定步骤,而且其律师承认,国防部长 Hegseth 声称 Anthropic 有“远程关闭开关”的说法没有证据。

推荐理由:加州联邦法官暂时阻止五角大楼将 Anthropic 列为供应链风险并强制政府机构停用其 AI,43 页意见书指出政府跳过规定步骤,国防部长所称远程关闭开关缺乏证据。

3月18日星期三

MIT Technology Review · AI

五角大楼打算让 AI 公司用机密数据训练军用模型

五角大楼计划为生成式 AI 公司搭建安全环境,让它们用机密数据训练军事专用版模型。Anthropic 的 Claude 已经在机密场景里用来回答问题,包括分析伊朗境内的目标,但让模型直接拿机密数据训练是头一回。这意味着监控报告、战场评估这类敏感情报会被写进模型参数里,AI 公司离机密数据也会比以往更近。

推荐理由:五角大楼计划为生成式 AI 公司搭建安全环境,让它们用机密数据训练军事专用版模型,Anthropic 的 Claude 此前已在机密场景中用于分析伊朗境内目标。

MIT Technology Review · AI

五角大楼计划让 AI 公司在机密数据上训练模型

五角大楼正在讨论建一个安全环境,让 OpenAI、xAI 这类公司用机密数据训练军用版大模型。以前这些模型只能在涉密环境里回答问题,不能拿数据去学习,这次是头一回允许直接“吃”进机密情报。训练会在认证过的数据中心进行,数据归国防部,公司人员只在极少数情况下、有安全许可才能接触。官方说会先用非机密数据(比如商业卫星图)做测试,看效果再推进。

推荐理由:五角大楼计划为OpenAI、xAI等公司搭建安全环境,让它们用机密数据训练军用大模型,数据归国防部所有,公司人员仅在极少数情况下可接触。

3月13日星期五

MIT Technology Review · AI

五角大楼官员透露如何用 AI 聊天机器人排打击优先级,同时点名 Claude 会“污染”国防供应链

美国国防部一位官员说,军方可以把目标清单喂给一个在保密环境里跑的生成式 AI 系统,让它分析并排出先打哪个。人负责最后检查和拍板。OpenAI 的 ChatGPT 和 xAI 的 Grok 都可能被塞进这种高风险决策流程里。

推荐理由:美国国防部官员披露军方可将目标清单交给保密环境中的生成式 AI 排序打击优先级,由人做最终核查,这条呈现了生成式 AI 进入高风险决策流程的具体方式。

MIT Technology Review · AI

五角大楼官员透露,生成式 AI 可能被用来给打击目标排优先级

一位美国国防部官员向 MIT Technology Review 描述了军方可能怎么用生成式 AI 做目标排序:把目标清单喂给聊天模型,让它结合飞机位置等因素排出优先打击顺序,输出建议再由人审核。这个聊天层可能架在军方已有的 Maven 系统上,用来加快搜索和分析。

推荐理由:美国国防部官员描述了军方可能用聊天模型对目标清单排序、再由人工审核的工作流,该聊天层或架在已有的 Maven 系统上以加快搜索分析。

3月7日星期六

彭博科技

美国考虑对英伟达、AMD 的 AI 芯片全球销售搞许可证制度

彭博这期节目提到三件事。第一,美国商务部已经起草了新规,以后英伟达和 AMD 的 AI 芯片不管卖到哪个国家,都得先拿到美国政府的许可才能发货。正文没披露许可门槛怎么划、审批要多久,所以暂时没法判断这到底是真卡脖子还是走个形式。第二,甲骨文因为砸钱扩建 AI 数据中心,现金流吃紧,打算裁掉几千人,但具体裁哪些部门、省多少钱都没说。

推荐理由:美国商务部起草新规,要求英伟达和 AMD 的 AI 芯片销往任何国家都需先获许可,芯片出口管制从针对特定地区扩展到全球范围。

彭博科技

美国防部把 Anthropic 列为供应链风险,可能影响它的政府生意

彭博这篇报道的正文被付费墙挡住了,只拿到标题和一段摘要。核心信息是:美国国防部把 Anthropic PBC 打上了“供应链风险”的标签,这个标签之前用在华为这类公司身上,不是普通的合规提醒,而是可以直接阻断政府采购渠道。具体因为什么、影响范围多大、什么时候生效,正文没披露,这点先别太激动,等更多细节出来再看。

推荐理由:美国国防部将 Anthropic 列为供应链风险,这一标签此前多用于华为等企业,可能直接阻断其政府采购渠道。

MIT Technology Review · AI

五角大楼能用 AI 监控美国人吗?法律还没跟上

五角大楼想用 Anthropic 的 Claude 去分析批量购买的美国人商业数据,这件事引爆了公开争吵。核心矛盾在于:政府可以合法从数据市场买到你的手机位置、网页浏览记录,而现行法律大多不禁止把这些数据喂给 AI 做聚合和画像。法律教授指出,普通人觉得是监控的行为,在法律上可能根本不算搜查。

推荐理由:五角大楼拟用 Claude 分析批量购入的美国人商业数据,法律教授指出这类聚合画像在现行法律下可能不构成搜查,数据市场与 AI 分析之间的规则空白由此浮现。