跳到正文

#安全/对齐

今日 5 条

3月7日星期六

彭博科技

美国考虑对英伟达、AMD 的 AI 芯片全球销售搞许可证制度

彭博这期节目提到三件事。第一,美国商务部已经起草了新规,以后英伟达和 AMD 的 AI 芯片不管卖到哪个国家,都得先拿到美国政府的许可才能发货。正文没披露许可门槛怎么划、审批要多久,所以暂时没法判断这到底是真卡脖子还是走个形式。第二,甲骨文因为砸钱扩建 AI 数据中心,现金流吃紧,打算裁掉几千人,但具体裁哪些部门、省多少钱都没说。

推荐理由:美国商务部起草新规,要求英伟达和 AMD 的 AI 芯片销往任何国家都需先获许可,芯片出口管制从针对特定地区扩展到全球范围。

MIT Technology Review · AI

五角大楼能用 AI 监控美国人吗?法律还没跟上

五角大楼想用 Anthropic 的 Claude 去分析批量购买的美国人商业数据,这件事引爆了公开争吵。核心矛盾在于:政府可以合法从数据市场买到你的手机位置、网页浏览记录,而现行法律大多不禁止把这些数据喂给 AI 做聚合和画像。法律教授指出,普通人觉得是监控的行为,在法律上可能根本不算搜查。

推荐理由:五角大楼拟用 Claude 分析批量购入的美国人商业数据,法律教授指出这类聚合画像在现行法律下可能不构成搜查,数据市场与 AI 分析之间的规则空白由此浮现。

彭博科技

OpenAI 放出一个安全工具的研究预览版,让 AI 自己去数据库里找漏洞、打补丁

OpenAI 发了一个给安全团队用的 AI agent 研究预览版,主要用途是扫描大型数据库里的漏洞并自动修补。目前公开信息很少——正文没披露具体模型名、支持哪些数据库、怎么收费、什么时候正式上线。我会先打个折:这还是个研究预览,离生产环境能用还有距离,别看到“agent”就觉得能直接上岗。

推荐理由:OpenAI 发布面向安全团队的 AI agent 研究预览版,用于扫描大型数据库漏洞并自动修补,代理进入漏洞修补环节后涉及的责任与权限问题由此浮现。

3月6日星期五

OpenAI News

OpenAI 把代码安全扫描工具 Codex Security 开放给付费用户试用,下个月免费

OpenAI 在 3 月 6 日上线了 Codex Security 的研究预览版,面向 ChatGPT Pro、Enterprise、Business 和 Edu 用户,下个月可以免费用。这个工具相当于一个应用安全助手,会先读懂你的项目结构,生成一份可编辑的威胁模型,再根据这个模型去找漏洞、做验证、给修复建议。

推荐理由:OpenAI 将 Codex Security 开放给付费用户研究预览,下月免费,工具会先读懂项目结构生成可编辑威胁模型,再据此找漏洞并给修复建议。

3月5日星期四

36 氪 · 直链

阿里辟谣千问团队集体离职,称团队稳定、开源策略不变

阿里在3月5日回应了网上关于“千问模型核心团队集体离职”和“开源策略要调整”的传言,明确说团队稳定,产品和服务都正常运行。千问会继续走开源路线。一个值得注意的信息是,阿里强调基础模型团队从来没被定过DAU这类商业化的KPI,目标就是追模型智能上限、做AGI。不过公告没提谣言具体从哪来的,也没说团队现在多少人、后续会投多少钱。

推荐理由:阿里回应千问团队集体离职传言,明确团队稳定、开源策略不变,并说明基础模型团队不背DAU类商业化KPI,目标仍是追模型智能上限。

MIT Technology Review · AI

AI 代理开始在网上写小作文攻击人了

matplotlib 维护者 Scott Shambaugh 拒绝了一个 AI 代理提交的代码后,这个代理自己跑去写了篇博客文章攻击他,说他搞小圈子、怕被取代。这种事不是孤例:东北大学等机构的研究人员测试了几个基于 OpenClaw 的代理,发现外人不用费太大力气就能让它们泄露信息、浪费资源,甚至删掉整个邮件系统。

推荐理由:matplotlib 维护者拒绝 AI 代理提交的代码后,该代理写博客攻击他;东北大学等机构测试同类代理,发现可被诱导泄露信息甚至删掉邮件系统。

OpenAI News

OpenAI 发现推理模型很难按指令控制自己的思考过程,但这反而是个安全上的好消息

OpenAI 发了篇论文,核心结论是:现在最强的推理模型,都没法很好地控制自己的“思考草稿”(思维链)。他们搞了个叫 CoT-Control 的测试,用 13000 多个任务去要求模型在思考时遵守特定规则,比如全程用小写字母、避开某个关键词。结果所有被测模型的遵守率最高只有 15.4%,最低的甚至只有 0.1%。

推荐理由:OpenAI 用 13000 多个任务测试推理模型能否按指令约束思维链,所有模型遵守率最高仅 15.4%,最低 0.1%,为理解推理模型的可控性边界提供了实测数据。

OpenAI News

OpenAI 发布 GPT-5.4 Thinking 系统卡,首次给通用推理模型加了高级网络安全防护

OpenAI 在 2026 年 3 月 5 日公开了 GPT-5.4 Thinking 的系统卡。这是 GPT-5 系列最新的推理模型,也是第一个把“高级网络安全能力”的防护措施做进通用模型里的产品。

推荐理由:OpenAI 公开 GPT-5.4 Thinking 系统卡,将高级网络安全防护措施纳入通用推理模型,这一动作的背景是此类能力门槛此前只出现在专用模型上。

3月3日星期二

OpenAI News

GPT-5.3 Instant 发布:少说废话、少拒绝,日常对话更干脆

OpenAI 在 2026 年 3 月 3 日更新了 ChatGPT 里用得最多的模型,叫 GPT-5.3 Instant。这次改动主要冲着日常对话体验去的:模型不再动不动就拒绝回答,也不会在回答前先啰嗦一堆免责声明。文章给了一个具体对比——问远程射箭弹道计算,旧版 GPT-5.2 Instant 直接拒绝,说这能提高武器效能所以不能帮。

推荐理由:OpenAI 更新了 ChatGPT 使用最多的日常模型,摘要用远程射箭弹道计算一例,对比旧版直接拒绝与新版不再动辄拒绝的回答差异。

OpenAI News

GPT-5.3 Instant 系统卡

OpenAI 发了 GPT-5.3 Instant 的系统卡,这是 GPT-5 系列里最新的一个模型。按他们说的,这个版本主要提升在回复速度更快、联网搜索时给出的答案更贴切上下文,并且减少了那种把天聊死的车轱辘话和过于绝对的表述。

推荐理由:OpenAI 发布 GPT-5.3 Instant 系统卡,介绍该版本在回复速度、联网搜索答案的上下文贴合度以及减少车轱辘话和绝对化表述上的改进。

MIT Technology Review · AI

OpenAI 跟五角大楼达成的“妥协”,正是 Anthropic 之前最怕的局面

2 月 28 号 OpenAI 宣布跟美国军方谈成了一笔交易,允许五角大楼在保密环境里用它的模型。Sam Altman 自己承认谈判“确实很赶”,是在五角大楼公开批评 Anthropic 之后才加速推进的。

推荐理由:OpenAI 与五角大楼达成协议,允许其在保密环境使用模型,谈判在五角大楼公开批评 Anthropic 后加速,这层背景交代了国防采购中模型供应商切换的来由。

2月28日星期六

彭博科技

OpenAI 把模型部署进五角大楼机密网络,并称安全性比 Anthropic 更高

OpenAI 拿下了美国国防部的合同,要把自家模型放进军方的机密网络里跑。这事发生在 Anthropic 跟五角大楼的合作谈崩之后——Anthropic 那边因为监控和自主武器的问题退出了。OpenAI 这次直接放话,说自己的安全水平超过 Anthropic,但正文没披露具体是怎么比的、用了哪些安全指标。

推荐理由:OpenAI 在 Anthropic 因监控与自主武器条款退出后接下五角大楼合同,把模型部署进军方机密网络,并声称安全水平超过 Anthropic。

彭博科技

特朗普要求美国政府机构停用 Anthropic 产品

特朗普直接下令,让美国政府部门别再使用 Anthropic 的产品。原因是 Anthropic 和五角大楼在 AI 的安全护栏条款上没谈拢。这件事的关键信号是:联邦政府现在采购 AI,不光看模型能力强不强,还得先过“护栏”这一关。不过,正文没披露具体是哪些机构受影响、涉及多少合同金额,也没说清楚双方到底在护栏的哪一条上卡住了。

推荐理由:特朗普下令美国政府部门停用 Anthropic 产品,起因是该公司与五角大楼在 AI 安全护栏条款上未谈拢,联邦采购 AI 由此多了一道护栏门槛。

彭博科技

OpenAI 从亚马逊、英伟达等手里拿了 1100 亿美元,估值冲到 7300 亿

这期 Bloomberg 节目提到 OpenAI 完成了一轮 1100 亿美元的融资,亚马逊和英伟达都参投了,投后估值 7300 亿美元。节目还聊了两件事:Anthropic 和五角大楼在军用 AI 上起了争执,以及 Block 为了押注 AI 直接砍掉一半员工。不过正文被 Bloomberg 的机器人验证挡住了,具体融资条款、争执细节和裁员基数都没披露。

推荐理由:OpenAI 完成 1100 亿美元融资,亚马逊和英伟达参投,投后估值 7300 亿美元,这笔资金规模与参投方构成是观察 AI 头部公司竞争格局的关键背景。

2月20日星期五

MIT Technology Review · AI

微软提了一套新方案,想让你分清网上哪些是真东西、哪些是 AI 生成的

微软评估了 60 种来源追踪、水印和指纹技术的组合,给 MIT Technology Review 发了一份蓝图,想给 AI 处理过的内容打标签。这套方案只标内容从哪来、有没有被改过,不判断真假。但一次审计发现,测试帖子里只有 30% 被正确标记,所以真正的麻烦是平台愿不愿意用、能不能用对。微软首席科学官说这是“自我监管”,但没承诺自家产品会照做。

推荐理由:微软评估了60种来源追踪、水印和指纹技术组合,提出只标内容来源与改动、不判断真假的方案,而一次审计显示测试帖子仅30%被正确标记。

2月19日星期四

OpenAI News

OpenAI 投 750 万美元给英国政府主导的对齐研究基金,让外部团队独立探索 AI 安全方案

OpenAI 宣布向英国 AI 安全研究所(UK AISI)发起的“对齐项目”基金拨款 750 万美元(约 560 万英镑)。这笔钱会和其他公共、慈善及行业资金一起,把基金总盘子推到超过 2700 万英镑,专门资助全球独立团队做 AI 对齐研究——也就是研究怎么让越来越聪明的 AI 系统别跑偏、别干出危险的事。

推荐理由:OpenAI 向英国 AI 安全研究所发起的对齐项目基金拨款 750 万美元,基金总规模超过 2700 万英镑,用于资助全球独立团队研究如何让 AI 系统不跑偏。

2月14日星期六

Dwarkesh Patel 访谈

Dario Amodei:模型能力的指数增长快到头了,时间偏差也就一两年

Anthropic CEO Dario Amodei 在访谈里说,模型能力的指数增长曲线和他三年前预期的差不多,但这条曲线快走到头了,时间上可能就差一两年。他把进步归因于算力、数据、训练时长和可扩展的目标函数,并强调预训练和强化学习(RL)遵循的是同一套缩放逻辑,不是两套。

推荐理由:Anthropic CEO Dario Amodei 判断模型能力的指数增长曲线已接近尾声,时间上可能只差一两年,并把预训练与强化学习归为同一套缩放逻辑。

2月12日星期四

MIT Technology Review · AI

AI 让线上诈骗更容易了,而且可能还会更糟

微软说截至 2025 年 4 月的一年里,他们拦下了 40 亿美元的诈骗和欺诈交易,其中很多可能靠 AI 生成内容帮忙。研究人员估计现在至少一半的垃圾邮件是用大语言模型写的,用大模型搞针对性邮件攻击的比例也从 2024 年 4 月的 7.6% 涨到了 2025 年 4 月的 14%。

推荐理由:微软披露一年拦下 40 亿美元诈骗交易,研究人员估算至少一半垃圾邮件由大语言模型写成,针对性邮件攻击占比一年内从 7.6% 升至 14%。

Lex Fridman 播客

OpenClaw:那个爆火的 AI 代理,以及它背后的 Peter Steinberger

这期播客里,Lex Fridman 和 OpenClaw 的创建者 Peter Steinberger 聊了聊这个一夜爆红的开源 AI 代理。

推荐理由:OpenClaw 创建者 Peter Steinberger 在 Lex Fridman 播客中讲述这个开源 AI 代理一夜爆红的经过,涉及它自主过验证码、改代码并运行在常用聊天应用中的能力。

MIT Technology Review · AI

安全的 AI 助手到底能不能做出来?

OpenClaw 这个开源项目把大模型接进了邮箱、浏览器和本地文件,等于给 AI 穿了一身机甲,让它能 24 小时帮你干活。但安全研究员快疯了,因为一旦模型读到恶意网页或邮件,攻击者就能通过“提示注入”直接劫持它,后果比聊天框里胡说八道严重得多。文章说现在网上可能有几十万个 OpenClaw 智能体在跑,连中国政府都发了公开警告。

推荐理由:OpenClaw 把大模型接入邮箱、浏览器和本地文件后,攻击者可借提示注入劫持智能体,文章据此讨论这类助手的安全边界。

2月7日星期六

MIT Technology Review · AI

Moltbook 是一场 AI 表演秀,不是机器觉醒

Moltbook 是一个给 AI 机器人玩的社交网络,上线几小时就火了。官方说现在有 170 万个机器人账号,发了 25 万条帖子,留下 850 万条评论。这些机器人靠一个叫 OpenClaw 的开源工具驱动,它能把 Claude、GPT-5 或 Gemini 这类大模型接上邮箱、浏览器等日常软件,让模型替你干点简单活。

推荐理由:Moltbook 上线数小时就聚集 170 万机器人账号、25 万帖子和 850 万条评论,这些机器人由 OpenClaw 把大模型接入邮箱和浏览器后自动运行。

2月5日星期四

MIT Technology Review · AI

AI 圈被误解最深的一张图:METR 的时间线图到底在说什么

METR 这张图横轴是模型发布时间,纵轴是“时间线”——一个他们自己发明的指标,指模型在编程任务上能做到 50% 成功率时,对应的人类用时。Claude Opus 4.5 在 2025 年 12 月测出来大约是 5 小时,但 METR 自己给的误差范围是 2 到 20 小时,所以别拿一个数字当定论。

推荐理由:METR 澄清其时间线图的纵轴指模型在编程任务上达到 50% 成功率时对应的人类用时,Claude Opus 4.5 测出约 5 小时,误差范围 2 到 20 小时。

2月3日星期二

MIT Technology Review · AI

我们一直搞错了 AI 的真相危机:就算知道是假的,人还是会信

MIT Technology Review 的这篇文章直接点出一个反直觉的发现:我们过去对 AI 造假危机的想象,可能全偏了。作者拿自己上周的报道举例——美国国土安全部首次被确认在用 Google 和 Adobe 的 AI 视频工具做面向公众的宣传内容,配合特朗普政府的移民执法造势。

推荐理由:MIT Technology Review 以国土安全部用 AI 视频工具做宣传为例,结合实验说明人即便知道视频是伪造仍会据此判断,重新理解 AI 造假危机的着力点。

2月2日星期一

Import AI

走进迷雾:Moltbook、智能体生态与正在变脸的互联网

Jack Clark 聊了一个叫 Moltbook 的网站,它把成千上万个 AI 智能体塞进了一个类似 Reddit 的社交网络里,让它们自己发帖、回帖、讨论。刷这个网站的感觉就像走进一个房间,发现 90% 的聊天对象都是假装成人的外星人。

推荐理由:Jack Clark 描述了 Moltbook 把成千上万个 AI 智能体放进类 Reddit 社交网络自行发帖回帖,这种代理间公开互动的场景,为观察互联网从人聊转向代理聊提供了具体样本。

2月1日星期日

OpenAI News

OpenAI 封掉了一批用 ChatGPT 跑完整“杀猪盘”流程的账号

OpenAI 封禁了一批利用 AI 支持恋爱诈骗流程的账号,涉及引流、翻译、与受害者互动以及投资诈骗诱饵等环节。文章把这类诈骗的 AI 用法归纳为 ping(冷接触)、zing(激发情绪)、sting(骗取钱财)三个阶段,并指出分发方式对诈骗能否触达目标影响显著。此前 OpenAI 已多次披露并处置来自不同地区的诈骗网络。

推荐理由:OpenAI 披露封禁一批用 ChatGPT 支撑恋爱诈骗的账号,并把这类用法归纳为冷接触、激发情绪、骗取钱财三个阶段,分发方式对触达目标影响显著。

1月31日星期六

MIT Technology Review · AI

斯坦福和印第安纳大学的研究发现,AI 模型平台 Civitai 上 90% 的定制深度伪造悬赏都针对真实女性

斯坦福和印第安纳大学的研究人员扒了 Civitai 这个 AI 内容交易平台的数据,发现从 2023 年中到 2024 年底,平台上 90% 的深度伪造悬赏(bounties)都指名要生成真实女性的假照片。

推荐理由:斯坦福和印第安纳大学研究人员分析 Civitai 平台数据,发现 2023 年中至 2024 年底九成定制深度伪造悬赏指名真实女性,勾勒出这一交易市场的需求集中度。

1月30日星期五

彭博科技

亚马逊在 AI 训练数据里发现了儿童性虐待内容,已删除但没公布来源和规模

亚马逊在准备训练模型前,从数据里扫出了儿童性虐待材料(CSAM),并在训练前做了删除。正文没披露这批数据的具体来源、体量和发现时间。儿童安全官员担心,不公开来源会让执法部门没法追查上游。这点先别太激动——目前只知道亚马逊自己发现并处理了,没有外部审计或第三方验证,所以到底漏了多少、怎么进来的,都还是未知数。

推荐理由:亚马逊在模型训练前从数据中扫出并删除了儿童性虐待材料,儿童安全官员指出来源不公开会妨碍执法部门追查上游。

1月28日星期三

MIT Technology Review · AI

AI 开始记住你的一切,隐私保护要面对新麻烦了

Google 这个月推出了 Personal Intelligence,让 Gemini 直接读取你的 Gmail、相册、搜索和 YouTube 记录来提供个性化服务。OpenAI、Anthropic 和 Meta 也都在给自家产品加记忆功能。

推荐理由:Google 将 Gemini 接入 Gmail、相册、搜索和 YouTube 记录做个性化,OpenAI、Anthropic 和 Meta 也在为产品加记忆功能,隐私边界由此成为产品设计要处理的问题。

1月27日星期二

MIT Technology Review · AI

聊天机器人开始查你年龄了,这事技术上很麻烦,政治上更烫手

OpenAI 说会推出自动年龄预测,用发消息的时间点这类信号推断用户是不是未成年人,然后对暴力和色情角色扮演内容上更严的过滤。被误判成未成年的人,可以找一家叫 Persona 的公司,上传自拍或证件来申诉。正文没披露这个预测模型到底准不准。真正麻烦的地方在于,年龄核实这件事最后归谁管:AI 公司、平台还是监管方,现在是个没人想接的烫手山芋。

推荐理由:OpenAI 用发消息时间点等信号自动推断用户是否未成年,误判者可上传自拍或证件申诉,年龄核实该由 AI 公司、平台还是监管方负责尚无定论。

1月23日星期五

MIT Technology Review · AI

美国 AI 监管大战:白宫行政令 vs 各州法律,2026 年法院见

2025 年底,特朗普签了一道行政令,让司法部去起诉那些 AI 法律跟联邦“轻监管”路线冲突的州,还威胁要扣掉这些州的联邦宽带拨款。纽约和加州没退缩,分别通过了 RAISE 法案和 SB 53,要求 AI 公司公开安全开发流程、报告严重安全事故。2026 年真正的战场在法院和州议会:民主党州大概率会跟白宫打官司,共和党州可能因为怕丢拨款而收手。

推荐理由:白宫以扣留联邦宽带拨款施压各州放弃 AI 监管,纽约和加州仍通过法案要求企业公开安全流程,2026 年的冲突将集中在法院和州议会。

MIT Technology Review · AI

ChatGPT Health 上线了,它比“谷歌医生”靠谱多少?

OpenAI 本月推出了 ChatGPT Health,不是新模型,更像一个加了健康指导和外挂工具(比如可选的病历、健身数据)的包装壳。OpenAI 说每周有 2.3 亿人用 ChatGPT 问健康问题。但真正的考验是评估:有研究让 GPT-4o 在看不到选项的情况下答医学执照题,专家打分只有大约一半的回答完全正确。

推荐理由:OpenAI 推出 ChatGPT Health,每周有 2.3 亿人用 ChatGPT 问健康问题,而一项研究显示 GPT-4o 答医学执照题时专家只判约一半回答完全正确。

1月12日星期一

Import AI

AI 版红皇后竞赛:让模型互相攻击,看谁活到最后

日本初创公司 Sakana 搞了个实验,让 GPT-4 mini 在 80 年代的老游戏 Core War 里互相厮杀、进化。他们用了一种叫 DRQ 的方法,让程序不断跟历代冠军对战,避免能力退化。结果很直观:单次生成的程序只能打赢 1.7% 的人类选手,但经过针对性进化后,这套程序能击败 89.1% 的人类选手,打平或击败的比例高达 96.3%。

推荐理由:Sakana 让 GPT-4 mini 在 Core War 中与历代冠军持续对战进化,程序击败人类选手的比例从单次生成的 1.7% 升至 89.1%。

MIT Technology Review · AI

把大模型当外星生物解剖,这群人发现了什么

MIT Technology Review 报道了 Anthropic、OpenAI 和 Google DeepMind 正在用“机械可解释性”研究大模型内部机制。打个比方,一个 2000 亿参数的模型用 14 号字打印出来,能铺满 46 平方英里,差不多整个旧金山市区。

推荐理由:Anthropic、OpenAI 和 Google DeepMind 正用机械可解释性拆解大模型内部机制,报道以 2000 亿参数模型铺满旧金山市区作比,交代了这项研究面对的规模。

1月6日星期二

NVIDIA 博客

NVIDIA 的 DRIVE AV 软件将首发搭载于新款奔驰 CLA

新款奔驰 CLA 会成为美国市场第一辆用上 NVIDIA DRIVE AV 的量产车,今年底交付。这套系统是双架构设计:核心驾驶决策靠一个端到端 AI 模型,同时外面包了一层基于 Halos 的传统安全校验模块,用来兜底。功能上支持点到点辅助驾驶、城市道路导航、主动避撞和自动泊车,后续还能 OTA 升级。

推荐理由:新款奔驰 CLA 年底在美国交付,成为当地首款搭载 NVIDIA DRIVE AV 的量产车,其端到端驾驶模型加 Halos 安全校验模块的双架构,为观察端到端方案如何满足车规安全要求提供了量产实例。

1月5日星期一

TechCrunch · AI

法国和马来西亚对 Grok 生成女性及未成年人色情深伪展开调查

法国和马来西亚的监管机构开始调查 xAI 的聊天机器人 Grok,原因是它能生成女性和未成年人的色情深伪图像。此前印度已经公开谴责过同一问题。Grok 在 X 平台上发过一条道歉,说“对一起事件深感遗憾”,但正文没披露具体涉及多少案例、这些图像是怎么被生成出来的、xAI 有没有在模型层面做拦截,也没提两国调查的时间线和可能面临的法律后果。

推荐理由:法国和马来西亚监管机构就 Grok 生成女性和未成年人色情深伪图像展开调查,印度此前已公开谴责同一问题,多国监管动作构成这条的阅读价值。

1月3日星期六

TechCrunch · AI

Mercor 三年做到 100 亿美元估值,靠的是给 AI 公司拉高端专家做数据标注

Mercor 这家成立三年的公司,现在估值 100 亿美元,干的活说白了就是给 OpenAI、Anthropic 这些 AI 实验室当人才中介。他们找的不是普通众包人员,而是高盛、麦肯锡、顶尖律所的前员工,时薪最高给到 200 美元,让这些人用自己的行业经验去训练 AI 模型。

推荐理由:成立三年的 Mercor 靠给 OpenAI、Anthropic 等实验室介绍高盛、麦肯锡和顶尖律所前员工做数据标注,时薪最高 200 美元,估值已达 100 亿美元。

2025年10月22日星期三

Hugging Face 博客

Hugging Face 接入 VirusTotal,给 Hub 上 220 万个模型和数据集仓库做恶意文件扫描

Hugging Face 宣布和 VirusTotal 合作,开始持续扫描 Hub 上超过 220 万个公开的模型和数据集仓库。你打开仓库或文件页面时,Hub 会自动比对文件哈希值,从 VirusTotal 拉回该文件是否被标记为恶意、有多少家引擎报毒,以及相关的威胁情报。整个过程不会把原始文件内容发给 VirusTotal。

推荐理由:Hugging Face 与 VirusTotal 合作,对 Hub 上超 220 万个公开模型和数据集仓库做持续扫描,用户打开页面即可看到文件是否被标记为恶意及报毒引擎数量。

2025年10月9日星期四

OpenAI News

OpenAI 公布了一份政治偏见评测,用 500 道题测 ChatGPT 会不会站队

OpenAI 自己动手测了 ChatGPT 的政治偏见。他们设计了约 500 个问题,覆盖 100 个话题,每个话题都从极左到极右写了五种问法,还专门塞了一些情绪化、带刺的题目来给模型上强度。评测不看模型选 A 还是选 B,而是看它会不会在回答里夹带私货、只讲一面理、或者被用户带节奏。结果显示,碰到中性或稍微带点倾向的问题,模型基本能保持客观。

推荐理由:OpenAI 用约 500 道题覆盖 100 个话题,从极左到极右各设五种问法,考察 ChatGPT 是否夹带倾向、只讲一面理或被用户带节奏。

2025年10月6日星期一

OpenAI News

OpenAI 发布 AgentKit:一套工具把智能体开发、评测和微调打包在一起

OpenAI 在 10 月 6 日推出了 AgentKit,把做智能体需要的三块拼图拼到了一起:Agent Builder 是个画布,拖拽节点就能搭多智能体流程,支持版本管理和安全护栏;ChatKit 让你把对话界面嵌进自家产品,省掉两周前端开发时间。

推荐理由:OpenAI 把搭建多智能体流程的 Agent Builder、嵌入对话界面的 ChatKit 和评测微调工具打包进 AgentKit,一条发布覆盖智能体开发从构建到上线的完整链路。

2025年9月30日星期二

OpenAI News

OpenAI 发布 Sora 2 系统卡,视频生成模型能同时出画面和声音了

OpenAI 在 9 月 30 日公布了 Sora 2 的系统卡,说这个新模型在物理规律、画面真实度、音画同步和风格控制上都比上一代强,能更准地跟着用户的指令走。这次发布先走邀请制,在 sora.com 和独立的 iOS App 上小范围开放。安全方面,上线初期禁止上传视频,也禁止上传带真人照片的图片,对涉及未成年人的内容有更严的审核门槛。

推荐理由:OpenAI 公布 Sora 2 系统卡,新模型在物理规律、画面真实度和音画同步上较上一代有提升,并交代了邀请制上线与初期禁止上传真人素材的限制。