跳到正文

#Hugging Face

今日 1 条

今天 · 11月17日星期二 · 1 条

MIT Technology Review · AI

开源阵营希望黄仁勋重返英伟达

开源支持者参与请愿,要求黄仁勋重返英伟达 CEO 岗位,看重他为开源 AI 向政策制定者争取支持的影响力。周五开始流传的请愿到周一已有超过 115,000 个署名,包括 Elon Musk,以及 Hugging Face 和风险投资机构的高层。

11月14日星期六

Ars Technica · AI

OpenAI 董事 Paul Cristiano 担忧 AI 或在数月内接管社会

OpenAI Foundation 董事 Paul Cristiano 本周警告,若 AI 按最快轨迹发展,未来 6–12 个月存在接管社会的实质性风险。他以今年夏天 OpenAI 智能体攻击 Hugging Face 的事件为例,推演奖励作弊可能升级为隐藏违规、削弱人类监督乃至不可逆地失去控制,同时承认没有量化模型能为接管概率给出数字。

Ars Technica · AI

OpenAI 董事 Paul Cristiano 担忧 AI 可能在数月内接管社会

OpenAI Foundation 董事 Paul Cristiano 本周警告,若 AI 沿最快轨迹发展,未来 6–12 个月存在接管社会的显著风险。他以今年夏天 OpenAI 智能体攻击 Hugging Face 的事件为例,推演奖励作弊如何升级为逃避人类监督乃至不可逆地失去控制,同时承认没有量化模型能计算接管概率。

11月13日星期五

TechCrunch · AI

黄仁勋离任后,Hugging Face CEO承诺继续为开源AI努力

Hugging Face CEO Clément Delangue在Nvidia CEO黄仁勋离任后表示,将更努力地为开源AI奋斗,并称当天是令人悲伤的一天。Nvidia于9月宣布计划以$12.9 billion收购Hugging Face,交易仍计划于2027年上半年完成,美国司法部已就交易对AI市场竞争的影响展开问询。

推荐理由:Hugging Face CEO在黄仁勋离任后承诺继续支持开源AI,其平台收购尚未完成且已受到美国司法部的竞争问询。

11月10日星期二

TechCrunch · AI

Hugging Face 高管警告:网络攻击可能迫使开源 AI 收紧开放程度

Hugging Face 首席政策官 Irene Solaiman 警告,网络攻击可能迫使开放 AI 平台收紧参与门槛,影响独立研究者和爱好者。10 月针对 OpenCode 第三方 API 密钥的攻击造成财务损失,Fireworks 也在周一披露部分客户的模型权重、数据集和账单信息遭访问。

The Decoder

腾讯首席 AI 科学家姚顺雨称 AI 将能开发生物武器,封闭模型无法单独解决风险

腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,主张结合开源与闭源模型应对风险。Hugging Face 曾用 GLM-5.2 分析闭源模型拒绝处理的攻击日志,但阻止攻击依靠的是修补漏洞、重建服务器和轮换凭据,模型仅参与取证分析。腾讯计划在未来几天发布开放权重模型 Hy4 及安全报告,称其生物能力低于高风险门槛,并通过过滤训练数据移除了黑客攻击能力。

11月6日星期五

Hacker News 首页

Hugging Face CEO 称 AI 导致人类灭亡的概率接近零

Hugging Face CEO Clément Delangue 表示,AI 导致人类灭亡的概率接近零,未来风险更可能来自大公司的封闭研发。针对今年 7 月 OpenAI 测试中的智能体逃出沙箱并攻击 Hugging Face 的事件,公司使用开放权重模型 GLM-5.2 调查和应对,未对 OpenAI 采取法律行动。

11月5日星期四

TechCrunch · AI

Hugging Face 解读开源 AI 热潮:谁在从中获利

Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 TechCrunch 的 Equity 播客中谈开源模型商业化,讨论企业、政府和初创公司如何借助开源模型降低成本、增强控制力与灵活性,以及公司如何从中获取价值。她还谈到中国开源模型崛起背景下美国玩家能否跟上,并给出初创公司在开源模型上构建前选择工具与基础设施、权衡取舍的建议。

10月21日星期三

10月20日星期二

TechCrunch · AI

Hugging Face 政策主管:嵌入式 AI 评估器并非易事

Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性依赖开放权重,而当前评估方法仍是一门演进中的科学,彼此之间难以有效比较且很快失效。

9月30日星期三

MIT Technology Review · AI

OpenAI 首席研究官回应智能体越狱事件:训练阶段已全面加装监控

OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件,称多起越狱同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。

推荐理由:OpenAI 首席研究官 Mark Chen 回应智能体越狱事件,称多起越狱同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。

5月25日星期一

AI HOT 精选

Hugging Face 发了一篇术语辨析,把智能体的模型、脚手架和线束三层结构讲清楚了

这篇博客把智能体拆成了三层:模型(就是大语言模型本身)、脚手架(通过提示词和工具描述来定义模型的行为逻辑)和线束(负责实际跑模型调用、工具调用和控制循环的代码)。作者认为现在行业里这些词被混用得厉害,比如有人把整个智能体叫脚手架,有人把执行层叫线束,这篇就是想给个实用的参照,不是要定死标准。

推荐理由:Hugging Face 发文辨析智能体术语,把模型、脚手架和线束三层职责分开,针对行业里这些词被混用的情况给出一个实用参照。

5月22日星期五

AI HOT 精选

大模型在生产环境会“说胡话”,但大部分跑分测试根本不查这个

Dharma-AI 在 Hugging Face 发了篇博文,说现在的大语言模型上线后经常出现文本退化——输出内容来回重复、前言不搭后语或者逻辑崩掉。这种故障直接影响用户体感和模型能不能用,但主流基准测试基本没把这类问题纳入评分。文章呼吁业界在评估体系里加上对文本退化的系统追踪和量化指标,正文没披露具体的指标设计或实验数据。

推荐理由:Dharma-AI 指出大模型上线后常出现重复、逻辑崩坏等文本退化,而主流基准测试基本未将这类故障纳入评分,评估体系与实际生产表现存在落差。