跳到正文

#数据/训练

今日 1 条

今天 · 11月17日星期二 · 1 条

昨天 · 11月16日星期一

MIT Technology Review · AI

SAP 高管谈如何构建跨企业运行的 AI

SAP Business AI Platform Ecosystem 全球负责人 Thorsten Leiduck 提出,企业应把 AI 当作统一平台而非孤立项目,前提是打通语义丰富的数据底座。Infosys 的 Satinder Pal Singh 建议用影响力、可行性、可扩展性三个维度筛选 AI 智能体用例,并强调缺乏治理不会加速采用,只会积累风险。

11月15日星期日

Computing Life · Share · 鸭哥调研

为什么造出大模型的研究者纷纷离开大厂创业

大模型研究者离开大厂创业,被文中解读为对持续学习、物理交互和前沿科学数据短板的回应。文中汇总的 45 家公司已确认融资合计 538 亿美元,其中 8 家未发布公开模型、接口或论文的公司拿走近 300 亿美元,约占 56%。文章提出,独家物理与生化实验数据、快速且低成本的自动验证机制,是创业团队抵御大厂竞争的两类筹码,并判断算力成本可能推动部分团队最终并入巨头。

11月14日星期六

The Decoder

前研究员 Coxon 称 Anthropic 已能用原先一小部分算力重新训练 Mythos

前 OpenAI 和 Anthropic 研究员 Jacob Coxon 称,Anthropic 已能用原先所需算力的一小部分重新训练 Mythos。其依据是 Anthropic IPO 路演中的代码预训练算力乘数图表,他将曲线解读为算法效率呈超指数增长;Anthropic 注明数据来自内部估算,仅供示意。Coxon 称算法改进接近自动化,并主张明年暂停前沿模型开发,让竞争者追赶。

Dwarkesh Patel 播客

Dwarkesh Patel:数学领域的雪崩式进展将蔓延至 AI 研发

Dwarkesh Patel 预测 AI 将迅速逼近顶尖人类研究员水平,并以 2028 作为实现 AI 研发自动化的中位年份判断。他以数学能力进展及预训练、后训练、推理效率的可验证指标支撑这一预测,同时给出 25% 的概率认为该节点会推迟至 2032 之后。他对持续自我加速的软件奇点与受算力限制的短期加速各赋予 50% 概率,后者预计将把 3–6 年的 AI 进展压缩到 1 年内。

11月13日星期五

Hacker News 首页

自托管网站被 LLM 爬虫压垮:一位博主的摄影站困境

一位自托管博主因 LLM 爬虫流量饱和上传带宽,在 nftables 中封禁 Meta、Azure、Alibaba 等云厂商的 /16 IP 段后仍难以为继,正考虑撤下摄影网站、改为按活动售卖实体 zine,不再上传数字图片。他称大型云服务器毫无理由访问个人站点,并认为如今普通技术爱好者已难以独自承担网站防护所需的知识与技能。

11月10日星期二

The Verge · AI

与 RIAA 掌门人 Mitch Glazier 的愉快对谈:AI 音乐版权与标注如何平衡

RIAA 董事长兼 CEO Mitch Glazier 在 Nilay Patel 的访谈中讨论 AI 音乐训练授权、深度伪造治理与生成内容标注。Glazier 表示,对 Suno 的诉讼旨在确立未经同意或补偿不得复制音乐的权利边界,NO FAKES Act 则尝试在声音和肖像保护、下架机制与表达自由之间取得平衡。

The Decoder

腾讯首席 AI 科学家姚顺雨称 AI 将能开发生物武器,封闭模型无法单独解决风险

腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,主张结合开源与闭源模型应对风险。Hugging Face 曾用 GLM-5.2 分析闭源模型拒绝处理的攻击日志,但阻止攻击依靠的是修补漏洞、重建服务器和轮换凭据,模型仅参与取证分析。腾讯计划在未来几天发布开放权重模型 Hy4 及安全报告,称其生物能力低于高风险门槛,并通过过滤训练数据移除了黑客攻击能力。

11月9日星期一

MIT Technology Review · AI

特种化学品公司 Lubrizol 如何用 AI 加速研发创新

特种化学品制造商 Lubrizol 正构建连接业务流程、现代数据平台与云基础设施的数字底座,支持研发团队更快验证想法。其 IT 副总裁 Girish Rao 强调 AI 不替代科学判断,而是给科学家更好的工具,并通过科学家、数据科学家与 IT 组成的“fusion teams”从小型试点建立信任。数字建模可帮助评估更多配方、探索淀粉和玉米基等替代材料,并权衡产品全生命周期的取舍。

11月8日星期日

The Decoder

Richard Sutton 谈 LLM 扩展局限,澄清“苦涩的教训”并非只靠算力

Richard Sutton 表示,仅靠原始算力不足以实现智能,AI 科学仍需要巧妙的新方法,远未完成。他主张让具备世界模型的 AI 智能体从自身经验中持续学习,并避免破坏已有知识;Jerry Tworek 和 Jayden Teoh 则批评将“苦涩的教训”解读为盲目扩展 Transformer 或排斥新研究思路。

11月7日星期六

Hacker News 首页

AI 正在大幅加速 AI 研究:解读 Anthropic 研发加速报告

METR 的公开报告估计,Anthropic 在 2025 年 10 月至 2026 年 10 月的能力进展速度约为此前十二个月的两倍,当前加速主要归因于 AI 自动化。

推荐理由:文章将 Anthropic 的能力进展拆解为训练算力、算法改进与研究劳动,解释整体进展加速为何可能对应更高的劳动效率增幅。

11月6日星期五

Latent Space

控制生物学:专访 Helmholtz Munich 的 Fabian Theis

Helmholtz Munich 的 Fabian Theis 认为,现有数据集下的扰动预测并不足以支撑复杂算法,应转向利用大规模、高精度、多尺度配准生物数据预测分子→细胞→组织→器官→生物体的演化。

Hacker News 首页

Chomsky 与统计学习的两种文化(2011)

2011 年 MIT 150 周年 Brains, Minds, and Machines 研讨会上,Noam Chomsky 批评纯统计方法只拟合未分析的数据、不追求理解行为含义,并以“近似未分析数据”定义成功。该文回应 Chomsky 与 Steven Pinker 的争论,逐条分析其观点,指出工程成功可作为科学模型的证据,且概率模型是刻画语言这类随机现象的最佳工具。

Hacker News 首页

科幻故事对 AI 的预测有多准确?James Yu 比较训练、能力与部署描写

James Yu 从训练方式、能力和部署三个维度比较科幻作品对 AI 发展的预测,将 Ted Chiang 的《软件体的生命周期》列为整体最贴近现实的作品。该作突出教学、维护和商业化的工作,Her 与《完美匹配》则在日常消费助手的描写上表现突出。他未找到 2017 年之前清晰描述 Transformer 架构注意力机制,或描绘从普及聊天机器人到智能体在几年内发现新数学成果这一发展顺序的作品。

11月4日星期三

MIT Technology Review · AI

用数据血缘保障智能体企业安全

随着企业将智能体 AI 引入日常工作流,AI 安全的核心已从工具问题转为数据可见性问题。智能体持续摄取、复制、摘要、转换和再分发碎片化数据,仅围绕应用、系统、网络或端点的传统安全手段已不够。企业需要建立数据血缘,才能在人类、智能体及混合工作流中实现治理、问责与信任。

Hacker News 首页

Gemini 个人付费账户的聊天记录也可用于模型训练

Gemini 个人 Google AI 订阅用户开启 Keep Activity 时,保存的聊天记录也可用于训练生成式 AI 模型。帖子引用 Google 帮助文档指出,部分对话会由人工审核,审核记录即使在用户删除活动后仍可保留最长 3 年,并提醒不要输入机密信息。

Hacker News 首页

David Hall 分析为何后训练尚无公共数据资源库

David Hall 指出,后训练缺乏类似预训练互联网语料的公共数据资源库,需要主动将人类活动转化为可重复执行的 RL 任务。任务必须具备环境、意图、工具和评分器,原始 SWE-bench 从超过 90,000 个 PR 中最终构建出 2,294 个任务,体现了重建环境与验证任务的难度。

11月3日星期二

Hacker News 首页

为何称 Astra 读写权重改进 Qwen 的文章具有误导性

Astra 读写权重改进 Qwen 的文章被批评混淆了不同实验条件,使人误以为模型仅查看原始权重就能完成改进。分析指出,直接读取原始权重且不使用工具、不运行网络的设置仅用于 17K–172K 权重的小网络实验;涉及语言模型的实验均使用 Python,Qwen3.5-0.8B 实验还允许运行最多 50 批练习题。

Latent Space

Legora CTO Jacob Lauritzen 访谈:如何为律师构建 AI 智能体

Legora CTO Jacob Lauritzen 分享了法律 AI 智能体的构建经验,重点涉及客户数据保密条件下的评测、模型选择与产品架构。评测团队由3名工程师和3名律师组成,通过包含10,000份文件的模拟资料室测试尽职调查,并将生产问题归入10到20种已知失败模式。

11月2日星期一

Hacker News 首页

充斥错误的 AI 游戏粉丝维基正在搅乱游戏文化

生成式 AI 游戏维基以错误内容争夺搜索流量,误导玩家并损害志愿者维护的社区维基声誉。Eurogamer 调查发现,Nighthawks 非官方维基列出不存在的同伴与技能,GameDB 创建者承认用生成式 AI 制作涵盖超过 20 款游戏的网站集合。

11月1日星期日

Hacker News 首页

AI 文本水印如何影响生成质量与回答多样性

AI 文本水印可能降低多次生成的回答多样性,文章据此质疑 Anthropic 关于水印不影响 Claude 输出质量的说法。Google 的 SynthID-Text 论文补充材料指出,单条回答的无失真保证不一定保留多次回答的多样性,同一提示词下的水印回答会更相似。

10月31日星期六

OpenAI News

OpenAI 主张合理使用惠及所有人,汇集支持 AI 训练的法庭意见

OpenAI 针对《纽约时报》的诉讼汇集多方提交法院的意见,主张合理使用原则适用于 AI 训练并惠及公众。所引意见认为,训练的目的不同于原作品用途,非侵权输出带来的市场竞争不应被认定为版权法保护范围内的市场损害。作者组织、图书馆组织、法律学者及美国政府等提交的意见还强调,限制合理使用可能影响科研、无障碍服务和独立创作者使用 AI 工具。

10月29日星期四

The Verge · AI

Anthropic 商业计划分析:打造机器之神,或在尝试中倒下

Anthropic 的 S-1 显示,公司依赖收入高速增长来承担长期算力承诺,文章据此分析其加速模型研发的商业与安全压力。2026 年上半年收入同比增长 14 倍至 $16.3 billion;作者汇总的未来 20 年承诺最低约为 $850 billion,计入未完成交易后约达 $1 trillion。

推荐理由:Anthropic 在 S-1 中披露长期算力与基础设施承诺,使持续增长和加速模型研发成为履约压力下的商业要求。

Hacker News 首页

Benjamin Skuse 用 AI 伪造科学论文,测试 IEEE Access 能否识别

Benjamin Skuse 经 IEEE Access 同意,分别用免费大语言模型和自动化科研系统 FARS 生成论文,两轮测试均未通过期刊检查。第一轮论文由 ChatGPT 和 Gemini 生成,STM Integrity Hub 检出 12 条虚构引用,MolecularConnections 无法验证其中 24 条引用。

10月27日星期二

Hacker News 首页

分析:Bluesky 上病毒式传播的民调为何不具代表性

一项针对 Bluesky 账号 @usapolling.bsky.social 近 90 天帖子的分析发现,越偏离该选区平均民调、对民主党越有利的民调帖子被转发得越多。研究者用 LLM 提取帖子中的民调数据并计算 Dem-Rep 差距,在多数选区都观察到这一模式,仅 NC 参议院选区例外。模型显示决定转发量的是帖子与平均民调的偏离度,而非民调本身的差距。

10月25日星期日

The Decoder

Anthropic 联合创始人 Jack Clark 将 AI 自我改进预测提前至 2027 年

Anthropic 联合创始人 Jack Clark 将 AI 系统开发自身后继模型的可能时间从 2028 年提前至最早 2027 年。其依据之一是 P-Zero Research 的 TasteVal 基准,其中 Opus 5.5 的算力乘数达到 2.3,即以不到一半的算力达到专家水平,统计区间为 1.15 至 4.37。

Hacker News 首页

AI 辅助软件开发应更有雄心,从 pgrust 到个人工具的实践分析

AI 编码能力的提升让过去成本过高的软件项目更易实现,文章以 pgrust、个人开发工具和桌游 AI 支持更有雄心的开发尝试。pgrust 的测试发现了 Postgres 的多项问题,文章撰写者也在少量个人时间内完成了适合自身使用的工具,但明确区分了自用质量与产品质量,且未对这些工具进行严谨基准测试。模型实现能力与自主验证能力之间的差距仍在扩大,更复杂的项目仍需要人工指导、测试和自检机制。

推荐理由:文章以 pgrust 和个人工具项目讨论更大规模的软件开发尝试,将测试、基准与自检机制作为控制实现质量的可迁移方法。

10月24日星期六

Computing Life · Share · 鸭哥调研

AI 加速产出之后,PHP、Muse 与蛋白设计面临哪些边界

PHP 漏洞利用、Meta Muse 分享泄露和 Claude 蛋白设计三个案例显示,AI 加速产出后,补丁分发、访问控制与实验验证仍决定最终结果。PHP 的陈旧隐患在 AI 辅助下约两周形成可用 PoC;Muse 将会话标题写入子域名,Claroc 从被动 DNS 历史库查得 6,800 多个分享主机名,Meta 已暂停分享功能。

10月23日星期五

The Verge · AI

SpaceX 与 Tesla 合并讨论背后的 AI 资本开支与马斯克控制权

SpaceX 与 Tesla 已成立特别委员会讨论合并,文章分析了 AI 业务整合、融资需求及马斯克控制权背后的利益关系。SpaceX 的 Q3 AI 部门收入为 $7.56 billion,文章认为其业务更接近算力基础设施提供商;Tesla 则连续第二个季度利润下滑。

推荐理由:SpaceX 与 Tesla 正讨论合并,若由 SpaceX 换股收购,马斯克可能获得合并公司的投票控制权并触发薪酬兑现。

10月22日星期四

Latent Space

Moshi CEO Anekha Sokhal 谈为大宗商品交易员打造推荐引擎

Moshi 正在为大宗商品交易员构建一款推荐引擎,把市场信息与交易员持仓组合真正相关的部分连接起来。CEO Anekha Sokhal 将其形容为 Bloomberg、Claude 与 Netflix 的结合体:市场数据、可操作数据的界面,以及针对交易员定制的推荐。

10月20日星期二

Hacker News 首页

StateGlobe 虚构统计实验:50,000 条假数据持续被 ChatGPT 引用

Peec AI 研究人员用 GPT-4.1 为 stateglobe.com 生成 50,000 个虚构统计页面,7 个月后仍获得 ChatGPT 引用。实验报告称,Google 已大幅降低该站可见性,但 ChatGPT 带来超过 10,000 次访问会话,网站获得 330+ 个域名的链接,虚构数字还进入了学术论文和银行投资研究。

推荐理由:Peec AI 研究人员发布虚构统计并追踪其引用,数据进入论文和银行研究的路径揭示了虚假数字借机构引用获得可信外观的风险。

10月18日星期日

Hacker News 首页

大语言模型将让数学与科学走向黄金时代还是黑暗时代?

Francesco Maggi 撰文指出,大语言模型能加速数学发现,但人类理解、科研独立性与人才培养将影响数学和科学走向黄金时代还是黑暗时代。文章区分 Lean 形式化证明的正确性与人类理解,强调数学进步还包括创造概念框架,并讨论署名、同行评审、研究保密与商业模型能力获取不均的问题。