跳到正文

#其他

今日 0 条

7月17日星期五

Hacker News 首页

人肉把关员已经累了

Pydantic 的 Laura Summers 聊了用大模型写代码的真实疲惫感:代码生成没问题,但人得不停地审查、纠错、把持方向,精力很快被榨干。她的同事 Douwe 每天醒来面对 30 个 AI 生成的 PR,很想把审查也丢给 AI,但反问自己“那我还在这干嘛”。她管这叫监督疲劳,并指出 AI 让你能同时开很多头,但能认真收尾的事一件没多。

推荐理由:Pydantic 的 Laura Summers 描述用大模型写代码时的监督疲劳,同事每天要面对 30 个 AI 生成的 PR,点出 AI 能同时开很多头却无法多收尾。

AI HOT 精选

NVIDIA 开源 Audio-Visual Flamingo:能看懂长视频里画面和声音的大模型

NVIDIA 把 Audio-Visual Flamingo 完全开源了。这个模型能同时理解视频里的画面、声音和文字,而且专门针对长视频——不是那种几秒的片段,是真实世界里几分钟甚至更长的复杂视频。它用了一个约 700 万条带时间戳的标注数据做训练,分三个阶段逐步教会模型:先看懂短片段,再学会跨多个事件做长线推理。

推荐理由:NVIDIA 将 Audio-Visual Flamingo 完全开源,模型能同时理解长视频中的画面、声音与文字,其约 700 万条带时间戳标注数据和分三阶段的训练方法,为长视频多模态理解提供了一条可复用的路径。

Computing Life · Share · 鸭哥调研

ChatGPT 和 Claude 都开始服务教师,但一个先搞定学校管理,一个先搞定备课规则

OpenAI 的 ChatGPT for Teachers 先做了学区统一管理:管理员可以认领学校邮箱域名、用 SSO 统一登录、按角色分配权限,还能看到整个学区的使用数据。芝加哥 U-46 学区已经有 756 名员工在用,超八成回复调查的人每周用几次,七成自报每周省 1-5 小时。但产品默认不带课程标准,教案好坏主要靠教师和学区自己把关。

推荐理由:OpenAI 的 ChatGPT for Teachers 先做学区统一管理和权限分配,芝加哥 U-46 学区已有 756 名员工使用,但产品默认不带课程标准。

Computing Life · Share · 鸭哥调研

vLLM 和 TileRT 开始共用一套服务,推理引擎从“谁跑得快”转向“该走哪条路”

vLLM 擅长把多个请求打包一起算,提高整体吞吐;TileRT 则专攻一次只处理一个请求的 decode,换取更低的逐 token 延迟。

推荐理由:vLLM 与 TileRT 开始共用一套服务,把打包提吞吐与单请求降延迟两种路线放进同一编排,推理引擎按阶段分工的具体做法由此展开。

Computing Life · Share · 鸭哥调研

BackendForge 让 AI 编程评测从笔试变面试,同一份代码通过率直接腰斩

BackendForge 先给 56 个后端任务写了 7,250 项测试,再让 Agent 专门找这套题库漏了什么,最后补了 640 项。测试只多了 8.8%,但 GPT-5.5 全部通过的任务从 31 个掉到 16 个,Claude Opus 4.7 从 33 个掉到 10 个。

推荐理由:BackendForge 用 Agent 为 56 个后端任务补了 640 项测试,测试量只增 8.8%,GPT-5.5 与 Claude Opus 4.7 全部通过的任务数却接近减半。

Sinocism · 比尔·毕晓普

WAIC 开幕前,中国推动 AI 新秩序,Kimi 发布开源大模型

世界人工智能大会(WAIC)开幕前一天,两条消息撞在一起。一是习近平设欢迎晚宴,王毅与 29 国代表签协议,要成立“世界人工智能合作组织”。央视账号玉渊谭天发文解释,中国想探索另一种 AI 秩序:开源、全要素共享,打破闭源模型和算力限制造成的技术依赖。

推荐理由:WAIC 开幕前一天,29 国代表签署协议筹建世界人工智能合作组织,央视账号同步阐释以开源和全要素共享为核心的另一种 AI 秩序主张。

Hacker News 首页

Ring-Zero:把不用人工标注的强化学习推到万亿参数,让模型自己长出推理能力

这篇论文把 Zero RL(一种不用人类标注、靠可验证奖励来训练模型推理的方法)直接干到了 1 万亿参数。团队发现,如果只是简单放大模型,推理过程会变得啰嗦、冗余,读起来费劲。所以他们加了几个稳定训练的手段:截断式重要性采样、训练与推理的比例修正,以及混合精度控制。实验得出三个结论:第一,万亿参数让模型学得更快、上限更高。

推荐理由:论文把无需人工标注的 Zero RL 训练规模推到 1 万亿参数,并给出截断式重要性采样等稳定训练手段,用于应对放大后推理过程冗长冗余的问题。

AI HOT 精选

xAI 不再嘴硬说 Grok 不会生成儿童性虐待图像,转而起诉用户

xAI 第一次起诉了一名用 Grok 生成儿童性虐待图像的用户。公司之前一直说这种内容是用户自己搞出来的,但这次起诉等于变相承认模型确实能被用来产出非法内容。文章没提具体用了什么安全措施、哪个模型版本,也没说有多少用户受影响。这看起来更像是法律层面的止损操作,而不是技术上的修复。

推荐理由:xAI 起诉一名用 Grok 生成儿童性虐待图像的用户,此前公司一直称这类内容由用户自行造成,此次诉讼让模型可被滥用这一事实进入司法程序。

Hacker News 首页

Claude Fable 5 对战 GPT-5.6 Sol:花 100 美元让 AI 自己拍一支 MV

TryAI 搭了个测试环境,把同一首歌、一个硬性预算上限和 ffmpeg 工具丢给两个模型,让它们自己查视频 API、生成素材、剪辑成片。四轮实验全部跑完,都产出了带原曲的完整视频。在 25 美元预算下,两个模型几乎把钱花光;预算提到 100 美元时,Sol 花了 36.57 美元,Fable 花了 48.60 美元,Fable 还冲到了 1080p。

推荐理由:TryAI 把同一首歌、同一预算和 ffmpeg 交给两个模型自主完成 MV,四轮实验都产出成片,并记录了 25 美元与 100 美元两档预算下各自的支出和分辨率差异。

AI HOT 精选

54% 的企业已经出过 AI 智能体安全事故,但多数还在让智能体共用账号密码

VentureBeat 调查了 107 家企业,发现 AI 智能体的安全防护明显没跟上部署速度。54% 的企业已经发生过确认的安全事件(18%)或差点出事(36%),但只有 32% 给每个智能体分配了独立、权限受限的身份,大多数智能体仍在共用 API 密钥或员工账号。

推荐理由:VentureBeat 调查 107 家企业,54% 已发生或险些发生智能体安全事件,仅 32% 为智能体分配独立受限身份,多数仍共用密钥或员工账号。

AI HOT 精选

ChatGPT 工作区现在能直接编辑文档、表格和幻灯片了

ChatGPT 的工作区新增了文档、电子表格和幻灯片的创建与编辑功能,@nickbaumann_ 发了一段操作演示。正文没提这是灰度推送还是已全量上线,也没说支不支持多人协作或能导出哪些格式。

推荐理由:ChatGPT 工作区新增文档、表格和幻灯片的创建与编辑功能,演示展示了在聊天界面内直接操作这类文件的方式。

Hacker News 首页

德国团队发布开源模型 Soofi S,30B 参数跑出 3B 成本,德语英语跑分双杀

Soofi S 是一个 31.6B 参数的混合专家模型,每次生成只激活 3.2B 参数,推理成本压得很低。它用了 Mamba 加 Transformer 的混合架构,处理长文本时速度几乎不掉,这点比很多同尺寸模型强。训练数据故意向德语倾斜,结果在德语、英语和编程基准上分数都超过了 Olmo 3 32B 和 Apertus 70B。

推荐理由:德国团队开源的 Soofi S 以 31.6B 总参数、3.2B 激活参数压低推理成本,德语、英语和编程基准成绩超过 Olmo 3 32B 与 Apertus 70B。

AI HOT 精选

Anthropic 公开了用 Claude Code 做大规模代码迁移的实操手册,拿 Bun 的百万行 Zig 转 Rust 当案例,两周搞定

Anthropic 在博客里完整拆解了他们怎么用 Claude Code 把 Bun 项目超过一百万行的 Zig 代码迁移到 Rust,只花了两周。核心思路是把迁移拆成规划、执行和验证三步:先让 Claude Code 通读代码库并写出迁移方案,再自动生成 PR,最后跑通 CI 来验收。

推荐理由:Anthropic 公开了用 Claude Code 迁移 Bun 超百万行 Zig 代码到 Rust 的完整流程,拆成规划、执行、验证三步,两周完成,可作为大规模代码迁移的方法参考。

Hacker News 首页

Decoy Font 用视觉错觉让 AI 读错你打的字

Mixfont 做了一个免费的 TTF 字体,每个字母里同时塞进两个字形:近看是一套假文字,拉远看才是真消息。原理借用了经典的“爱因斯坦/梦露”混合图像,把高频轮廓和低频色块叠在一起。实测截图喂给 ChatGPT 和 Gemini 3.5 with Thinking,模型都只读出了假的那层。

推荐理由:Mixfont 发布免费 TTF 字体 Decoy Font,把两个字形叠进同一字母,近看是假文字、拉远才显真消息,实测 ChatGPT 与 Gemini 3.5 with Thinking 只读出假的那层。

TechCrunch · AI

Google AI Mode 能直接连 App 干活了,首批接入了 Instacart、Canva 和 YouTube

Google 给 AI Mode 加了个“Connected Apps”功能,你可以把自己的 Instacart、Canva、YouTube 账号绑上去,让 AI 直接跨 App 执行操作。比如让它帮你列好烧烤食材清单,顺手就能把东西加进 Instacart 购物车。

推荐理由:Google 为 AI Mode 加入 Connected Apps,绑定 Instacart、Canva 和 YouTube 账号后,AI 能跨应用执行加购物车这类操作,不再只给答案。

7月16日星期四

Hacker News 首页

Schema 这套外挂让前沿模型在 ARC-AGI-3 公开集上跑到了约 99% 的得分

Impossible Research 发了个叫 Schema 的调度框架,没动模型本身,而是让 Claude Opus 4.8 和 GPT-5.6 Sol 像物理学家一样干活:先把游戏画面转成可执行的状态程序,再找出游戏机制,并把两者塞进同一个可编辑的程序里。这样预测翻车时,模型能回头改自己对“状态是什么”的定义,而不是只修规则。

推荐理由:Impossible Research 的 Schema 框架不改模型,让模型把游戏画面转成可执行状态程序并定位机制,预测出错时回头修正状态定义,公开集成绩展示了调度层设计的可迁移思路。

TechCrunch · AI

月之暗面即将发布 Kimi K3,参数规模 2 到 3 万亿,目标是追平 Anthropic 的 Opus 4.8

月之暗面准备在接下来几天放出 Kimi K3,据说是中国最大的开放权重模型,参数量在 2 万亿到 3 万亿之间。FT 引述匿名信源称,它的性能会持平甚至超过 Anthropic 的 Opus 4.8。上一代 Kimi K2 在开源基准测试里排名已经不错,K3 这次想进一步拉近和 OpenAI、Anthropic 闭源模型的差距。

推荐理由:月之暗面即将发布开放权重的 Kimi K3,参数规模 2 到 3 万亿,据称性能将追平 Anthropic 的 Opus 4.8,而上一代 K2 在开源基准测试中已有不错排名。

Latent Space

Lila Sciences 想把实验室变成数据中心,让 AI 24 小时不停做实验

Lila Sciences 的 CTO Andy Beam 和 CSO Rafa Gómez-Bombarelli 觉得互联网数据快被挖光了,科学方法才是最后一块互联网规模的数据来源。他们把实验室当成一个无限生成数据的机器:用强化学习提假设,让自然界来验证。目前他们已经产出了超过 10 万亿个经过实验验证的科学推理数据点。

推荐理由:Lila Sciences 把自动化实验室当作持续产出科学数据的数据中心,用强化学习提假设、物理实验做验证,已积累超 10 万亿个验证数据点,为 AI 数据来源提供了一条新路径。

The Verge · AI

Claude 现在能帮你填 1Password 密码,但模型本身看不到密码

Anthropic 和 1Password 搞了个浏览器集成,让 Claude 在网页上自动填登录信息,但密码不会经过模型。1Password 直接把凭据注入网页表单,Claude 只负责继续跑任务,不用卡在登录这一步。这解决了一个让模型进业务流程干活时的真实痛点——碰到要登录的网站就断掉。不过正文没提支持哪些网站、有没有调用频率限制。

推荐理由:Anthropic 与 1Password 的浏览器集成让 Claude 自动填写网页登录信息,凭据由 1Password 直接注入表单、不经过模型,这层安全设计是理解 agent 进入需登录业务流程的关键。

Hacker News 首页

Roc 语言的编译器用 Zig 重写后,首次追平了原 Rust 版的功能

Roc 团队花了 487 天,把 30 万行 Rust 编译器用 Zig 重写了一遍,最近刚做到功能追平。一个叫 Rocci Bird 的演示小游戏现在能编译成 31KB 的 wasm 文件,体积不到原来的一半。新编译器在开发时会自动热加载代码,改完不用重启;发布时能交叉编译出可复现的静态二进制文件。

推荐理由:Roc 团队用 487 天把 30 万行 Rust 编译器重写为 Zig,功能追平后 wasm 体积缩至 31KB,开发时还支持代码热加载。

r/LocalLLaMA

Anthropic CEO Dario Amodei 在 5 月向超级政治行动委员会 Public First 捐了 100 万美元

联邦文件显示,Anthropic 的 CEO Dario Amodei 在 5 月向名为 Public First 的超级政治行动委员会捐了 100 万美元。这个组织主要倡导 AI 安全监管。这是 Amodei 首次公开的百万级政治捐款。

推荐理由:Anthropic 的 CEO Dario Amodei 在 5 月向倡导 AI 安全监管的超级政治行动委员会 Public First 捐了 100 万美元,这是其公开记录中首笔百万级政治捐款。

Latent Space

Thinky 发布 Inkling:9750 亿参数、410 亿活跃的多模态开源模型,目前美国最强 Apache 2.0 基座

Thinky 推出了 Inkling,一个总参数量 9750 亿、每次推理激活 410 亿参数的混合专家模型。它能直接处理文字、图片、音频和视频,支持最长 100 万 token 的上下文窗口。模型用 45 万亿个多模态 token 训练,采用 Apache 2.0 协议开源,发布当天就得到了 vLLM、Hugging Face 等工具链的支持。

推荐理由:Thinky 发布总参数 9750 亿、激活 410 亿的 Inkling,以 Apache 2.0 开源并原生处理文字、图片、音频和视频,支持 100 万 token 上下文。

Hacker News 首页

先扔飞镖再画靶心:大模型生成顺序如何颠覆我们对意图的直觉

作者用一句歌词“我的投掷决定了我的瞄准”来解释大模型的一个反直觉特性:文本是一个 token 接一个 token 生成的,方向是在生成过程中逐渐浮现的,而不是先有一个完整想法再表达。Anthropic 的研究显示,Claude 写诗时会提前规划韵脚,但事后给出的解释只是另一段生成的延续,并不是内部状态的忠实记录。

推荐理由:作者借一句歌词解释大模型逐 token 生成、方向在过程中浮现的特性,并引用 Anthropic 研究说明模型写诗会提前规划韵脚,而事后解释只是另一段生成。

AI HOT 精选

天工短剧工作台上线导演Agent和无限画布,自动拆剧本、定机位,解决AI短剧角色乱跑和变脸问题

天工短剧工作台这次放出了两个东西:一个叫导演Agent,能自动把剧本拆成分镜,规划演员站位和镜头角度,同时生成多视角的细节图,专门解决AI短剧里角色脸变来变去、位置漂移的老毛病。另一个是无限画布,配合内置的影视级提示词模板、720°全景图和3D导演台,让制作过程更可控。他们已经有3部作品在海外短剧平台DramaWave上线,7天营收破百万美元。

推荐理由:天工短剧工作台推出导演Agent与无限画布,自动拆分镜并规划站位和机位,针对AI短剧角色变脸与位置漂移问题给出制作端方案。

Computing Life · Share · 鸭哥调研

腾讯混元 Hy3 的 1-bit 量化:单卡能装下,离好用还有多远

腾讯给 295B 参数的混元 Hy3 模型做了 IQ1_M 量化,文件大小约 85.5 GiB,能塞进一张 96GB 显卡。但“1-bit”只是量化规格的名字,实际每个权重平均占 2.4 bit 左右,因为注意力、嵌入等关键层保留了更高精度。

推荐理由:腾讯把 295B 参数的混元 Hy3 压到约 85.5 GiB,能塞进一张 96GB 显卡,而所谓 1-bit 实际每权重平均约 2.4 bit,关键层仍保留更高精度。

Computing Life · Share · 鸭哥调研

Cloudflare 发布 Precursor:AI 代理用上真实浏览器后,反 Bot 开始盯整段操作行为

Cloudflare 在 2026 年 7 月 13 日推出了 Precursor,一套塞在 Enterprise Bot Management 里的行为检测系统。它不再靠浏览器指纹或单次请求下判断,而是持续收集指针移动、键盘节奏、焦点切换和页面可见性,再交叉检查整段 session 的行为能不能互相解释。

推荐理由:Cloudflare 推出 Precursor,把 Bot 检测从浏览器指纹和单次请求转向持续采集指针、键盘与焦点行为,并交叉核对整段 session 是否自洽。

NVIDIA 博客

英伟达发布两款新的 Jetson Thor 边缘计算模块 T3000 和 T2000,把 Blackwell 架构塞进了更小、更省电的机器人电脑里

英伟达推出了 T3000 和 T2000 两款基于 Thor 架构的新模块。T3000 算力 865 FP4 teraflops,配 32GB 内存和 273GB/s 带宽,体积和功耗大约是之前 T5000 的一半,但跑多模态模型的推理速度差不多,能帮客户在高内存价格下省一笔硬件钱。

推荐理由:英伟达推出 T3000 和 T2000 两款 Jetson Thor 模块,T3000 算力与 T5000 接近,体积功耗约为后者一半,为边缘机器人部署多模态模型提供了更省硬件成本的选项。

The Verge · AI

xAI 起诉一名用户,指控他用 Grok 生成儿童性虐待材料的深度伪造图

马斯克的 xAI 向联邦法院起诉了 Terry Harwood,说他绕过了 Grok 的安全护栏,用“提示词注入”之类的手段生成了儿童性虐待材料(CSAM)的深度伪造图。这是 AI 公司主动起诉用户生成违法内容的罕见案例,但报道没披露他具体用了什么技术、生成了多少张图。

推荐理由:xAI 在联邦法院起诉用户 Terry Harwood,指其绕过 Grok 安全护栏生成儿童性虐待材料深度伪造图,AI 公司主动起诉终端用户的案例此前少见。

Hacker News 首页

两拨朋友用 AI 做了几乎一模一样的婚礼视频

作者参加了一场婚礼,新娘的朋友和新郎的朋友各自用 AI 做了一段致敬视频。两段视频讲的故事不同,但成品高度雷同:旁白的语气和节奏一样,都用了飞越海滩、穿过森林和星空的空镜,连国家地理风格的解说词都撞了。现场宾客反而觉得这个巧合很好玩。作者认为日常创作正在被 AI 拉向一个平庸的均值,但没下结论这到底是因为大家怕做出烂东西,还是单纯选了最省事的路径。

推荐理由:新娘与新郎两拨朋友各自用 AI 制作致敬视频,成品在旁白语气、空镜和地理风格解说词上高度雷同,是日常创作被 AI 拉向均值的一个具体样本。

AI HOT 精选

Claude Code 的 artifacts 现在能直接调用 MCP 连接器,让仪表盘按需拉数据或执行操作

Claude Code 的 artifacts 界面组件现在可以调用 MCP 连接器了。这意味着你做的仪表盘或小应用能根据每个查看者的需求,实时去外部系统抓数据或触发动作,不用再靠静态展示。功能面向 Pro、Max、Team 和 Enterprise 付费用户,公开分享的 artifacts 不支持。

推荐理由:Claude Code 的 artifacts 组件现在能调用 MCP 连接器,仪表盘可按查看者需求实时拉取外部数据或触发动作,公开分享的 artifacts 不在支持范围内。

FT · 科技

Mira Murati 的 Thinking Machines 发布首款模型,训练方法借鉴了 DeepSeek 等中国团队

前 OpenAI 技术负责人 Mira Murati 创立的 Thinking Machines 推出了第一个模型。FT 报道说,这个模型用了和中国公司 DeepSeek 类似的训练技巧,用更少的算力做到了接近前沿的水平。不过正文没披露模型叫什么、参数量多大、具体跑分是多少,也没说是不是开源权重。

推荐理由:Mira Murati 创立的 Thinking Machines 发布第一个模型,训练方法借鉴 DeepSeek 等中国团队,用更少算力接近前沿水平。

Hacker News 首页

Alex Turner 自述离开 Google DeepMind:五角大楼 AI 合同与内部沉默让他待不下去

Alex Turner 发了一篇长文解释他为什么辞职。直接导火索是 Google 签了一份五角大楼的 AI 合同,他担心这会被用来做军事监控。他起草了一份“红线框架”想阻止,找了 Jeff Dean、Bengio 等人,但高层没采纳。文章还提到 Google 在移民执法供应链里的角色,以及五角大楼对 Anthropic 施压的事。

推荐理由:DeepMind 研究员 Alex Turner 发文讲述辞职缘由,涉及 Google 签署五角大楼 AI 合同、他起草红线框架游说高层未果,以及 Google 在移民执法供应链中的角色。

Hacker News 首页

Murati 的 Thinking Machines 放出 Inkling:一个 975B 参数、开放权重的多模态模型

Inkling 是一个总参数 9750 亿、每次推理激活 410 亿的混合专家模型,架构上能直接吃文本、图片和音频,上下文窗口最长 100 万 token。

推荐理由:Mira Murati 的 Thinking Machines 发布开放权重模型 Inkling,总参数 9750 亿、每次推理激活 410 亿,原生支持文本、图片和音频,上下文最长 100 万 token。

Hacker News 首页

Thinking Machines 开源 Inkling:9750 亿参数 MoE 模型,激活 410 亿,能看图听音,还能自己微调自己

Thinking Machines 把 Inkling 模型完整开源了。这是个总参数 9750 亿的混合专家模型,每次推理只激活 410 亿参数,上下文窗口能塞进 100 万 token。它用 45 万亿个文本、图片、音频和视频 token 训练出来,原生就能处理文字、图片和声音。

推荐理由:Thinking Machines 开源了总参数 9750 亿的混合专家模型 Inkling,每次推理只激活 410 亿参数,原生支持文字、图片和声音,训练数据达 45 万亿 token。

TechCrunch · AI

前 OpenAI CTO 的创业公司发布首个开源模型 Inkling,赌多模型协作而非一个巨无霸

Thinking Machines Lab 放出了 Inkling,一个总参数量 9750 亿、但每次推理只激活约 300 亿参数的混合专家模型。权重完全开放下载和修改,公司明确反对“一个大模型包打天下”,主张让多个模型协作干活。这是他们成立一年半以来第一个公开成果。技术报告和权重都给了,但训练成本、API 定价和时间表都没说。

推荐理由:Thinking Machines Lab 发布成立一年半来第一个开源模型 Inkling,总参数 9750 亿、每次推理只激活约 300 亿,权重开放下载,公司主张多模型协作而非单一巨模型。

The Verge · AI

Suno 被曝从 YouTube、Genius 和 Deezer 扒了数百万首歌来训练模型

泄露文件显示,AI 音乐公司 Suno 从 YouTube、Genius 和 Deezer 抓取了数百万首受版权保护的歌曲,用来训练它的音乐生成模型。这些平台都明确禁止爬取数据,但 Suno 的数据集里横跨了几十年的音频。Suno 之前一直拒绝透露训练数据来源,这次泄露直接把它推到了版权诉讼的风口浪尖。

推荐理由:泄露文件显示 Suno 从 YouTube、Genius 和 Deezer 抓取数百万首受版权保护歌曲训练模型,这些平台均禁止爬取数据,其训练数据来源由此被摆上台面。

Hugging Face 博客

模型路由很简单,直到你开始算真实成本

IBM 的人拿 417 个 AppWorld 任务跑了一遍,发现按标价选模型会翻车。Claude Sonnet 4.6 总花费 79 美元,GPT-4.1 却花了 155 美元,贵了快一倍。原因是 agent 干活时会反复用同一大段上下文,Sonnet 的缓存读取价更低,靠这个把总账拉回来了。

推荐理由:IBM 用 417 个 AppWorld 任务实测发现,按标价选模型会误判成本,GPT-4.1 总花费 155 美元,Claude Sonnet 4.6 只需 79 美元,差距来自 agent 反复读取长上下文时的缓存定价。

MIT Technology Review · AI

OpenAI 造了个叫 GPT-Red 的超级黑客模型,专门攻击自家模型来提前修漏洞

OpenAI 训练了一个叫 GPT-Red 的模型,让它当自动化红队攻击手,在模型发布前找出漏洞并打补丁。它用自我博弈的方式不断变强:一边攻击其他模型,一边让防守模型学会抵抗。GPT-Red 发现了一种新攻击叫“假思维链”——往模型内部的推理笔记里塞伪造信息,模型会当成自己验证过的东西直接接受。

推荐理由:OpenAI 训练 GPT-Red 作为自动化红队攻击手,在模型发布前找出漏洞并打补丁,还发现了一种往推理笔记塞伪造信息的假思维链攻击。

TechCrunch · AI

Suno 被黑,源代码证实它扒了 YouTube 等平台的音频来训练 AI 音乐模型

404 Media 报道,AI 音乐生成器 Suno 去年 11 月遭供应链攻击,黑客用员工凭证拿到了源代码。代码显示 Suno 从 YouTube Music、Deezer、Genius、免版税音乐库和播客 RSS 源扒了几十年的音频。Suno 之前只承认用“公开可用的音乐文件”训练,但这次泄露坐实了它绕过 YouTube 反爬保护的行为。

推荐理由:Suno 源代码显示其从 YouTube Music、Deezer 等平台抓取数十年音频训练模型,此前仅承认使用公开音乐文件,泄露材料或成唱片公司诉讼中的关键证据。

Hacker News 首页

Pantograph 用网上视频训练了一个 4B 参数的 Minecraft 模型,给它一张目标截图就能自己干活

Pantograph 发布了一个叫 Pan 的 Minecraft 模型,参数量 40 亿。它不靠人手工标注奖励,而是用“事后重标”的方法:把视频里后面发生的画面当成前面片段的目标,这样就能直接从海量网络视频里学怎么达成目标。实际用的时候,你给它一张目标截图,它就能在游戏里打怪、探索、搭建筑,甚至在没见过的环境里也能跑。

推荐理由:Pantograph 用事后重标把网络视频的后续画面当作目标,让 40 亿参数的 Pan 从无标注视频里学目标导向行为,给一张截图就能在 Minecraft 里执行。