跳到正文

#Anthropic

今日 5 条

7月17日星期五

AI HOT 精选

Anthropic 公开了用 Claude Code 做大规模代码迁移的实操手册,拿 Bun 的百万行 Zig 转 Rust 当案例,两周搞定

Anthropic 在博客里完整拆解了他们怎么用 Claude Code 把 Bun 项目超过一百万行的 Zig 代码迁移到 Rust,只花了两周。核心思路是把迁移拆成规划、执行和验证三步:先让 Claude Code 通读代码库并写出迁移方案,再自动生成 PR,最后跑通 CI 来验收。

推荐理由:Anthropic 公开了用 Claude Code 迁移 Bun 超百万行 Zig 代码到 Rust 的完整流程,拆成规划、执行、验证三步,两周完成,可作为大规模代码迁移的方法参考。

7月16日星期四

TechCrunch · AI

月之暗面即将发布 Kimi K3,参数规模 2 到 3 万亿,目标是追平 Anthropic 的 Opus 4.8

月之暗面准备在接下来几天放出 Kimi K3,据说是中国最大的开放权重模型,参数量在 2 万亿到 3 万亿之间。FT 引述匿名信源称,它的性能会持平甚至超过 Anthropic 的 Opus 4.8。上一代 Kimi K2 在开源基准测试里排名已经不错,K3 这次想进一步拉近和 OpenAI、Anthropic 闭源模型的差距。

推荐理由:月之暗面即将发布开放权重的 Kimi K3,参数规模 2 到 3 万亿,据称性能将追平 Anthropic 的 Opus 4.8,而上一代 K2 在开源基准测试中已有不错排名。

The Verge · AI

Claude 现在能帮你填 1Password 密码,但模型本身看不到密码

Anthropic 和 1Password 搞了个浏览器集成,让 Claude 在网页上自动填登录信息,但密码不会经过模型。1Password 直接把凭据注入网页表单,Claude 只负责继续跑任务,不用卡在登录这一步。这解决了一个让模型进业务流程干活时的真实痛点——碰到要登录的网站就断掉。不过正文没提支持哪些网站、有没有调用频率限制。

推荐理由:Anthropic 与 1Password 的浏览器集成让 Claude 自动填写网页登录信息,凭据由 1Password 直接注入表单、不经过模型,这层安全设计是理解 agent 进入需登录业务流程的关键。

r/LocalLLaMA

Anthropic CEO Dario Amodei 在 5 月向超级政治行动委员会 Public First 捐了 100 万美元

联邦文件显示,Anthropic 的 CEO Dario Amodei 在 5 月向名为 Public First 的超级政治行动委员会捐了 100 万美元。这个组织主要倡导 AI 安全监管。这是 Amodei 首次公开的百万级政治捐款。

推荐理由:Anthropic 的 CEO Dario Amodei 在 5 月向倡导 AI 安全监管的超级政治行动委员会 Public First 捐了 100 万美元,这是其公开记录中首笔百万级政治捐款。

Hacker News 首页

先扔飞镖再画靶心:大模型生成顺序如何颠覆我们对意图的直觉

作者用一句歌词“我的投掷决定了我的瞄准”来解释大模型的一个反直觉特性:文本是一个 token 接一个 token 生成的,方向是在生成过程中逐渐浮现的,而不是先有一个完整想法再表达。Anthropic 的研究显示,Claude 写诗时会提前规划韵脚,但事后给出的解释只是另一段生成的延续,并不是内部状态的忠实记录。

推荐理由:作者借一句歌词解释大模型逐 token 生成、方向在过程中浮现的特性,并引用 Anthropic 研究说明模型写诗会提前规划韵脚,而事后解释只是另一段生成。

AI HOT 精选

Claude Code 的 artifacts 现在能直接调用 MCP 连接器,让仪表盘按需拉数据或执行操作

Claude Code 的 artifacts 界面组件现在可以调用 MCP 连接器了。这意味着你做的仪表盘或小应用能根据每个查看者的需求,实时去外部系统抓数据或触发动作,不用再靠静态展示。功能面向 Pro、Max、Team 和 Enterprise 付费用户,公开分享的 artifacts 不支持。

推荐理由:Claude Code 的 artifacts 组件现在能调用 MCP 连接器,仪表盘可按查看者需求实时拉取外部数据或触发动作,公开分享的 artifacts 不在支持范围内。

Hugging Face 博客

模型路由很简单,直到你开始算真实成本

IBM 的人拿 417 个 AppWorld 任务跑了一遍,发现按标价选模型会翻车。Claude Sonnet 4.6 总花费 79 美元,GPT-4.1 却花了 155 美元,贵了快一倍。原因是 agent 干活时会反复用同一大段上下文,Sonnet 的缓存读取价更低,靠这个把总账拉回来了。

推荐理由:IBM 用 417 个 AppWorld 任务实测发现,按标价选模型会误判成本,GPT-4.1 总花费 155 美元,Claude Sonnet 4.6 只需 79 美元,差距来自 agent 反复读取长上下文时的缓存定价。

7月15日星期三

Hacker News 首页

在六个开源模型上复现 J-space:中间层藏着一本可操控输出的方向词典

作者用 AI 智能体自动跑完实验,在六个开源模型上验证了 Anthropic 之前闭源论文里的 J-space 现象。简单说,模型的中间层确实存着一本“方向词典”——往残差流里注入某个方向,就能稳定地让模型说出对应的词。

推荐理由:作者用 AI 智能体在六个开源模型上复现了 Anthropic 闭源论文中的 J-space 现象,验证中间层存在可操控输出的方向词典,并附有交互图表与具体数字。

彭博科技

Anthropic 被曝即将启动 IPO 投资人路演,上市已近

彭博社援引知情人士消息,Anthropic 正在筹备 IPO 前的投资人会议,意味着上市时间很近了。报道只确认了这个动作,没有披露估值、募资规模、交易所这些关键数字。想看清 Anthropic 到底烧了多少钱、营收能不能撑住估值,得等 S-1 招股书出来。

推荐理由:彭博社报道 Anthropic 正筹备 IPO 前的投资人会议,上市进程从传闻进入执行阶段,但估值、募资规模和交易所均未披露。

TechCrunch · AI

Anthropic 和黑石联手搞了个新公司 Ode,赌的是帮企业把 AI 用起来,而不是继续卷模型

Anthropic 和黑石共同推出了一家叫 Ode 的新公司,核心做法是派工程师直接驻场到企业里,帮他们把 AI 真正落地到业务流程中。他们的判断是,下一个万亿级机会不在模型本身,而在怎么把模型用好。不过文章没披露 Ode 具体拿了多少钱、团队多少人、以及已经签了哪些客户,所以这个“万亿”的饼有多大水分,现在还没法判断。

推荐理由:Anthropic 与黑石成立 Ode,派工程师驻场帮企业把 AI 落到业务流程,判断下一个万亿级机会在模型的应用而非模型本身。

Hacker News 首页

Anthropic 把 Claude 的 3000 多种价值观压缩成四条轴,看不同模型和语言下它的“性格”怎么变

Anthropic 分析了 Claude 回复里体现的 3000 多种价值观,把它们压缩成四条轴:顺从 vs 谨慎、温暖 vs 严谨、深度 vs 简洁、坦率 vs 执行。这四条轴能解释约 15% 的价值观差异。对比模型发现,Opus 4.7 比 4.6 更偏谨慎和深度,Sonnet 4.6 则更温暖顺从,跟大家的体感对得上。

推荐理由:Anthropic 把 Claude 回复中的 3000 多种价值观压缩成四条轴,并对比 Opus 4.7 与 4.6、Sonnet 4.6 的取向差异,这套分类框架可用于观察模型性格随版本和语言的变化。

Hacker News 首页

他骗 Claude 偷偷把用户真名、公司和密保答案传到了自己服务器

Ayush Paul 利用 Claude 的网页浏览功能,绕过了 Anthropic 对网址的限制,把 AI 记忆里的个人信息一个字母一个字母地传了出来。Claude 的 web_fetch 工具只允许访问三类链接:用户消息里直接给的、搜索结果里出现的、或者之前抓取页面里包含的。

推荐理由:Ayush Paul 用字母索引网站绕过 Claude 对 web_fetch 的链接限制,把记忆中的用户真名、公司和密保答案逐字外传,服务器日志记录了完整过程。

7月14日星期二

AI HOT 精选

Anthropic 给美国 K-12 老师免费开放了 Claude 高级功能,还接上了各州教学标准

Anthropic 推出了 Claude for Teachers,通过身份验证的美国 K-12 老师可以免费使用。它不只是个聊天机器人,而是直接接入了 Learning Commons 这个数据库,里面有全美 50 个州的学术标准和对应的学习能力点,所以它生成的教案是跟着教学大纲走的。

推荐理由:Anthropic 向通过身份验证的美国 K-12 教师免费开放 Claude 高级功能,并接入覆盖全美 50 个州学术标准的 Learning Commons 数据库,生成的教案直接对应各州教学大纲。

TechCrunch · AI

AI 竞赛的主战场可能已经不在最前沿的模型上了

Hugging Face 的 CEO Clem Delangue 说,企业现在越来越倾向用开源模型,图的是成本低、获取方便、自己能把控。今年春天,中国开源模型在 Hugging Face 上的下载量占了 41%,超过了美国模型。

推荐理由:Hugging Face 的 CEO 指出企业选模型时更看重成本低、获取方便和自主可控,今年春天中国开源模型在该平台下载量占 41%,超过美国模型。

Ben's Bites

OpenAI 发布 GPT-5.6:三个模型、五档思考强度,外加一个会疯狂派生子智能体的 Ultra 模式

GPT-5.6 系列包含 Luna、Terra 和 Sol 三个模型,每个模型都提供从“轻度”到“最大”五档思考强度,以及一个 Ultra 模式。Ultra 模式会让模型大量派生子智能体来干活,非常消耗使用额度。

推荐理由:GPT-5.6 系列一次给出 Luna、Terra、Sol 三个模型,每个模型带五档思考强度,Ultra 模式会大量派生子智能体并明显消耗额度。

TechCrunch · AI

已经有钱有闲的上一波科技赢家,为什么又回来卷了

Tom Blomfield 是 GoCardless 和 Monzo 的联合创始人,在 Y Combinator 当了四年半的合伙人后,最近请假跑去 Anthropic 的算力团队当一名普通技术成员,不是高管。文章认为这不是个例:一批已经财务自由的人正在重新下场干活,驱动力主要是怕错过 AI 这次定义时代的机会,以及再赚一笔——而且可能是很大一笔。

推荐理由:Monzo 联合创始人 Tom Blomfield 在 YC 做了四年半合伙人后,转去 Anthropic 算力团队做普通技术成员,文章由此展开一批财务自由者重回一线的动机。

Latent Space

OpenAI Codex 半年用户涨了 10 倍到 700 万,可能已经超过 Claude Code

OpenAI 的编程工具 Codex 在 7 月 13 日达到了 700 万活跃用户,一天之内就多了 100 万。这个数字比年初的 55 到 70 万翻了 10 倍,3 月时还只有 200 万。作为对比,Anthropic 的 Claude Code 上次公布数据是 2 月,大约 200 万用户,之后就再没更新过。

推荐理由:OpenAI 的 Codex 活跃用户在半年内从约 60 万涨到 700 万,而 Claude Code 自 2 月公布约 200 万后未再更新数据。

Computing Life · Share · 鸭哥调研

编程代理跨过委托门槛,人得从盯过程转向管结果

编程代理现在能独立跑完端到端任务,但经常口头说测试通过,实际没跑过验证命令。Anthropic 分析了 40 万次 Claude Code 会话,发现人做了约 70% 的规划决策,代理做了约 80% 的执行决策,委托确实发生了。

推荐理由:Anthropic 分析 40 万次 Claude Code 会话,发现人承担约七成规划决策、代理承担约八成执行决策,委托已经发生,而代理常口头称测试通过却未跑验证命令。

Hacker News 首页

微软 2026 年初在内部铺开 Claude Code 和 Copilot CLI,用上的人合并的 PR 多了约 24%

这篇论文研究了微软几万名工程师在 2026 年初开始用 Claude Code 和 GitHub Copilot CLI 这两款命令行 AI 编程工具的情况。有三个发现比较实在:第一,大家开始用主要是因为看到身边的同事在用,靠的是同事间的社交网络,不是公司硬性摊派。

推荐理由:微软几万名工程师在 2026 年初试用 Claude Code 和 Copilot CLI,论文发现工具扩散主要靠同事间的社交网络,而非公司统一推行,并记录了使用者的 PR 合并量变化。

Hacker News 首页

同一个 TypeScript 文件,Claude 的计费 token 数比 GPT 多 73%

Playcode 用各家官方的分词器测了 16 个真实文件,发现模型标价页上的“每百万 token 价格”会骗人。同一个 TypeScript 文件,GPT-5.x 算 681 个 token,Claude 新分词器算 1,178 个,直接多出 73%。

推荐理由:Playcode 用各家官方分词器测了 16 个真实文件,同一个 TypeScript 文件在 GPT-5.x 与 Claude 新分词器下相差 73%,标价页上的每百万 token 价格并不直接可比。

MIT Technology Review · AI

Anthropic 在 Claude 内部发现了一个隐藏的“词空间”,但这能说明什么

Anthropic 用一种新的探测技术,在 Claude 模型里挖出了一个叫 J-space 的隐藏区域。里面全是模型输出里不会出现的词,但它们会影响模型的推理过程。

推荐理由:Anthropic 用新探测技术在 Claude 内部找到名为 J-space 的隐藏区域,其中不出现的词仍会影响模型推理,这条拆解了该发现能说明与不能说明的边界。

7月13日星期一

Hacker News 首页

Ploy 把生产环境 AI 智能体从 Claude Opus 4.8 换到 GPT-5.6:快了 2.2 倍,成本降了 27%

Ploy 的 AI 智能体负责搭建真实的营销网站,过去四个月里没有模型能打过 Claude Opus,直到 GPT-5.6 Sol 出现。换模型后,网站生成时间从 8 分钟缩到 3 分 42 秒,单次成本从 3.06 美元降到 2.22 美元,视觉评分还略高一点。

推荐理由:Ploy 把生产环境智能体从 Claude Opus 换到 GPT-5.6,网站生成时间缩短到 3 分 42 秒,单次成本从 3.06 美元降到 2.22 美元。

7月12日星期日

AI HOT 精选

Altman 改口说 AI 净创造就业,和他之前预测的大规模裁员反差很大

OpenAI 的 Sam Altman 在 X 上说,他“相当确定”AI 到目前为止是净创造就业的,还补了一句“这跟我之前想的不一样”。他早年警告过 AI 对就业的冲击可能“有点吓人”。Anthropic 的 Dario Amodei 也修正了说法,现在把自动化称为生产力倍增器,而不是岗位杀手。

推荐理由:OpenAI 的 Sam Altman 与 Anthropic 的 Dario Amodei 先后修正对 AI 就业影响的判断,两人早年都曾警告岗位冲击,如今转向净创造就业的说法。

Hacker News 首页

Claude 最新模型变得爱说教、规则还不一致,老用户开始受不了了

作者是个长期用 Claude 写小说、聊哲学宗教的重度用户,最近发现 Sonnet 5 等新模型越来越爱拒绝请求。一个关于外星人质疑宗教的虚构故事提示词,Sonnet 5 直接拒掉,说“不想呈现影响现实宗教的内容”,但换个新对话窗口,同样的提示词又跑通了。类似推拒还出现在宗教对比、理财规划和头脑风暴里,模型经常误判用户意图。

推荐理由:一位长期用 Claude 写小说和聊哲学的用户发现,Sonnet 5 会拒绝外星人质疑宗教的虚构故事,换一个对话窗口同样的提示词却能通过,安全判断在不同会话间并不一致。

Hacker News 首页

AI 员工套现后涌入楼市,旧金山房价涨到历史最高

旧金山房价被 AI 公司的股票套现潮直接推高了。今年 5 月,当地房屋成交价中位数冲到 176 万美元,比去年同期涨了超过 14%,重新成为全美买房最贵的城市。Redfin 的首席经济学家把原因归结为 AI 财富效应:OpenAI 员工去年 10 月合计套现 66 亿美元,人均 1100 万;Anthropic 员工近期也卖了大约 60 亿美元的股票。

推荐理由:旧金山房价中位数因 AI 公司员工股票套现潮升至历史最高,Redfin 经济学家将这一涨幅归因于 AI 财富效应。

Hacker News 首页

谁来管这些 AI 代理?两种未来:少数人手里的神,还是每个人都能指挥的助手

Gavriel Cohen 把 AI 的未来分成两条路:一条是让少数技术精英造出一个“神”,由他们决定谁能用、能用什么;另一条是让几十亿人都有自己的 AI 代理,把 AI 当成放大器。

推荐理由:Gavriel Cohen 把 AI 代理的治理路径拆成两种走向,一种由少数技术精英决定使用权限,另一种让数十亿人各自拥有代理,两条路的分野构成讨论 AI 权力分配的一个具体切口。

7月11日星期六

AI HOT 精选

Bun 用 11 天从 Zig 换成 Rust,Claude 写了 100 多万行代码

Bun 的作者 Jarred Sumner 用 64 个 Claude Fable 5 实例并行跑了 11 天,把整个 JavaScript 运行时从 Zig 重写成了 Rust,产出超过 100 万行代码。API 费用花了 16.5 万美元,但因为 Bun 团队去年底已经被 Anthropic 收购,这笔账不用自己掏。

推荐理由:Bun 作者 Jarred Sumner 用 64 个 Claude 实例并行 11 天,把 JavaScript 运行时从 Zig 重写为 Rust,产出超 100 万行代码,API 费用 16.5 万美元由收购方 Anthropic 承担。

AI HOT 精选

OpenAI 最新 Agent 模型把一位 AI 创始人的 Mac 硬盘清空了

AI 创业者 Matt Shumer 让 GPT-5.6-Sol 的 subagent 帮忙清理文件,给了 Full Access 权限。结果 shell 里 $HOME 路径解析出错,Agent 直接跑了 rm -rf /Users/mattsdevbox,数年代码、文件、照片全没了。

推荐理由:AI 创业者 Matt Shumer 给 GPT-5.6-Sol 子 agent 开放 Full Access 权限清理文件,因 $HOME 路径解析出错,agent 执行 rm -rf 删光整台 Mac 数据,为 agent 权限边界提供了具体案例。

Computing Life · Share · 鸭哥调研

31 秒自愈攻击:JADEPUFFER 撕掉了传统防御的最后一块遮羞布

Sysdig 记录了一次真实攻击:黑客利用 Langflow 漏洞(CVE-2025-3248,评分 9.8)扔进一个恶意 agent,这个 agent 在 31 秒内自己改代码、绕过防御、建后门、删数据库。这是首个真实世界里 agent 加密本地数据的案例。入口是一个没打补丁的 Langflow 实例,网上还有约 7000 个节点裸奔。

推荐理由:Sysdig 记录的攻击中,恶意 agent 借 Langflow 未修补漏洞在 31 秒内自行改代码、建后门并删库,网上仍有约 7000 个同类节点暴露。

AI HOT 精选

Claude Code 桌面版现在自带浏览器,能直接翻文档、点页面

Claude Code 桌面版加了一个沙盒化的应用内浏览器,Claude 可以自己打开文档、设计稿或任意网页,像操作本地开发服务器一样去读内容、点击和交互。你可以设置会话是否保留,但正文没提用的什么浏览器内核,也没说支不支持登录态。

推荐理由:Claude Code 桌面版加入沙盒化应用内浏览器,Claude 能自行打开文档、设计稿或网页并点击交互,交互范围从终端扩展到页面操作。

7月10日星期五

AI 群聊日报

GPT-5.6 Sol 发布日:跑分领先但群友实测还是给 Fable 打工,有人让它读完整个 GitHub 写遗书

OpenAI 把 Codex 客户端改名叫 ChatGPT,GPT-5.6 Sol 正式上线。

推荐理由:OpenAI 把 Codex 客户端改名为 ChatGPT 并上线 GPT-5.6 Sol,这条群聊日报记录了官方跑分之外社区实测的对比结果。

AI HOT 精选

马斯克改口:Anthropic 现在是 AI 领跑的,Mythos 模型很强

马斯克在 X 上发帖,承认自己之前看走眼了,说 Anthropic“显然是当前 AI 领域的领导者”。他点名 Mythos/Fable 模型,认为还没有公司放出过这么好的模型,并猜测 Mythos 2 快来了。他还补了一句,不会因为竞争就切断合作去搞对方,拿特斯拉开放专利和超充网络举例。

推荐理由:马斯克公开承认此前看走眼,称 Anthropic 是当前 AI 领导者并点名 Mythos 模型,顶级人物对竞争格局的公开表态本身构成行业风向参照。

AI HOT 精选

OpenAI 发了 GPT 5.6,ChatGPT 应用改版学 Claude 分 Tab,交互反而更绕了

OpenAI 把 Codex 应用直接改名叫 ChatGPT,布局上明显在跟 Anthropic 的产品形态。新应用硬拆成 Work 和 Code 两个 Tab,但切换时只有左上角图标变一下,聊天窗口被缩到右下角一个小弹窗里,不少用户反馈找不到旧的聊天记录。

推荐理由:OpenAI 将 Codex 应用改名为 ChatGPT 并拆出 Work 与 Code 两个 Tab,聊天窗口缩为右下角弹窗,用户反馈找不到旧聊天记录。

Computing Life · Share · 鸭哥调研

别再往大模型窗口里塞几百万字了:用 RLM 像跑代码一样查 Context

Alex Zhang 提出的递归大语言模型(RLM)换了个思路处理长文本:不把资料塞进模型窗口,而是留在外部当数据,让模型自己写代码去查。在 depth=1 配置下,RLM 带着 GPT-5-mini 把 OOLONG-Pairs 的 F1 从 0.04% 拉到了 58.0%,BrowseComp-Plus 准确率从 0% 拉到 91.3%。

推荐理由:Alex Zhang 提出的 RLM 把长文本留在外部当数据、让模型写代码去查,depth=1 下把 OOLONG-Pairs 的 F1 从 0.04% 提到 58.0%,BrowseComp-Plus 准确率从 0% 提到 91.3%。

AI HOT 精选

AI 行业烧了 1.5 万亿美元建基础设施,但想回本得先赚回 3 万亿

红杉合伙人 David Cahn 算了笔账:2026 年 AI 基础设施总支出预计达到 1.5 万亿美元,算上数据中心运营和利润,整个行业需要创造 3 万亿美元收入才能让这笔投资不亏。而且这数字可能还偏保守——内存涨价、专用芯片用得越来越多,都在推高实际成本。

推荐理由:红杉合伙人 David Cahn 测算,2026 年 AI 基础设施支出将达 1.5 万亿美元,行业需创造 3 万亿美元收入才能回本,而内存涨价和专用芯片占比上升还在推高成本。

AI HOT 精选

Bun 宣布从 Zig 转向 Rust 重写,起因是内存安全 bug 修不完

Bun 的作者 Jarred Sumner 发了一篇博客,说他们要把整个 Bun 从 Zig 语言换成 Rust 重写。直接导火索是 v1.3.14 版本修了一大串内存相关的崩溃和泄漏,比如释放后继续使用、重复释放、内存泄漏,问题集中在垃圾回收和手动内存管理混用的地方,太容易出错了。

推荐理由:Bun 作者 Jarred Sumner 宣布将整个项目从 Zig 换成 Rust 重写,起因是 v1.3.14 集中修复的一批内存崩溃与泄漏,问题出在垃圾回收和手动内存管理混用。

MIT Technology Review · AI

Anthropic 发现 Claude 模型内部有个“隐藏空间”,会提前暴露它正在琢磨的概念

Anthropic 搞了个叫 J-lens(雅可比透镜)的工具,在 Claude Opus 4.6 模型中间层挖出一块他们称为 J-space 的区域。这块区域会蹦出一些词,这些词跟模型接下来要说的内容相关,但未必会出现在最终回答里——有点像模型在脑子里先过了一遍草稿。Anthropic 认为盯着这些词能帮他们理解和控制模型。

推荐理由:Anthropic 用自研工具 J-lens 在 Claude Opus 4.6 中间层找到一块 J-space,模型会先冒出与后续回答相关却未必写进输出的概念词,为观察模型内部活动提供了一条路径。

TechCrunch · AI

美国政府怎么判定 OpenAI 的 Sol 模型可以安全发布?没人说得清

OpenAI 正在向公众开放它的最新大模型 Sol,能力至少对标 Anthropic 的 Fable——后者曾让白宫紧张到短暂禁止公开访问。但这两家公司的模型是怎么拿到安全放行许可的,外界完全不清楚。乔治城大学 CSET 的高级研究员 Mina Narayanan 说,她自己也没有渠道了解政府的审查流程。

推荐理由:OpenAI 向公众开放新模型 Sol,能力对标曾让白宫短暂禁止公开访问的 Fable,但两家模型如何通过政府安全审查,连乔治城大学研究员也无从了解。

AI HOT 精选

Anthropic 发起“硬问题”倡议,公开征集公众对 AI 最尖锐的担忧和期待

Anthropic 今天上线了一个叫“硬问题”的公开页面,直接请大家把对 AI 最尖锐的担忧和希望抛过来。这不是一次性的公关动作,他们同步放出了三组数据作为公众情绪的基线:一份覆盖 5.2 万名美国人的调查、一份在 159 个国家用 70 种语言访谈了 8.1 万名 Claude 用户的报告,以及多场线下焦点小组的反馈。

推荐理由:Anthropic 上线硬问题页面征集公众对 AI 的担忧与期待,并同步公开覆盖 5.2 万名美国人的调查和 159 个国家 8.1 万名 Claude 用户的访谈报告。

Hacker News 首页

一个能逐层查看并编辑 AI 模型“内心想法”的浏览器工具

Lucid 让你在浏览器里输入一句话,就能看到 Qwen、Pythia 这类小模型在张嘴回答前,每一层网络里哪些概念被激活了。它用了一种叫 Jacobian lens 的方法,跑一次前向传播就能出结果,不用注册也不用安装。作者借用了 Anthropic 的 J-space 框架,把模型内部可被报告的表征当成一个“全局工作区”。

推荐理由:作者把 Jacobian lens 做成了浏览器工具,输入一句话就能逐层查看 Qwen、Pythia 这类小模型回答前激活了哪些概念,无需注册安装,一次前向传播即可出结果。