跳到正文

#部署/工程

今日 11 条

10月21日星期三

Hacker News 首页

PyPI 上的 LiteLLM 1.107.0 遭篡改,安装凭据窃取程序与后门

PyPI 上的 LiteLLM 1.107.0 包含凭据窃取程序和远程代码执行后门,该版本现已被移除。全部 7 个 wheel 均植入恶意文件,可在 Python 进程启动时运行,即使进程从未导入 litellm,也会窃取云凭据、AI 工具 token 和模型服务商 API 密钥。

推荐理由:SafeDep 分析 LiteLLM 恶意包的启动机制,未导入该库的 Python 进程也会触发攻击并暴露主机凭据。

AI HOT · 行业

ChinaTalk 解读商务部第48号公告对AI技术出口管制的影响

商务部与科技部拟扩充技术出口管制目录,ChinaTalk 解读第48号公告对AI模型、芯片设计、智能体及敏感数据相关技术的影响。公告提出40项新增条目,其中14项拟禁止出口、26项拟实行许可限制,并已要求相关技术在过渡期出口前登记,征求意见截至2026年11月15日。

推荐理由:ChinaTalk 梳理了商务部拟议管制中的开源与海外服务许可边界,中国模型企业的权重发布和技术授权将面临不同合规要求。

Hacker News 首页

LayerFS 为 AI 编码智能体提供临时工作区与持久共享历史

LayerFS 为 AI 编码智能体提供文件系统,每个智能体挂载可写的临时工作区,并将修改提交到共享的持久历史。文件工具调用和 Bash 调用形成检查点,支持从任意提交分叉,同文件冲突默认拒绝,也可用 /.lww 规则让较新的修改胜出。依赖与被忽略的文件保留在提交中,页面对比安装约需 ~5 min、挂载仅需 0.05 s,并通过去重、压缩及仅保存修改字节减少存储开销。

OpenAI News

OpenAI 与 Google Cloud 合作,将模型及 Codex 接入 Model Garden

OpenAI 与 Google Cloud 宣布合作,将 OpenAI 前沿模型及 Codex 智能体工作流接入 Google Cloud 的 Model Garden,计划在未来几周正式开放。

推荐理由:OpenAI 与 Google Cloud 合作提供模型访问,企业将能沿用现有云支出承诺采购模型并在原有数据治理环境中部署。

Mistral AI

Mistral 与 NVIDIA 合作推进工程领域 AI

Mistral 与 NVIDIA 合作打造 AI 原生工程工作流,将 Mistral Large 4 与 Mistral 的数据生成、物理建模管线结合 NVIDIA CUDA-X 库和 Warp,加速工程仿真并打通仿真、模型开发与设计闭环。

AI HOT · 行业

NVIDIA 联合六家供应链伙伴扩大制造产能

NVIDIA 宣布与六家供应链伙伴扩大全球制造产能,覆盖基板、先进封装、半导体测试和光引擎,以满足加速计算及全栈 AI 工厂平台的需求。IBIDEN、Samsung Electro-Mechanics 和 Unimicron 的协议将支持未来三年基板产能增至 2.5x;Amkor 计划到 2028 年底将中介层晶圆产能增加超过 300%。

Hacker News 首页

eMudhra 的 CA 私钥为何能在毫秒内被破解:弱密钥与客户端风险实测

eMudhra 的 8 个中间 CA 私钥仅有单字节取值,文章作者从公开证书中用不到 1 秒恢复了全部私钥。Chrome 和 Firefox 已封禁相关中间证书,但作者本地实测发现,默认配置的 curl、Python 和 Node 接受了为 api.stripe.com 伪造的证书,Windows CryptoAPI 在未开启吊销检查时也接受该证书链。

Latent Space

DeepSeek 开源 DeepInfer,披露含缓存的单集群 155T tokens/day 推理数据

DeepSeek 开源支撑 V4.1 Flash 的推理引擎 DeepInfer 及 API 处理组件 deepseek-recipe,支持分布式推理、推测解码和结构化输出。

推荐理由:DeepSeek 开源 DeepInfer 并披露高缓存命中率下的生产数据,缓存计费与硬件成本口径直接影响推理利润率估算。

Hacker News 首页

Alter(YC S25)推出面向多用户 AI 智能体的访问控制平台

Alter(YC S25)推出面向多用户 AI 智能体的访问控制平台,为每个智能体提供独立身份、限定范围的授权和请求审计。平台通过一次 SDK 调用处理凭据存储、刷新、策略与审计,支持 140 个服务提供商,并提供 LangChain、MCP 和 AWS 集成。授权默认拒绝,可细化到参数并为高风险调用设置人工审批;SOC 2 合规工作正在进行中。

Latent Space

Tenex 如何为财富 2000 强企业构建 AI 原生软件开发生命周期

Tenex 的 Alex Lieberman 与 CJ Hess 在访谈中介绍了按工程产出付酬及用 MetaHarness 组织 AI 原生软件开发的实践。Tenex 已有 75 人,仍以故事点作为工程薪酬的重要依据,挑战在于如何补偿客户沟通、架构设计等非编码工作。

Computing Life · Share · 鸭哥调研

调查者如何通过公开记录与提示词注入追踪腾讯云智能体舰队

Swarmchasers 通过公共扫描记录、临时收件箱和提示词注入,追踪到一批运行于腾讯云环境、尝试获取高德地图数据的智能体。它们借用 httpbin 和 urlquery 的浏览器执行抓取代码,一周内留下近 2,600 个针对高德域名的提交,研究团队未发现突破高德核心反爬或进入内部系统的证据。

推荐理由:Swarmchasers 沿公共扫描记录和临时收件箱追踪智能体,将外部行为、网络归属与运营方自述分层,划清了公开调查的证据边界。

AI HOT · 产品

OpenAI API 支持 12 小时提示词缓存,Codex 与 Work 登录用户缓存永久保留

OpenAI 开发者账号宣布,API 现已支持可选的 12 小时提示词缓存。持续运行的智能体可在请求间隔数小时后,以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。

AI HOT · 产品

Modal 推出 Sticky Sessions:同一会话请求始终路由到同一容器

Modal 近日推出基于 Modal Servers 的 Sticky Sessions,保证同一会话的所有请求路由到同一容器,并按活跃会话数自动扩缩容。开发者可通过 @modal.sessioned() 创建服务器,用 SDK 或 HTTP API 启动会话;签名会话 token 支持多个客户端访问同一会话。

TechCrunch · AI

Anthropic 云合作关系趋于复杂,算力容量采购遇阻

据《华尔街日报》获得的泄露 S-1 文件,Anthropic难以从AWS、Google和Microsoft获得足够云容量,这些厂商日益将其视为竞争对手。公司预计云合同支出可能超过$750 billion,包含仍在谈判的交易,并正租赁自有数据中心、与第三方运营商合作,但担忧后者运营历史有限、可靠性不足。

推荐理由:Anthropic在云厂商日益将其视为竞争对手时转向自租数据中心,容量保障又受第三方运营商可靠性风险制约。

AI HOT · 产品

Meta 开放权重模型 Muse Spark Open 上线 Fireworks 美国区 serverless

Meta 的开放权重模型 Muse Spark Open 发布当日上线 Fireworks serverless,使用美国区容量且不收取美国区溢价。该 MoE 模型拥有 816B 参数,每个 token 激活 42B 参数,上下文窗口为 1M token,面向长时程编码与智能体任务。

推荐理由:Fireworks 将 Muse Spark Open 部署于美国区并默认零数据留存,为受监管专业工作提供了明确的数据驻留与留存边界。

AI HOT · 行业

SpaceX 财报显示 AI 业务超预期,占收入 52%

SpaceX 财报显示,AI 业务已占收入的 52%,第三季度收入为 $14.6 billion,净利润为 $4.4 billion。增长尤其来自更名后的 Super Intelligence 业务,涵盖近期收购的 Cursor、Grok 和拥有 1.7 GW 算力的新型云业务。

推荐理由:SpaceX 第三季度扭亏为盈,前九个月仍累计亏损且持续投入数据中心建设,季度盈利与全年盈利压力形成对照。

Latent Space

SF Compute 的可编程数据中心如何支撑算力交易:Evan Conrad 访谈

SF Compute CEO Evan Conrad 在访谈中解释,公司通过建设云运营能力交付可用 GPU 算力,并让数据中心基础设施可编程。其订单簿按硬件、时段和工作负载中断等约束撮合买卖,避免等待算力完全标准化,但会分散流动性、扩大买卖价差。客户已能自行动态划分 InfiniBand 网络;Conrad 主张现金结算应建立在实物交付基础上,以降低指数价格与实际算力采购成本脱节的风险。

TechCrunch · AI

Google 开源 TorchTPU,与 Amazon 共同挑战 Nvidia 的 AI 开发生态优势

Google 周二宣布开源 TorchTPU,让现有 PyTorch 应用只需修改配置、无需重写代码即可迁移至 TPU 和 Google Cloud。Amazon 周一发布的 TorchNeuron 同样支持应用迁往 Trainium 和 AWS,并向 PyTorch 主项目提交解除部分功能与 Nvidia 芯片绑定的代码。

AI HOT · 产品

Databricks 发布 MemCurrent 生产级 AI 智能体持久记忆架构

Databricks 推出 MemCurrent 持久记忆架构,已用于 Agent Bricks Memory 和 Genie。它结合保存原始会话的情景记忆与提炼经验的派生记忆,通过插件、按需工具和离线 dreaming 流水线读取、写入及整理记忆。在来自真实企业任务的内部基准上,相比无记忆方案,通过率从 22.3% 提升至 68.4%,token 用量减少 31%,运行速度加快 26%。

The Decoder

Mistral AI 发布 Voxtral 3,整合实时语音智能体模型与 SDK

Mistral AI 发布面向实时语音智能体的 Voxtral 3 模型家族,将听取、思考、工具调用与说话整合进单一流式管线。系统包含 Voxtral Small Transcribe 3、Voxtral Mini TTS 3 和基于 LiveKit 的语音智能体 SDK,转录覆盖超过 50 种语言,语音输出支持超过 35 种语言及 50 种方言,并支持情绪适配。

Hacker News 首页

Google 开源 TorchTPU:面向 TPU 的原生 PyTorch 后端

Google 开源 TorchTPU,为 TPU 提供原生 PyTorch 后端,让 PyTorch 模型和算子可直接在 TPU 设备上运行。项目包含自定义 ATen kernel、XLA 计算编译缓存,支持数据并行与张量并行分布式训练,并集成 torch.compile() 图模式执行。

Computing Life · Share · 鸭哥调研

开放模型任务成本解析:为什么 Muse 比 DeepSeek 更省 token 却更贵?

开放模型的单任务成本同时受 token 消耗和单价影响,Muse Spark Open 输出量不足 DeepSeek 的一半,任务费用却高出三倍多。Artificial Analysis 的评测中,两者综合成绩均为 39 分,平均每任务费用分别为 0.84 美元和 0.27 美元,计算涵盖输入、缓存、推理思维链及最终答案的 token 费用。

Mistral AI

Mistral AI 发布 Voxtral 3 语音模型系列及语音智能体 SDK

Mistral AI 发布 Voxtral 3 语音识别与语音生成模型系列,并推出整合听取、推理、工具调用和发声的实时语音智能体 SDK。转录支持 50+ 种语言,实时转录延迟低于 500ms;语音生成支持 35+ 种语言和 50+ 种方言,可按上下文调整情绪、语速和重音。

推荐理由:Mistral 将语音识别、推理、工具调用和语音生成整合为流式管线,各阶段模型可独立替换,减少更换语言或声音时重写智能体的需求。

Hacker News 首页

VoidAccess:开源暗网 OSINT 工具,从查询到关系图谱

VoidAccess 是一款可自托管的开源暗网 OSINT 工具,能把暗网研究查询转化为结构化威胁情报,覆盖采集、富化、关系映射与导出全流程。它并行搜索 16+ Tor 搜索引擎及 paste 站点、代码托管平台和威胁情报源,支持提取 IOC、钱包、凭证等实体并生成共现关系图谱。

Hacker News 首页

Respan 发布以插件为核心的开源 Rust AI 网关

Respan 发布开源 Rust AI 网关,以小型核心和公开接口支持插件化扩展,目前处于 pre-alpha 阶段。供应商适配、MCP、实时语音、图像与视频,以及智能路由、回退和个人身份信息脱敏均可通过插件实现;跨协议转换并不覆盖所有功能。