跳到正文

#端侧

今日 0 条

10月29日星期四

The Decoder

Google 向第三方 AI 智能体开放 Android 开发环境,并推出新 Gemini API

Google 在今年 Android Dev Summit 推出 Android Studio Rabbit 2 的 BYOA 功能,并发布面向端侧智能体和应用连接的新 API。

推荐理由:Google 将第三方编码智能体接入 Android Studio,并开放应用工具调用接口,让智能体能直接使用开发环境工具与应用功能。

10月28日星期三

Hacker News 首页

Survival LLM 提供本地运行的开源 AI 助手与应急资料库

Survival LLM 是免费开源的本地 AI 助手与应急资料库,联网完成安装后可离线回答问题,并展示来源文章及对应原文。它支持 Mac 和 Windows,按电脑内存下载适配模型,资料库包含医疗、应急、生存及维修指南和约 930,000 篇 Wikipedia 文章,完整资料库下载量为 9 GB,安装后占用 19 GB。

Hacker News 首页

Liquid AI 发布 LFM3:面向专用智能的多模态模型家族

Liquid AI 发布 LFM3,首批包含 6 款 2B 级模型,以共享骨干覆盖文本、视觉、音频、全模态和决策任务。新骨干采用短卷积、滑动窗口注意力与全局注意力的三混合架构,经过 22T tokens 预训练,文本模型提供 256K tokens 上下文窗口。

Hacker News 首页

Apple 发布搭载 M6 的新款 14-inch MacBook Pro

Apple 发布搭载 M6 的新款 14-inch MacBook Pro,称其端侧 AI 工作负载性能较 M5 最高提升 25 percent。M6 配备 12-core CPU、12-core GPU 和 Dual 16-core Neural Engine,本地 LLM 提示词处理的首 token 性能较 M1 最高提升 13x、较 M5 最高提升 1.3x。

10月27日星期二

Latent Space

如何在喜马拉雅山麓用 OpenCode 与 Qwen3.5 9B 离线编码

Rittika Jindal 在笔记本上通过 OpenCode 和 Ollama 运行 Qwen3.5 9B,断网后完成费用计算程序的修复,原有 5 项测试全部通过。教程给出预下载模型与项目依赖、限制为本地服务、检查断网状态及逐次批准编辑和命令的流程,作者也独立重跑测试并确认测试文件未改动。实测仅涉及一行累加逻辑修复,CSV 报告和日志分析器练习尚未完成离线运行,不能据此判断大型仓库任务的表现。

Hacker News 首页

苹果发布搭载 M6 芯片的新 iMac

苹果推出搭载 M6 芯片的新 iMac,官方称其速度最高达最主流 Intel 版 iMac 的 18 倍、M1 版 iMac 的 12 倍,端侧 AI 性能为 M4 版 iMac 的 5 倍。

TechCrunch · AI

Opera 推出 WebAI 标准,让用户在浏览器本地运行 AI 模型

Opera 推出 WebAI 网络标准,让用户直接在浏览器本地运行 AI 模型,无需依赖云端。该功能已在 Opera One 提供早期预览,需用户主动启用,Opera GX 和 Opera Neon 将随后支持;兼容模型包括 Google 的 Gemma 和 Mac 上的 Apple 端侧基础模型。WebAI 支持本地文本生成、内容分类和信息关联理解,相关数据留在设备上,模型性能取决于设备硬件。

Hacker News 首页

Hob 推出开源端侧工具,作为 Claude Cowork 和 ChatGPT 的替代方案

Hob 是免费、开源的端侧 AI 工具,可离线使用,支持填写 PDF 和处理文档。它会选择适合用户电脑的前沿开放权重模型并自动完成设置,支持配备至少 8 GB 内存的 Apple silicon Mac、Windows 和 Linux 电脑。下载入口为 hob.chat,项目地址为 https://github.com/FrigadeHQ/hob。

10月26日星期一

Hacker News 首页

苹果发布新款 iPad mini:搭载 A20 Pro 与 8.5 英寸 OLED 屏

苹果发布新款 iPad mini,搭载 A20 Pro 芯片,配备 8.5 英寸 OLED 屏,峰值亮度较上代提升 2 倍以上,并新增 IP67 防尘抗水。新品 10 月 28 日起在 36 个国家和地区开启预购,11 月 6 日到货,Wi-Fi 版起售价 699 美元,提供 128GB、256GB、512GB 三种容量。

10月25日星期日

Hacker News 首页

EPFL 研发 LogSync 神经芯片,实时解码脑区交互

EPFL 团队开发出低功耗可植入神经芯片 LogSync,可记录脑活动并提取脑波强度与跨脑区信号同步性等生物标志物,再由机器学习算法区分认知与情绪状态并触发刺激。芯片尺寸约 4x2 mm,功耗低于 200 微瓦,采用对数计算简化脑网络分析。研究基于人类脑记录与大鼠实验验证,论文发表于 IEEE Journal of Solid-State Circuits。

TechCrunch · AI

Block 发布语音模型 Dessa,笑声、停顿和哭声表现接近真人

Block 发布可本地运行的全双工语音模型 Dessa,支持同时听说,并展示了笑声、停顿和哭声等接近真人的表达。Block 称该模型完全使用人类语音和单张 NVIDIA GPU 训练,知识来自对话数据,情绪表达内置于模型。Dessa 可在 MacBook M4 Max 或更高配置的消费级电脑上运行,目前尚未公开开放,Block 正邀请安全研究人员测试。

10月24日星期六

The Decoder

Block 推出语音模型 Dessa:完全用人类语音训练,能捕捉文本模型遗漏的情绪

Block 发布 AI 语音模型 Dessa,号称首个完全基于人类语音、不含任何文本数据从零训练的模型,直接以音频处理语音,可实时捕捉情绪、讽刺、笑声和停顿。该模型支持全双工交流,可在 MacBook Pro M4 Max 本地运行,训练使用单台 NVIDIA GB200 NVL72。Dessa 尚未公开,团队正招募 AI 安全研究者测试其意外风险。

Hacker News 首页

技术拆解:Block Blast 如何通过操控玩家输局赚取广告收入

Ayo Omolewa 的技术拆解发现,Block Blast 从服务器下载规则,根据广告价格、观看记录和玩家分数请求无法完成的方块组合。测试中的规则要求最近 3 次激励广告均完成、待播放广告价值达到上次的 3.5 倍,且分数超过历史纪录 1,000 分;iPhone 实测还捕捉到另一条规则触发无解发牌。

The Verge · AI

Jack Dorsey 的 Block 发布 Dessa,像略显尴尬的新朋友一样与你交谈

Jack Dorsey 的 Block 宣布语音模型 Dessa,仅用人类对话从零训练,演示交流大体自然,也出现认错人和突然跑题。团队称它是直接处理语音输入与输出的模型,所有知识均来自人类语音,可在 MacBook Pro M4 Max 或更高配置设备上本地运行。团队希望改善人与 AI 的理解及语音情绪识别相关安全问题,将向一小群 AI 安全研究人员提供早期访问权限。

Computing Life · Share · 鸭哥调研

从 iSH 到 Open Minis:手机 Shell 已有多年,智能体运行时带来了什么

Open Minis 在 iSH 的 Linux 用户态环境上加入智能体运行时,让模型串联本地脚本、内置浏览器与 iOS 原生接口。它没有运行独立的 Linux 内核,受 iOS 限制采用解释执行;作者在 iPhone 上观察到部分工具调用失败,后台挂起、内存管理和授权也限制了任务执行。文章提出将手机的现场感知与长期智能体的记忆规划分层连接,通过主动推送和按需拉取接续跨端任务,而非仅同步技能文档。

10月23日星期五

Hacker News 首页

Show HN:把智能电视变“笨”再变智能,webOS 本地主页与私有浏览器方案

开发者发布 R2D2 for webOS 项目,为 webOS 电视提供本地主页、私有远程浏览器和按键说话语音助手,由一台 aarch64 Linux 主机运行 Chromium 与语音模型,电视仅作显示、应用和遥控端。该项目需电视 root 权限并修改厂商系统服务,仅针对特定固件版本验证,Home、浏览器和遥控语音已端到端跑通,其他电视与固件组合尚未验证。

Hacker News 首页

OnKey 推出免费开源 Mac 练唱工具,显示跑调位置并逐句评分

Daniel Murrell 推出 OnKey,一款免费开源的 Mac 练唱工具,可学习歌曲旋律、实时显示演唱音高并逐句评分。歌曲播放结束后,它在本地分离主唱人声,用 CREPE 追踪音高、GAME 建模音符;需要 Apple Silicon(M1 或更新)及 macOS 14.2 或更新版本。

10月22日星期四

Hacker News 首页

WorldTUI 将 360M 参数模型训练成模拟终端

WorldTUI 基于 Qwen2.5-Coder-0.5B 微调,用 360M 参数模型根据按键预测终端屏幕变化,背后没有真实 shell 或文件系统。训练使用 336k 段真实终端会话,并通过错误修复训练改善一致性,通过并行生成屏幕行和顺序验证加速推理。

10月21日星期三

AI HOT · 产品

Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理

Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理或 WiFi。模型和智能体均在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端。该功能现已在 Perplexity Mac 应用中可用。

推荐理由:Perplexity Computer 将模型和智能体放在 Mac 本机运行,操作原生应用和本地文件时敏感数据不必发送到云端。

10月20日星期二

Computing Life · Share · 鸭哥调研

员工用 AI 被辞退获法院支持、Anthropic 电视盒推理实验与 Character.ai 破产资产出售分析

北京朝阳法院判保险公司辞退使用第三方 AI 的员工违法,Anthropic 用电视盒合跑模型,Character.ai 申请破产保护。法院指出企业未明文禁用第三方 AI,也未举证文件涉密或实际损害;Anthropic 用 15 台约 55 美元的电视盒运行 Gemma4-26B-A4B,速度为 0.39 token/秒,研究尚未实现完整的失控自我复制。

10月19日星期一

10月18日星期日

10月16日星期五

AI HOT · 产品

NVIDIA RTX Spark 笔记本今日开售,最高配备 128GB 统一内存

NVIDIA RTX Spark 笔记本今日全球开售,最高提供 128GB 统一内存和 1 petaflop FP4 AI 性能,起价 $2,599。产品结合 Blackwell RTX GPU、Grace CPU 与 CUDA,支持本地运行大语言模型和 AI 智能体,并提供智能体权限控制及家庭网络推理服务。

推荐理由:NVIDIA RTX Spark 将本地模型运行、编码和测试整合到 Windows 笔记本中,让开发流程减少对云端测试环境的依赖。

The Verge · AI

Meta 与 Apple 合作,让 Muse AI 模型更好地在 Mac 上运行

Meta 发布 Muse Spark Open 并开放权重,与 Apple 合作使其能通过最新 MLX 框架在两台 Apple M5 Ultra Mac Studios 上运行。Meta 称该模型原生支持多模态,总参数量为 816 billion,擅长长周期任务、复杂软件工程和多步推理。双方已合作数月,Apple 也发布了涉及 MLX、Muse Spark Open 和另外两个开放模型的技术文章。

推荐理由:Meta 与 Apple 将持续数月的合作落实到模型与框架适配,让大规模开放权重模型能在两台桌面设备上运行。

Hacker News 首页

Meta 发布 Muse Spark Open 开放权重模型,支持双台 Mac Studio 本地运行

Meta 发布 Muse Spark Open 模型权重,原生支持多模态,拥有 816B 总参数、42B 活跃参数和 1M-token 上下文窗口,面向编码与智能体任务。

推荐理由:Meta 开放 Muse Spark Open 权重并支持双台 Mac Studio 本地运行,让编码与多模态智能体工作流能在桌面端执行。

AI HOT · 模型

Black Forest Labs 发布开放权重图像模型 FLUX 3 Image Klein(5.6B)

Black Forest Labs 发布 5.6B 参数的开放权重模型 FLUX 3 Image Klein,支持文生图、图像编辑及最多 10 张参考图的多参考生成。

推荐理由:FLUX 3 Image Klein 通过 INT8 量化支持低至 8GB 显存的设备运行,降低本地图像生成与编辑的硬件门槛。

AI HOT · 模型

NVIDIA 发布开源 Nemotron 3.5 Super VL 及两款 Bolt 边缘模型

NVIDIA 发布 Nemotron 3.5 Super VL 和两款 Bolt 边缘模型,覆盖企业服务器到本地设备的智能体部署。Super VL 为 120-billion-parameter 多模态模型,开放权重、数据集和训练配方,支持理解图像、网页及 PDF,并可用组织自有数据进行后训练。

推荐理由:NVIDIA 为服务器和边缘设备推出开放模型,组织能按硬件条件选择部署层级,并用自有数据定制智能体任务。