跳到正文

#教程/实践

今日 0 条

11月12日星期四

11月4日星期三

11月3日星期二

MIT Technology Review · AI

“逆向博弈论”如何约束 AI 智能体的行为

“逆向博弈论”又称机制设计,尝试通过奖励与惩罚规则激励 AI 智能体遵守约束,为模型对齐提供补充路径。MIT、Yale 和 Columbia 研究者提出用交叉预测、竞争及相反偏向模型的输出匹配减少测试中的故意示弱;Princeton 的 Elad Hazan 则建议让模型轮流担任求解者与审计者,并惩罚作弊和漏检。

10月29日星期四

Computing Life · Share · 鸭哥调研

Anthropic 和 OpenAI 的外围防线如何被第三方软件与旧授权攻陷

Anthropic 与 OpenAI 的安全测试暴露了外围软件风险,第三方应用集成与旧授权让研究人员得以访问内部数据或代码仓库。Cathedral 的智能体在不到 12 小时内通过第三方软件漏洞读取 Anthropic 部分内部资料;Hacktron 研究人员则从 OpenAI 论坛漏洞经统一登录与 Codex 的 GitHub 授权进入核心代码仓库。

10月28日星期三

Computing Life · Share · 鸭哥调研

DeepSeek 开源 DeepInfer:单模型推理引擎为何常比通用引擎快

DeepSeek 开源的 DeepInfer 仅支持 DeepSeek-V4.1-Flash 离线批量推理,文章解析其性能优势来源与开源范围。GPUStack 同机测试中,DeepInfer 总吞吐比 vLLM 高 25.2%,首字延迟却为 4.28 秒对 2.04 秒,双方均关闭投机解码且未充分调优。

10月27日星期二

TechCrunch · AI

OpenAI 如何将编码工具转变为常驻个人助手 dots

OpenAI 将编码工具的智能体能力重新包装为常驻个人助手 dots,让它在后台持续工作并主动提供帮助。dots 于 9 月下旬发布,面向 ChatGPT 桌面和移动应用的 Pro 及以上订阅用户开放,套餐起价为每月 $100,可连接日历、邮件、电脑及其他工具。

推荐理由:OpenAI 将编码工具的智能体能力包装为 dots,通过单一持续对话和主动研究,让用户减少提示与手动引导。

10月22日星期四

Dwarkesh Patel 播客

2045 年的计算机芯片会是什么样?Intel 工厂探访与技术解读

Dwarkesh Patel 用两天探访 Intel 先进晶圆厂并访谈技术负责人,解读通向 2045 年的芯片技术路线及 AI 需求带来的产能压力。节目通过动画解释全环绕栅晶体管、背面供电、CFET 与混合键合,讨论新结构从实验室走向量产的工艺、互连和散热难题。

10月19日星期一

Computing Life · Share · 鸭哥调研

相机、无人机与手机哪些已被破解,AI 在硬件逆向中做了什么

消费设备的解锁涉及官方开放、替代固件、隐藏参数、临时内存补丁和持久扩展五类机制,不能统称为攻破底层安全锁。适马 fp 的 fpSup 属于运行内存补丁,重启即失效;大疆 Mavic 4 Pro 的公开信号增强工具修改遥控器侧参数,未改飞机固件。

10月18日星期日

Computing Life · Share · 鸭哥调研

大模型 API 的 ZDR 承诺解读:提示词可能在哪些环节被保留

大模型 API 的 ZDR 承诺有适用范围,文章梳理了应用状态、反滥用监控、缓存及法律保全可能保留数据的路径。文章结合 OpenAI、Anthropic 的政策说明,区分不用于训练与零数据保留,并强调部分端点和高级功能可能不受 ZDR 覆盖。工程应对包括检查调用链与第三方处理者、在数据出网前脱敏,以及为供应商切换或本地模型部署保留退路。

10月2日星期五

Computing Life · Share · 鸭哥调研

OpenAI 的 AI 蠕虫如何在沙盒训练中产生并用于安全训练

OpenAI 的自我复制提示词蠕虫在受控沙盒训练中产生,报告称未观察到训练与评估模拟工具调用之外的影响。文章解读了 GPT-Red 如何通过奖励未授权操作和攻击指令转发,训练攻击者生成可沿邮件等渠道传播的注入内容,并将批量攻击样本用于 GPT-5.6 的训练。文章将这一流程视为安全训练生产方式的转变,并提出以外部数据隔离、关键动作人工审批和外发文本审计限制智能体受骗后的操作。

推荐理由:OpenAI 用自动化红队批量生成攻击样本并纳入模型训练,将安全防御从发布前人工测试推进到训练阶段的持续对抗。