热点事件观察中
笔记本跑7000亿参数GLM:没显卡也行,把SSD当显存用
1 篇报道1 个报道来源3 天前更新
先了解这件事
事实说明
一个GitHub项目火了:在没GPU的笔记本上跑700亿参数的GLM模型。办法是把SSD当显存用,用存储换速度。正文没披露具体延迟和精度损失,但思路很直接——内存不够硬盘凑。对没显卡的开发者来说,是个低成本试大模型的办法。
报道时间线
沿着报道,了解事件的不同侧面。
9月26日
- 量子位 · 公众号笔记本跑7000亿参数GLM:没显卡也行,把SSD当显存用
一个GitHub项目火了:在没GPU的笔记本上跑700亿参数的GLM模型。办法是把SSD当显存用,用存储换速度。正文没披露具体延迟和精度损失,但思路很直接——内存不够硬盘凑。对没显卡的开发者来说,是个低成本试大模型的办法。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。