萨姆・奥尔特曼,OpenAI 的首席执行官,在 YouTube 播客 Cheeky Pint 中分享了他对内存资源使用的看法。他讨论了在个人电脑上运行本地 AI 模型的相关问题。随着开源模型的兴起,有些用户倾向于在自家电脑上运行 AI 模型,从而减少对云服务的依赖。奥尔特曼表示,在内存供应有限的情况下,将更多资源集中到更高效的数据中心能够更好地满足整体算力需求。他指出,许多人在个人电脑上使用大量的 DRAM,而这些内存有很大一部分时间几乎没有被利用,仅占用了 5% 的时间,这样的做法实际上非常不合算。应对目前资源稀缺的情况,利用云端的资源才能达成最大化。
他也意识到这与大多数人的直觉有些不同。很多人认为,随着开源模型的面世,自己可以在电脑上处理数据,从而无需依赖数据中心。实际上,这种逻辑有显著的误导性。大多数人购买电脑的目的不仅是为了运行 AI 推理,游戏、专业软件及操作系统都需要占用内存。因此,PC 用户购买内存的需求与云端 AI 服务提供商的需求并不完全相同。
目前供应端仍面临压力。三星电子预估,由于 AI 基础设施建设的推动,存储芯片供应紧张的情况可能会持续到 2028 年。在公司的第三季度业绩电话会议上指出,AI 基础设施的竞争加剧以及个人 AI 助手的普及,将继续推动内存需求的增长。由于新增产能在短期内难以显著提升供应量,因此这种紧张状况预计将维持至 2028 年,这也意味着消费电子产品的内存成本压力短期内难以缓解,现今游戏硬件市场已经出现了价格上涨和供货紧张的现象。
发表评论