undefined
通过支持大型 AI 模型在标准消费级硬件上运行,群联电子的 aiDAPTIV+ 技术消除了广泛采用 AI 的主要障碍:对昂贵专用 GPU 的需求。这有望普及 AI 开发,使小型公司和个人开发者能够构建和微调复杂的模型,从而加速整个软件生态系统的创新。
1200 亿参数模型的 DRAM 需求从 96GB 降至 32GB
在消费级硬件上推理性能最高提升 10 倍
aiDAPTIV+ 将大型模型 AI 能力扩展至配备集成 GPU 的 PC
该技术利用 NAND 闪存为 AI 任务扩展系统内存
1200 亿参数模型的 DRAM 需求从 96GB 降至 32GB
群联电子(Phison)的 aiDAPTIV+ 技术现已支持在集成 GPU 架构上运行大型 AI 模型,通过利用 NAND 闪存扩展系统内存实现。这项创新显著降低了对 DRAM 的需求,并加速了推理性能,有望通过允许 AI 在消费级硬件上运行,从而普及 AI 开发。
登录后可保存信号笔记。
登录