AI芯片,需要怎样的内存?
2023-09-25 04:12:16
上周,我(指代本文作者)有幸在人工智能硬件和边缘人工智能峰会上主持了一场小组讨论,主题为“下一代人工智能/机器学习计算的内存挑战”。MLCommons 的 David Kanter、微软的 Brett Dodds 和 AMD 的 Nuwan Jayasena 加入了我的行列,这三位卓有成效的专家就内存对于 AI/ML 的重要性提出了不同的看法。我们的讨论重点是 DRAM 和内存系统面临的一些挑战和机遇。随着 AI/ML 的性能要求持续快速增长,内存的重要性也不断增长。