7月19日，在美国加利福尼亚州圣克拉拉举行的 FMS 2024（内存和存储的未来）会议上，NEO Semiconductor 首席实行官 Andy Hsu 宣告，将推出 一款改变游戏规则的 3D DRAM——3D X-AI，具有 AI 处理功能，将数据存储和数据处理结合在单个芯片中，将神经网络（ANN）性能提高 100 倍，功耗降落 99%。
Andy Hsu表示，基于NEO 的3D X-DRAM技能，3D X-AI仿照人工神经网络，包括用于权重数据存储的突触和用于数据处理的神经元，使其非常适宜加速下一代AI芯片和运用。3D X-AI 可替代高带宽内存 （HBM），有望显著推动 AI 芯片设计和 AI 事情负载优化。
据先容，单个 3D X-AI 芯片包括 300 层 3D DRAM，容量为 128 Gb，以及 1 层神经网络电路，具有 8,000 个神经元，每个芯片支持高达 10 TB/s的 AI 处理吞吐量。利用 12 个堆叠 HBM 封装的 3D X-AI 芯片，只需一个 3D X-AI 芯片，即可将 3D X-AI 芯片的容量和性能提升 12 倍，达到 1,536 Gb （192 GB） 容量和 120 TB/s 的处理吞吐量。
“范例的人工智能芯片利用基于处理器的神经网络。这涉及结合高带宽内存来仿照用于存储权重数据的突触和图形处理单元 （GPU） 来仿照用于实行数学打算的神经元。性能受到HBM和GPU之间数据传输的限定，来回数据传输会降落AI芯片性能并增加功耗，“NEO创始人兼首席实行官Andy Hsu说：“具有 3D X-AI 的 AI 芯片利用基于内存的神经网络。这些芯片具有神经网络功能，每个 3D X-AI 芯片中都有突触和神经元。在实行 AI 操作时，它们用于大幅减少 GPU 和 HBM 之间数据传输数据的繁重事情负载。我们的 3D DRAM极大地提高了 AI 芯片的性能和可持续性。”
编辑：芯智讯-浪客剑
