三星已经构建了世界上第一个使用GPU和内置内存处理(PIM)芯片的大规模计算系统。根据BusinessKorea的一份报告，这些内存模块加载到96个AMDInstinctMI100GPU上，将AI训练性能提高了2.5倍。

PIM是新一代计算机内存，可以加速由CPU和GPU等处理器处理的计算复杂的工作流程。顾名思义，每个内存模块都能够自行处理数据，从而减少在内存和处理器之间传输所需的数据量。

三星最初在10月份展示了PIM修改的GPU，但直到最近才将96个PIM修改的GPU组合在一个集群中。与普通显存相比，这些经过改进的MI100芯片不仅性能提高了2.5倍，而且功耗降低了2.67倍，大大提高了GPU在运行AI算法时的效率。

三星开发PIM已有一段时间了。该公司在2021年演示了多种实现，涉及多种不同的内存类型，包括DDR4、LPDDR5X、GDDR6和HBM2。在LPDDR5形式中，三星在涉及MetaAI工作负载的测试程序中看到性能提高了1.8倍，功耗降低了42.6%，延迟降低了70%。更令人印象深刻的是，这些结果来自未对主板或CPU进行修改的标准服务器系统(所有更改只是更换为支持PIM的LPDDR5DIMM)。

三星并不是唯一一家开发PIM芯片的公司——SK海力士今年早些时候发布了自己的PIM模块。根据SK海力士的初步测试，其GDDR6-AiM(内存加速器)应用程序可将AI处理速度提高16倍，并将功耗降低80%。这比三星修改后的MI100s快很多，但我们不知道SKhynix使用什么进行测试，因此不能直接比较。

无论如何，PIM看起来像是一个有效的解决方案，可以加速AI加速的工作流程。“作为AI研究中心的负责人，我想让三星成为一家比其他任何公司都更好地使用AI的半导体公司，”三星电子高级技术研究所副总裁兼AI研究中心负责人ChoiChang-kyu表示，告诉韩国商业。