HBM芯片,是DRAM内存的一种,但又不同于我们日常所用的DDR内存。
HBM采用3D堆栈式工艺,读写速度比DDR内存更快,存储密度更高,实现高速数据传输与低能耗特性,所以是AI芯片必不可少的的芯片。
目前英伟达的所有AI芯片,全部使用HBM内存,而不是使用DDR内存。
但HBM芯片,目前主要掌握在SK海力士、三星、美光这三家手中,SK海力士一家拿下80%的HBM市场,更是靠着HBM芯片,一举超过三星,成为全球第一大存储芯片厂商。
其中最先进的HBM3芯片,目前几乎被这三大企业垄断,国产落后很多。
而美国生怕中国在AI上超过美国,所以一直限制先进的HBM,以及相关技术流入中国,想通过这样来阻碍中国AI产业的发展。
所以对于国内众多的企业而言,HBM芯片是一个必须跨过去的坎,只有跨过这个坎,才能让AI芯片、AI产业更强大。
但是近日,华为推出了一个新技术,大大降低了AI对HBM芯片的依赖,如果这样的技术全面普及,估计SK海力士、三星们要慌了,因为这样它们的HBM芯片,就不会再那么抢手,不会再那么高高在上,供不应求了。
华为发布了AI推理创新技术UCM,通过创新架构设计降低对高带宽内存(HBM)的依赖,提升国产AI芯片自主化进程。
我们知道以前的AI芯片,完全是依赖HBM芯片,而HBM芯片又贵,所以AI模型的使用成本,其实是挺高的。
华为的UCM技术,通过一系列算法,将AI推理过程中不同要求的数据,放到不同的地方,比如实时记忆数据放在 HBM 中,而短期记忆数据放在 DRAM 中,长期记忆数据与外部知识放在SSD中。
这样可以大大降低对HBM的依赖,但同时又极大的提升整个系统的效率和 AI 推理性能。
简单的来讲,以前大这主要靠堆HBM芯片来提升效率、性能,这样需要大量的HBM芯片,成本非常高,导致SK海力士、三星这样的HBM厂商大赚特赚。
而华为的技术,不需要再像以前那样需要大量的HBM芯片了,而效率反而还提升了,那么对HBM芯片的要求就会减少,SK海力士、三星们肯定要慌了啊。
另外,对于我们而言,还有另外的意义,那就是我们不会再像以前一样,被HBM卡脖子了,我们也不再那么的需要HBM了。
正规配资炒股网站提示:文章来自网络,不代表本站观点。