The race for AI memory is gaining new momentum

American companies Nvidia and South Korean giant SK Hynix announced a multi-year partnership in the field of development and production of memory chips for artificial intelligence (NE). The agreement covers design and production, including memory for the company's most powerful graphics accelerator to date.

For reference: Nvidia is a world leader in the development of graphics processors and artificial intelligence technologies. Their advanced AI accelerators (example, Blackwell architecture or Vera Rubin's new systems)
is the main "brain" for training and operation of modern neural networks.

SK Hynix — one of the world's largest manufacturers of semiconductor memory (the second largest manufacturer of memory chips overall). The company is a leading developer and exclusive supplier of high-speed HBM memory (High Bandwidth Memory), necessary for the functioning of powerful Nvidia processors

As of today, memory remains one of the most acute bottlenecks in the development of AI infrastructure, therefore, the key area of ​​cooperation between the companies is memory chips with a wide bandwidth of the fourth generation HBM4. It is used in server systems for AI training and operation. Nvidia has already confirmed, that SK Hynix received the right to supply HBM4, Samsung Electronics і Micron Technology. Three memory manufacturers control the global market and compete fiercely for contracts with Nvidia. Саме їх чипи стануть основою для Vera Rubin, найпотужнішого графічного прискорювача Nvidia на сьогодні, побудованого на кластерах процесорів і графічних ядер із терабайтами пам’яті у кожній серверній системі. Постачання заплановане на третій квартал 2026 year, виробництво вже розпочате.

SK Hynix постачатиме Nvidia повний асортимент продукції: оперативну пам’ять для роботи систем, чипи HBM для надшвидкого обміну даними між процесором і пам’яттю, а також твердотільні накопичувачі для довготривалого зберігання інформації. Співпраця між компаніями охоплює також ШІ-інфраструктуру та фізичний ШІ, тобто напрям, де штучний інтелект керує роботами й автономними системами у реальному світі. Разом зі SK Telecom і Naver компанія розроблятиме хмарні ШІ-сервіси.

Source: https://www.bloomberg.com