Micron představila první v světě paměť LPDDR‑SOCAMM2 o objemu 256 GB, ideální pro AI.

Micron uvádí nový typ paměti pro datová centra

Společnost Micron představila na světovém trhu první modul operační paměti LPDRAM SOCAMM2 o objemu 256 GB, speciálně vytvořený pro vysoce výkonná data‑centra a úkoly umělé inteligence.

Co je nové?
Parametr | Tradiční paměť | LPDRAM SOCAMM2
---|---|---
Spotřeba energie | – třikrát nižší |
Rozměry modulu | - kompaktní, vyrobený z monolitických krystalů 32 Gb |
Propustnost | – zvýšena pro inference AI |
Zpoždění | – výrazně sníženo |

Při práci na osmi‑kanálovém procesoru a 2 TB celkové paměti se rychlost spuštění modelů AI (čas do prvního tokenu) zvyšuje více než dvakrát a půl.

Kdo to potřebuje?
Modul je určen pro:

- nasazení velkých jazykových modelů;
- jakékoli pracovní zatížení, kde jsou kritické objem paměti, propustnost a zpoždění;
- scénáře, kdy lze část KV‑cache vyložit z video­paměti do úspornější systémové paměti bez ztráty výkonu.

Formát a spolupráce
SOCAMM2 je kompaktní varianta formátu RDIMM, ale s nižší spotřebou energie. Vývoj paměti probíhal společně s Nvidia, což zdůrazňuje její vhodnost pro GPU‑akceleraci AI.

Tímto Micron nabízí efektivní řešení pro datová centra, které umožňuje snížit náklady na energii a prostor a zároveň zlepšit výkon AI‑zátěží.