A Micron apresentou a primeira memória LPDDR‑SOCAMM2 do mundo com capacidade de 256 GB, ideal para IA.

Micron lança um novo tipo de memória para data centers

A Micron apresentou ao mundo o primeiro módulo de memória RAM LPDRAM SOCAMM2 de 256 GB, criado especificamente para centros de dados de alto desempenho e tarefas de inteligência artificial.

O que há de novo?
Parâmetro Memória tradicional LPDRAM SOCAMM2
Consumo de energia – três vezes menor
Tamanho do módulo – compacto, construído a partir de cristais monolíticos de 32 Gb/s
Largura de banda – aumentada para inferência de IA
Latência – significativamente reduzida

Em operação com um processador de oito canais e 2 TB de memória total, a velocidade de inicialização de modelos de IA (tempo até o primeiro token) aumenta mais do que duas vezes e meia.

Para quem é isso?
O módulo está direcionado para:

- implantação de grandes modelos de linguagem;
- qualquer carga de trabalho em que volume de memória, largura de banda e latência sejam críticos;
- cenários nos quais parte do cache KV pode ser transferida da memória de vídeo para a memória do sistema mais econômica sem perda de desempenho.

Formato e colaboração
SOCAMM2 é uma variante compacta do formato RDIMM, mas com menor consumo de energia. O desenvolvimento da memória foi realizado em conjunto com a Nvidia, o que destaca sua adequação à aceleração por GPU de IA.

Assim, a Micron oferece uma solução eficiente para data centers, permitindo reduzir custos de energia e espaço, enquanto melhora o desempenho das cargas de IA.