Ao navegar em nosso website há algumas semanas, me deparei com “Como e quando terminará a escassez de chips de memória“pelo editor sênior Samuel K. Moore. Sua análise se concentra no atual DRAM escassez causada pelo apetite voraz dos hiperscaladores de IA por memória, uma grande restrição na velocidade com que grandes modelos de linguagem correr. Moore fornece uma explicação clara da escassez, especialmente de memória de alta largura de banda (HBM).
Como nós e o resto da mídia tecnológica documentamos, a IA consome recursos. IA consumo de eletricidade poderia representar até 12% de toda a energia dos EUA até 2028. Consultas generativas de IA consumiram 15 terawatts-hora em 2025 e deverão consumir 347 TWh até 2030. Consumo de água para resfriamento de knowledge facilities de IA prevê-se que duplique ou mesmo quadruplique até 2028 em comparação com 2023.
Mas os relatórios de Moore iluminam um canto obscuro do increase da IA. HBM é um tipo específico de produto de memória feito sob medida para servir IA processadores. Os fabricantes desses processadores, nomeadamente Nvidia e AMDestão exigindo cada vez mais memória para cada um de seus chips, impulsionados pelas necessidades e desejos de empresas como Google, Microsoft, OpenAIe Antrópicoque estão subscrevendo um aumento sem precedentes de centros de dados. E algumas dessas instalações são colossais: você pode ler sobre os desafios de engenharia da construção do impressionante sistema de 5 gigawatts da Meta. Hipérion website na Louisiana, em “O que será necessário para construir o maior knowledge middle do mundo?”
Percebemos que a história de Moore na HBM period importante e única, e por isso decidimos incluí-la nesta edição, com algumas atualizações desde o unique publicado em 10 de fevereiro. Combinamos isso com uma história recente do editor colaborador Matthew S. Smith que explora como a escassez de chips de memória está aumentando o preço de computadores de baixo custo como o Framboesa Pi. O resultado é “IA é um devorador de memória.”
A grande questão agora é: quando terminará a escassez? Pressão de preços causada pela demanda de hiperescala de IA em todos os tipos de eletrônicos de consumo está sendo mascarado por uma inflação teimosa combinada com um regime tarifário em constante mudança, pelo menos aqui no Estados Unidos. Então perguntei a Moore quais indicadores ele está procurando que sinalizariam uma redução na falta de memória.
“Do lado da oferta, eu diria que se alguma das três grandes empresas da HBM—Mícron, Samsunge SK Hynix—dizer que estão ajustando o cronograma de chegada de nova produção, isso seria um sinal importante”, disse-me Moore. “Do lado da demanda, será interessante ver como as empresas de tecnologia se adaptam para cima e para baixo no futuro. cadeia de mantimentos. Os knowledge facilities podem optar por {hardware} que sacrifique parte do desempenho por menos memória. Startups o desenvolvimento de todos os tipos de produtos pode direcionar-se para redesenhos criativos que usam menos memória. Restrições como a escassez podem levar a soluções tecnológicas interessantes, por isso estou ansioso para abordá-las.”
Para ter certeza de que você não perderá nenhuma análise de Moore sobre esse tópico e para se manter atualizado sobre todo o espectro do desenvolvimento tecnológico, inscreva-se em nosso boletim informativo semanal, Tech Alert.
Dos artigos do seu website
Artigos relacionados na internet