News

O repórter Jang Ha-na = SK Hynix anunciou recentemente a era da IA, incluindo a placa aceleradora AiMX, no 'Artificial Intelligence (AI) Hardware & Edge AI Summit 2024' (doravante denominado como AI Hardware Summit) realizada em San Jose, Califórnia, EUA.

De acordo com a redação da SK Hynix no dia 19, a SK Hynix participou deste evento com o slogan 'AiM que acelera o desempenho da IA ​​de data centers a dispositivos de ponta' e apresentou soluções AiM e visão de futuro.

O AI Hardware Summit é um evento onde empresas globais de tecnologia da informação (TI) e startups promissoras participam para compartilhar as mais recentes tecnologias e resultados de pesquisa e buscar oportunidades de cooperação dentro da indústria por meio de networking.

AiM é o nome do produto semicondutor inteligente (PIM) da SK Hynix. AiMX, apresentado desta vez, é um produto de placa aceleradora da SK Hynix especializado em modelos de linguagem de grande escala (LLM) usando o chip GDDR6-AiM.

SK Hynix explicou que seu AiM realiza alguns cálculos dentro da memória, mostrando alta largura de banda e excelente eficiência energética em comparação com a memória existente, e permite que o alto desempenho computacional exigido pela IA generativa baseada em LLM seja implementado de forma mais econômica.

No estande da exposição, o desempenho do AiMX foi demonstrado usando o mais recente modelo LLM da Meta, 'Llama3 70B'.

O recém-lançado AiMX dobrou a capacidade de memória de 16 GB (gigabytes) para 32 GB e recebeu muita atenção por processar dados usando multilote, uma técnica para processar vários grupos de dados simultaneamente.

Neste evento, a SK Hynix revelou uma solução AiM que pode ser aplicada não apenas a data centers, mas também a dispositivos de ponta (IA no dispositivo).

SK Hynix disse: “O ponto forte desta solução é que ela pode aumentar o desempenho sem alterar a interface de memória dos dispositivos de borda existentes” e acrescentou: “Se a DRAM móvel for substituída pelo AiM da SK Hynix, a velocidade do LLM pode ser melhorada em até 3 vezes em comparação com o existente “Estou ansioso pela eficiência energética”, disse ele.

Em sua apresentação na sessão, Lim Lim, vice-presidente da SK Hynix, enfatizou que a tecnologia AiM é uma solução central para serviços LLM e compartilhou planos para desenvolver produtos AiM para IA móvel baseada em DRAM no dispositivo.

SK Hynix disse: "Planejamos continuar a construir um ecossistema acelerador de IA de próxima geração, colaborando com empresas globais por meio de várias soluções AiM e fortalecendo nossa liderança no mercado de IA em dispositivos".

hanajjang@yna.co.kr

https://www.yna.co.kr/view/AKR20240919046900003?input=1195m