[미디어펜=조우현 기자]SK하이닉스가 지난 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 'AI 하드웨어 & 에지 AI 서밋 2023'(이하 AI 서밋)에서 생성형 AI 가속기 카드인 AiMX 시제품을 최초 공개했다.
18일 SK하이닉스 뉴스름에 따르면 AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 AI 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.
GDDR6-AiM(Accelerator-in-Memory)을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품 /사진=SK하이닉스 제공
SK하이닉스는 이번 서밋에서 'AI 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 처음 선보였다.
PIM은 메모리 반도체에 연산 기능을 접목한 차세대 기술로, SK하이닉스는 지난해 2월 PIM이 적용된 GDDR6-AiM을 개발한 바 있다.
AiMX는 이 같은 GDDR6-AiM 칩을 사용해 만든 대규모 언어 모델에 특화된 SK하이닉스의 가속기 카드 제품이다.
가속기란 각종 정보 처리와 연산에 특화 설계한 칩을 사용해 만든 특수 목적의 하드웨어 장치를 말한다.
생성형 AI가 제대로 작동하기 위해서는 대량의 데이터를 다루면서 저전력·고속으로 작동하는 메모리가 필요하다.
SK하이닉스는 특히 이번 행사에서 메타(Meta)의 생성형 AI인 'OPT 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.
GDDR6-AiM 칩을 탑재한 AiMX 시스템은 그래픽처리장치(GPU)를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1수준이라고 강조했다.
임의철 SK하이닉스 부사장(메모리솔루션 담당)은 이번 서밋 세션 발표에서 "AiMX는 기존 GPU 대비 고성능·저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어 나갈 것"이라고 말했다.
[미디어펜=조우현 기자]