AMD 인스팅트로 분주해진 서버 파트너사, 주요 신제품은?

IT동아

2024.10.11 06:43:13

조회 183 추천 0 댓글 0

[IT동아=샌프란시스코]

현지시간으로 10월 10일, 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 AMD가 주최하는 ‘어드밴싱 AI’ 행사가 진행 중이다. 앞서 행사에서 AMD는 새로운 인스팅트 MI325X AI 가속기와 차세대 제품군인 MI355X AI 가속기에 대한 정보를 비롯해 5세대 에픽 프로세서, 라이젠 AI 프로 300 시리즈 노트북 프로세서, AMD 펜산도 셀리나 400 데이터 처리 장치 및 폴라라 400 네트워크 카드 등을 정식 공개했다.

AMD 어드밴싱 AI 행사에서 인스팅트 MI325X 및 5세대 에픽 관련 신제품 데모가 전시돼 있다 / 출처=IT동아

AMD가 새로운 세대의 AI 가속기를 공개하면서, AMD AI 가속기를 취급하는 파트너사들 역시 분주해진 모양새다. 현재 인스팅트 MI300 시리즈는 거의 모든 서버용 장비 제조사에서 취급하고 있으며, 어드벤싱 AI 행사에도 새로운 제품에 대응하는 신제품들이 대거 전시됐다. 데모룸을 방문해 주요 서버 제조사의 신제품들을 접해봤다.

AMD, 최대 256GB HBM3E 탑재한 MI325X 출시

AMD 인스팅트 MI325X 실물 반도체가 전시돼 있다 / 출처=IT동아

이번에 출시된 AMD 인스팅트 MI325X AI 가속기는 엔비디아 H100 및 H200과 경쟁하는 제품군이다. 메모리는 전작의 192GB HBM3에서 256GB HBM3E로 업그레이드됐으며, 이에 따라 메모리 대역폭도 초당 5.3TB에서 6TB로 늘어났다. 이론적인 최고 성능에서는 미스트랄 7B 모델의 FP16 성능은 1.2배, 라마 3.1 70B 모델을 FP8로 구동할 때의 추론 성능은 1.4배 향상됐고, 이는 엔비디아 H200에 비해 1.3배 높은 성능이다.

현재 업계에서는 여덟 개의 인스팅트 GPU를 하나의 플랫폼으로 묶어서 서버로 구축하며, MI325X를 여덟 개로 엮을 시 2TB의 HBM3E 메모리와 최대 48TB의 대역폭을 갖게 된다. 성능은 FP8 기준 20.8PF(페타플롭스), FP16 기준 10.4PF를 제공한다.

발 빠른 AI 시장만큼 제조사들 보폭도 빨라져

슈퍼마이크로의 일체형 수랭식 서버 / 출처=IT동아

리사 수 최고경영자가 인스팅트 MI325X 및 5세대 에픽을 공개한 시점에 맞춰, 서버 인프라 기업들 역시 다양한 서버 제품을 소개했다. 슈퍼마이크로 AS-4125GS-TNMR2는 에픽 9004 및 9005를 지원하는 듀얼 SP5 소켓을 갖췄으며, 액체 냉각을 적용해 크기와 발열을 줄였다. 또 여덟 개의 AMD 인스팅트 GPU를 장착할 수 있고, 24개의 DDR5-4800 메모리를 장착할 수 있다.

올인원 수랭 방식은 서버보다는 일반 소비자용 PC에 주로 적용되는 방식이지만, GPU 발열을 더 효과적으로 해결하기 위해 서버 레벨에도 차츰 도입 중이다.

델 테크놀로지스는 저장장치 밀도를 더욱 끌어올린 서버 제품군 다섯 개를 출시했다 / 출처=IT동아

델 테크놀로지스는 5세대 에픽 프로세서를 지원하는 파워엣지 서버 제품군 다섯 개를 동시에 공개했다. 최상위 제품인 델 파워엣지 XE7745는 4유닛 공랭식 섀시를 활용해 최대 8개의 더블 폭 또는 16개의 싱글 폭 PCIe GPU를 지원한다. 현장에는 델 파워엣지 R6725 및 R7725 서버가 전시되었으며, 새로운 DC-MHS 섀시 설계와 500W CPU 지원으로 전력 효율성 및 열문제를 해결했다. 파워엣지 R6715 및 R7715 서버는 37% 큰 저장장치 밀도를 제공하며, 24개의 메모리를 장착할 수 있다.

슈퍼마이크로는 액체냉각 등을 활용하는 H14 서버 라인업을 공개했다 / 출처=IT동아

슈퍼마이크로는 5세대 에픽 프로세서 및 AMD 인스팅트 MI325X를 탑재하는 새로운 서버, GPU 가속 시스템, 스토리지 서버에 대응하는 H14 서버 라인업을 공개했다. H14 서버 라인업은 소켓당 192개 코어 및 24개의 DDR5 슬롯으로 최대 9TB 메모리까지 지원하는 하이퍼 라인, 클라우드 데이터센터용 클라우드 DC라인, 2개의 초고밀도 폼팩터 유닛인 그랜드트윈, 액체 냉각을 탑재한 플렉스트윈, 10개의 더블 폭 가속기를 지원하는 5U GPU 및 액체냉각 기반의 4U GPU 시스템, 8U GPU 등이 공개됐다. 현장에는 500W 에픽 프로세서 및 최대 6TB의 DDR5 메모리를 지원하는 AS-2126HS-TN, 2개의 섀시로 최대 1536 코어까지 지원하는 AS-2126FT-HE-LCC 서버가 전시됐다.

에이수스는 브래킷 없이 내부 구성을 관리할 수 있는 방식의 서버를 소개했다 / 출처=IT동아

대만의 컴퓨터 하드웨어 제조사 에이수스(ASUS)도 5세대 에픽 및 MI325X를 탑재한 ESC A8A-E12U와 ESC8000A-E13P AI 서버를 공개했으며, 클라우드 컴퓨팅을 위한 다중 노트 환경용 서버인 RS520QA-E13과 일반 서버용 RS720A-E13, RS700A-E13, RS521A-E12 및 RS501A-E12를 각각 공개했다.

현장에 전시된 RS520QA-E13은 노드당 총 20개의 메모리를 지원하며, 브래킷 없이 내부 구성을 관리할 수 있다. 프로세서는 최대 400W까지 지원한다. 또 일반 서버용 RS700A-E13는 최대 192개 코어를 장착할 수 있고, 24개의 PCIe 5.0 NVMe 드라이브와 3개의 듀얼폭 GPU를 지원해 다용도 서버 목적으로 쓰인다.

대만 애즈락랙의 48 슬롯 메모리를 지원하는 서버 등이 전시돼있다 / 출처=IT동아

대만의 서버 제조사 애즈락랙(ASRock Rack)은 6U8X-TURIN2, 4U10G-TURIN2, 1U12E-GENOA2/EVAC, 1U24E1S-GENOA 네 개의 5세대 에픽 지원 서버를 공개했다. 이중 TURIN2D48G-2L+는 최대 48개의 메모리를 장착할 수 있다. TURIN2D16-2T/ROT는 m.2 폼팩터에서 플랫폼 펌웨어 복원력 모듈을 지원해 기업 환경에서도 안전하게 부팅할 수 있다.

이외에도 기가바이트, 뉴타닉스, 불타(VULTR), 마이텍(MITAC) 등의 기업이 부스를 열고 서버 및 소프트웨어 지원 내역을 소개했다.

AMD 라이젠 프로 AI 300 프로세서의 주요 기능 및 활용도를 소개하는 자리 / 출처=IT동아

이외에도 전시장에는 AMD 펜산도 폴라라 400 네트워킹 인터페이스 카드 및 셀리나 400 데이터 처리 장치 활용 사례, 에픽 및 인스팅트 부스, 라이젠 프로 AI 300 프로세서 소개 부스 등이 함께 마련됐다. 부스 이외에도 메타, 오픈AI, xAI, 리카 AI, 코히어, 마이크로소프트가 AI 엔지니어들을 대상으로 세션을 진행했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AMD, 인스팅트 MI325X·5세대 에픽 정식 출시··· 'AI 슈퍼사이클 잡는다'▶ RTX 40 시리즈 단종 초읽기, 앞으로의 그래픽 카드 선택지는?▶ [투자를IT다] 2024년 10월 1주차 IT기업 주요 소식과 주가 흐름

고정닉 0

원본 첨부파일 8본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	술 마시면 실수가 많을 것 같은 스타는?	운영자	25/04/14	-	-
5177	[생성 AI 길라잡이] '인공지능으로 더 멋진 문서를 만든다' 캔바 비주얼 스위트 2.0	IT동아	04.18	43	0
5176	모양이 비슷한 도로표지판 의미 살펴보니	IT동아	04.18	2172	0
5175	[리뷰] 게이밍 노트북∙태블릿이 하나로, 에이수스 ROG 플로우 Z13(GZ302)	IT동아	04.18	50	0
5174	[IT하는법] 스마트폰 속의 민증, '모바일 신분증' 만드는 법	IT동아	04.18	77	0
5173	[KESIA 프리팁스] 레졸루션, 'AI 기반 PCB 비전 검사'로 제조혁신 돕는다	IT동아	04.18	51	0
5172	[크립토퀵서치] 미국 관세 정책에 가상자산 시장이 요동치는 이유는?	IT동아	04.18	43	0
5171	“청년 창업 허브 넘어 메카로 성장시킬 것” 손문규 강동구 청년해냄센터 센터장	IT동아	04.18	48	0
5170	SBA·한국문화예술위원회, 예술·기술 융복합 및 산업 거점 활성화에 맞손	IT동아	04.18	51	0
5169	SBA 서울창업허브 “초격차 개방형 혁신, 스타트업 세계화”	IT동아	04.18	55	0
5168	이용자 편의성 강화하는 가상자산 거래소	IT동아	04.17	90	0
5167	[월간자동차] 25년 3월, 신차 등록 증가세…기아 쏘렌토 5개월 연속 판매 1위	IT동아	04.17	5191	0
5166	“인공지능으로 창작 방식 재정의할 것” 로버트 카왈스키 캔바 제품 총괄	IT동아	04.17	83	0
5165	[서평] 인생 선배가 전하는 현실적인 조언과 격려 - [동 트기 전 새벽이 가장 어둡다]	IT동아	04.17	73	0
5164	AI 벤치마크, 온전히 신뢰할 수 있을까	IT동아	04.16	115	0
5163	[주간스타트업동향] 넥스트페이먼츠, 모네리스와 파트너십 체결 外	IT동아	04.16	142	0
5162	김성훈 업스테이지 대표, "워크 인텔리전스로 일하는 방법, 새로운 방향 만들겠다"	IT동아	04.16	110	0
5161	55인치 실내 디스플레이·에어 라이드 서스펜션 탑재…‘더 뉴 에스컬레이드’ 출시	IT동아	04.16	316	0
5160	[IT애정남] 지원 종료 앞둔 윈도 10, 계속 써도 되나요? [1]	IT동아	04.16	2311	1
5159	미국 반도체ㆍIT 기기 관세 면제? 분류만 바뀔 뿐, 달라진 것은 없었다	IT동아	04.16	138	0
5158	[ETF/퇴직연금 Q&A] 퇴직연금으로 투자할 수 없는 ETF	IT동아	04.16	4935	0
5157	“가상자산 산업, 명확한 업 구분과 그에 따른 합리적인 규제 필요”	IT동아	04.16	99	0
5156	코헤시티 “백업 솔루션 넘어 AI 데이터 분석 기업으로 도약”	IT동아	04.16	97	0
5155	월드, ‘프리 플래그십’ 팝업 오픈···오브·월드ID 체험 기회 제공	IT동아	04.15	135	0
5154	[자동차와 法] 첨단 교통단속 기술의 빛과 그림자	IT동아	04.15	134	0
5153	[기고] AI와 미래 산업기술 - 1. AI 시대를 맞는 전통 산업 엔지니어의 '뉴 마이웨이'	IT동아	04.15	575	0
5152	재부팅ㆍ소프트웨어 종료 불편함 없이 PC 1대로 여럿이 쓰고 싶다면 이렇게! [이럴땐 이렇게!]	IT동아	04.14	175	0
5151	경량 스포츠카 제조사 ‘로터스’ 77년 역사 장식한 슈퍼카 살펴보니 [5]	IT동아	04.14	2591	1
5150	[뉴스줌인] 카톡에 사진/문서 올려 프린터 출력, '엡손 프린톡' 이모저모	IT동아	04.14	151	0
5149	[투자를IT다] 2025년 4월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	04.14	136	0
5148	[기고] 인테리어와 IT기술의 융합 - '잇테리어'의 시대	IT동아	04.14	5166	1
5147	퓨리오사AI 찾은 이재명 전 당대표, "AI 현장에서 새로운 희망이 보인다"	IT동아	04.14	141	0
5146	[생성 AI 길라잡이] 해커인 척 LLM 취약점 찾아낸다, AI 레드팀 [1]	IT동아	04.11	7726	0
5145	[리뷰] 눈까지 즐거운 야외용 블루투스 스피커, 브리츠 BZ-MG9	IT동아	04.11	268	0
5144	[KESIA 프리팁스] 바이브에이아이 “SaaS 기반 개인화 AI 서비스로 글로벌 공략”	IT동아	04.11	254	0
5143	[생활 속 IT] 동네 전문가, 카카오맵으로 찾는다	IT동아	04.11	213	0
5142	[민원제로] 1. "제가 그 유명한 진상 민원인입니다만...!"	IT동아	04.11	210	0
5141	씨너렉스 “확장성 뛰어난 ‘초정밀 위성항법 장치’로 자율주행 시대 맞이할 것” [2]	IT동아	04.11	4838	1
5140	농림축산식품부, '농촌융복합 창업 활성화' 사업으로 가치 혁신 나선다	IT동아	04.11	214	0
5139	세종미래경제포럼 “지산학연 고도화, 지역 상생 산업계 구축”	IT동아	04.11	170	0
5138	[생활 속 IT] 라인에서 실시간 통역 기능 사용하는 방법	IT동아	04.10	1932	1
5137	AI로 무장한 이통3사, 보이스피싱 탐지 기술 강화한다	IT동아	04.10	187	0
5136	자동차 보험 비교 2.0 써보니··· '실결제 가격 오차범위 내로 줄어'	IT동아	04.10	179	0
5135	[IT애정남] 파일이 열려 있어 작업을 완료하지 못할 때 해결법은? [2]	IT동아	04.10	956	1
5134	무선 게이밍 기어로 게임 즐기려면 ‘지연 시간’이 중요하다	IT동아	04.10	171	0
5133	[생활 속 IT] 직접 만들어 본 카카오톡 펑, 쓸모 있는 기능일까?	IT동아	04.10	1976	0
5132	델, ‘AI 레디’ 서버 및 스토리지 신제품 다수 선보여	IT동아	04.09	1941	0
5131	[신차공개] BMW ‘뉴 i4 eDrive40’·KGM ‘토레스 EVX ALPHA’ 출시	IT동아	04.09	2021	1
5130	업비트·빗썸, 가상자산 시장 회복으로 2024년 실적 개선	IT동아	04.09	173	0
5129	[주간스타트업동향] 팜스태프, 농산물 부가가치 높인 ‘하토마 잼’ 출시 外	IT동아	04.09	173	0
5128	[IT하는법] 일회성으로 전화번호 저장할 땐, '태그 추가'로 해결하자	IT동아	04.09	209	0
뉴스	‘식스 센스’ 출신 오스먼트, 마약 혐의로 체포 “끔찍한 실수”	디시트렌드	14:00