AMD가 AI 가속기 시장에서의 입지를 강화하기 위한 야심작인 '인스팅트(Instinct) MI350' 시리즈를 공개했다. 6월 12일 캘리포니아 산타클라라에서 열린 ‘어드밴싱 AI 2025('Advancing AI 2025)' 이벤트에서 선보인 이번 제품은 엔비디아 GB200에 대응하는 고성능 AI 가속기로, 단일 GPU로 최대 5,200억 개 매개변수(parameter) 모델을 처리할 수 있는 강력한 성능을 자랑한다.
AMD Instinct MI350 시리즈 (이미지 출처: AMD)
AMD Instinct MI350 소개영상 (영상 출처: AMD)
핵심 성능 사양
인스팅트 MI350 시리즈는 두 가지 모델로 구성된다. TSMC 3나노 공정으로 제조되며 1,850억 개의 트랜지스터가 집적된 이 GPU는 288GB HBM3E 메모리를 탑재해 대규모 AI 모델 구동이 가능하다.
최상위 모델인 MI355X의 연산 성능은 FP64에서 79 테라플롭스, FP16에서 5 페타플롭스를 기록한다. AMD는 전 세대 대비 AI 연산 성능이 4배, 추론 성능이 4.2배 향상되었다고 발표했다. 특히 엔비디아 GB200 대비 메모리 용량은 1.6배, FP64 최대 연산 성능은 2배 수준이라고 강조했다.
Instinct MI350 2종 스펙 비교 (이미지 출처: AMD)
차별화된 냉각 솔루션
AMD는 고객의 다양한 요구사항을 고려해 두 모델에 서로 다른 냉각 방식을 적용했다. 소비전력 1,000W인 MI350X는 공랭식과 수랭식을 모두 지원하는 반면, 최대 1,400W를 소비하는 MI355X는 수랭식만 지원한다.
MI355X 128개로 구성된 단일 랙에서는 HBM3E 메모리가 최대 36TB까지 확장되며, FP4 연산 성능은 2.6 엑사플롭스에 달한다. 이는 AMD의 5세대 EPYC 프로세서와 차세대 울트라 이더넷 컨소시엄(UEC(Ultra Ethernet Consortium)) 규격 기반 네트워크 카드로 구성된다.
ROCm 7으로 소프트웨어 생태계 강화
하드웨어와 함께 공개된 오픈소스 AI 프레임워크 'ROCm 7'도 주목할 만하다. 최신 알고리즘과 AI 모델을 적용하고 클러스터 관리 기능을 대폭 강화했으며, 허깅페이스의 180만 개 모델을 지원한다.
AMD 오픈소스 AI 프레임워크 ROCm 7 (이미지 출처: AMD)
성능 면에서도 괄목할 만한 개선을 보였다. 메타 라마 3.1 700B 모델에서 3.8배, 딥시크 R1에서 3.4배의 추론 성능 향상을 달성했다. AMD는 GPU 구매 없이 구독 형태로 이용할 수 있는 'AMD 개발자 클라우드'도 함께 출시하며, 개발자와 오픈소스 기여자에게 무료 크레딧을 제공할 예정이다.
추론 성능을 3배 이상 향상시킨 ROCm 7 (이미지 출처: AMD)
2026년 로드맵: MI400과 헬리오스
AMD는 내년 출시 예정인 인스팅트 MI400의 사양도 일부 공개했다. HBM4 432GB 메모리로 초당 최대 19.6TB 대역폭을 확보하며, FP4 40페타플롭스, FP8 20페타플롭스의 AI 연산 성능을 목표로 한다.
MI400 기반 '헬리오스(Helios)' 랙 솔루션은 72개 GPU로 구성되어 HBM4 메모리 31TB, FP4 연산성능 2.9엑사플롭스, FP8 연산성능 1.4엑사플롭스를 달성할 예정이다.
2023~2026년 AMD Instinct 가속기 로드맵 (이미지 출처: AMD)
MI350 시리즈는 이달 초부터 공급이 시작되었으며, 3분기부터 주요 서버 제조사와 클라우드 서비스 제공업체를 통해 본격 배포된다. AMD는 마이크로소프트, 메타 등 7대 IT 기업이 인스팅트 GPU를 대규모로 도입하고 있다고 밝혔으며, 오픈 소프트웨어·하드웨어 전략으로 엔비디아 독점 체제에 도전장을 내민 상황이다.
AI 가속기 시장에서 AMD의 이번 발표가 어떤 파급효과를 불러올지 업계의 관심이 집중되고 있다.
엔비디아 대항마로 주목받는 차세대 AI GPU, 3분기부터 본격 공급
AMD가 AI 가속기 시장에서의 입지를 강화하기 위한 야심작인 '인스팅트(Instinct) MI350' 시리즈를 공개했다. 6월 12일 캘리포니아 산타클라라에서 열린 ‘어드밴싱 AI 2025('Advancing AI 2025)' 이벤트에서 선보인 이번 제품은 엔비디아 GB200에 대응하는 고성능 AI 가속기로, 단일 GPU로 최대 5,200억 개 매개변수(parameter) 모델을 처리할 수 있는 강력한 성능을 자랑한다.
AMD Instinct MI350 시리즈 (이미지 출처: AMD)
핵심 성능 사양
인스팅트 MI350 시리즈는 두 가지 모델로 구성된다. TSMC 3나노 공정으로 제조되며 1,850억 개의 트랜지스터가 집적된 이 GPU는 288GB HBM3E 메모리를 탑재해 대규모 AI 모델 구동이 가능하다.
최상위 모델인 MI355X의 연산 성능은 FP64에서 79 테라플롭스, FP16에서 5 페타플롭스를 기록한다. AMD는 전 세대 대비 AI 연산 성능이 4배, 추론 성능이 4.2배 향상되었다고 발표했다. 특히 엔비디아 GB200 대비 메모리 용량은 1.6배, FP64 최대 연산 성능은 2배 수준이라고 강조했다.
Instinct MI350 2종 스펙 비교 (이미지 출처: AMD)
차별화된 냉각 솔루션
AMD는 고객의 다양한 요구사항을 고려해 두 모델에 서로 다른 냉각 방식을 적용했다. 소비전력 1,000W인 MI350X는 공랭식과 수랭식을 모두 지원하는 반면, 최대 1,400W를 소비하는 MI355X는 수랭식만 지원한다.
MI355X 128개로 구성된 단일 랙에서는 HBM3E 메모리가 최대 36TB까지 확장되며, FP4 연산 성능은 2.6 엑사플롭스에 달한다. 이는 AMD의 5세대 EPYC 프로세서와 차세대 울트라 이더넷 컨소시엄(UEC(Ultra Ethernet Consortium)) 규격 기반 네트워크 카드로 구성된다.
ROCm 7으로 소프트웨어 생태계 강화
하드웨어와 함께 공개된 오픈소스 AI 프레임워크 'ROCm 7'도 주목할 만하다. 최신 알고리즘과 AI 모델을 적용하고 클러스터 관리 기능을 대폭 강화했으며, 허깅페이스의 180만 개 모델을 지원한다.
AMD 오픈소스 AI 프레임워크 ROCm 7 (이미지 출처: AMD)
성능 면에서도 괄목할 만한 개선을 보였다. 메타 라마 3.1 700B 모델에서 3.8배, 딥시크 R1에서 3.4배의 추론 성능 향상을 달성했다. AMD는 GPU 구매 없이 구독 형태로 이용할 수 있는 'AMD 개발자 클라우드'도 함께 출시하며, 개발자와 오픈소스 기여자에게 무료 크레딧을 제공할 예정이다.
추론 성능을 3배 이상 향상시킨 ROCm 7 (이미지 출처: AMD)
2026년 로드맵: MI400과 헬리오스
AMD는 내년 출시 예정인 인스팅트 MI400의 사양도 일부 공개했다. HBM4 432GB 메모리로 초당 최대 19.6TB 대역폭을 확보하며, FP4 40페타플롭스, FP8 20페타플롭스의 AI 연산 성능을 목표로 한다.
MI400 기반 '헬리오스(Helios)' 랙 솔루션은 72개 GPU로 구성되어 HBM4 메모리 31TB, FP4 연산성능 2.9엑사플롭스, FP8 연산성능 1.4엑사플롭스를 달성할 예정이다.
2023~2026년 AMD Instinct 가속기 로드맵 (이미지 출처: AMD)
MI350 시리즈는 이달 초부터 공급이 시작되었으며, 3분기부터 주요 서버 제조사와 클라우드 서비스 제공업체를 통해 본격 배포된다. AMD는 마이크로소프트, 메타 등 7대 IT 기업이 인스팅트 GPU를 대규모로 도입하고 있다고 밝혔으며, 오픈 소프트웨어·하드웨어 전략으로 엔비디아 독점 체제에 도전장을 내민 상황이다.
AI 가속기 시장에서 AMD의 이번 발표가 어떤 파급효과를 불러올지 업계의 관심이 집중되고 있다.