인텔 가우디 2 vs 엔비디아 H100 성능 대결

인텔 Gaudi 2 와 엔비디아 H100의 성능 및 비용을 비교해봤다.

AI 가속화

성능

인텔 Gaudi 2는 특정 AI 워크로드에서 NVIDIA H100보다 최대 55% 더 빠른 것으로 보고되었다. Gaudi 2는 Stable Diffusion에서 H100보다 55% 더 빠른 속도를 내는 것으로 나타났다.

비용

MLPerf 트레이닝 결과에서 인텔 Gaudi 2가 H100보다 1달러 당 약 4배 더 나은 성능을 제공한다는 것이 증명되었다. 일부 시나리오에서는 H100이 더 빨랐지만, Gaudi 2는 비용 대비 강력한 성능으로 주목받으며 엔비디아 H100의 매력적인 대체제가 되고 있다.

Intel Gaudi 2 아키텍처

7m 공정을 기반으로 구축된 인텔 가우디 2는 24개의 텐서 프로세서 코어와 96GB HBM2E 메모리를 갖추고 있다. 24개의 100GB 이더넷이 칩에 내장되어 클라우드부터 온프레미스(on-premise) 데이터센터까지 효율적인 확장이 가능하도록 설계되었다.

Nvidia H100 아키텍쳐

H100 SM 아키텍처에는 텐서 메모리 가속기, DPX instruction, 새로운 스레드 블록 클러스터와 같은 기능이 포함되어 성능과 효율성이 향상되었습니다. H100은 HBM3 메모리를 탑재한 세계 최초의 GPU로, 동급 최고의 초당 3TB 메모리 대역폭을 제공합니다.