im Keller의 스타트업 Tenstorrent가 새로운 RISC-V 기반 AI 칩, Wormhole AI 가속기를 출시했습니다. 이 칩은 HBM 대신 고속 GDDR6 메모리를 사용하며, 이더넷을 통한 확장 가능한 구조로 설계되었습니다. Wormhole AI 가속기는 NVIDIA GPU와 경쟁을 목표로 하며, 주요 제품은 n150과 n300 모델로, 각각 12GB와 24GB의 메모리를 탑재하고 있습니다. 이들은 Tenstorrent의 워크스테이션인 TT-LoudBox와 TT-QuietBox에 사용되며, 이 워크스테이션은 각각 $12,000과 $15,000부터 시작합니다.
Wormhole 프로세서는 서버 노드와 슈퍼컴퓨터로의 확장 가능성을 제공하며, 이를 통해 NVIDIA와 경쟁력 있는 시장 포지셔닝을 목표로 합니다. Tenstorrent는 또한 오픈소스 소프트웨어 개발을 지원하여, 개발자들이 이 플랫폼을 쉽게 활용할 수 있도록 하고 있습니다. 이러한 전략은 Jim Keller의 설계 철학과 그의 이전 프로젝트에서의 성공을 바탕으로, Tenstorrent가 반도체 시장에서 주목받을 수 있는 기반이 됩니다.
Jim Keller의 스타트업 Tenstorrent의 Wormhole AI 가속기와 엔비디아의 GPU 사이의 비교를 통해 장단점 및 가성비를 살펴보겠습니다.
1. 성능과 아키텍처
Tenstorrent Wormhole:
- 아키텍처: RISC-V 기반, GDDR6 메모리 사용. HBM(High Bandwidth Memory) 대신 비용 효율적인 GDDR6를 사용하여 비용을 절감하면서도 높은 처리 속도 유지.
- 모델: n150 (12GB 메모리, 최대 262 테라플롭스), n300 (24GB 메모리, 최대 466 테라플롭스).
- 확장성: 이더넷을 통한 확장 구조로, 서버 노드나 슈퍼컴퓨터로의 확장이 용이.
- 가격: 더 저렴한 가격대 설정 (n300 모델 $15,000).
NVIDIA GPU:
- 아키텍처: CUDA 아키텍처 기반, 일반적으로 HBM 또는 GDDR6X 등 고대역폭 메모리 사용.
- 성능: 최상위 모델인 H100 GPU는 약 2000 테라플롭스 이상의 성능 제공.
- 확장성: NVLink 및 InfiniBand 같은 독점적 연결 기술 사용하여 고성능 컴퓨팅 환경에서 뛰어난 확장성 제공.
- 가격: 높은 성능에 비례하여 가격도 상대적으로 높음 (H100의 경우 $30,000 이상).
2. 가성비 비교
- Tenstorrent Wormhole의 경우, GDDR6 메모리와 RISC-V 아키텍처를 통해 비용을 절감하면서도 필요한 성능을 제공하는 접근 방식을 채택. 상대적으로 낮은 가격으로 AI 가속기 시장에 진입, 특히 중소 규모의 기업이나 연구소에 적합할 수 있음.
- NVIDIA GPU는 고성능이 요구되는 대규모 연산 작업에 최적화되어 있으며, 고가의 메모리 및 연결 기술을 통해 최고 수준의 성능을 제공. 이에 따라 초기 투자 비용이 높으나, 대규모 데이터 센터 및 복잡한 AI 연산에 필수적.
3. 적용 분야와 사용자 선택 기준
- Wormhole AI 가속기는 비용에 민감하거나 확장성을 중시하는 중소 기업, 스타트업, 교육 기관에서 유리. 가성비를 중시하는 선택.
- NVIDIA GPU는 고성능이 필수적인 대기업, 연구소, 복잡한 AI 훈련 및 추론 작업을 수행하는 기관에서 선호됨. 최고의 성능을 필요로 하는 경우의 선택.
종합적으로 볼 때, 각 제품은 타깃하는 시장과 사용자의 요구에 따라 장단점이 명확하며, 구매 결정 시 이러한 요소들을 고려하는 것이 중요합니다. Tenstorrent의 접근 방식은 시장에 새로운 대안을 제공하며, NVIDIA와의 경쟁을 통해 선택의 폭을 넓히는 데 기여할 것으로 기대되고 있습니다.
<이하 광고>
