소형 임베디드 컴퓨터라 불리우던 ‘라즈베라 파이’가 가속기를 탑재해 휴대용 장치 등에서 AI를 사용하는 것이 가능한 온디바이스 AI로 자리잡을 예정입니다.
이스라엘 스타트업 헤일로는 ‘라즈베리 파이 5’를 출시했습니다. 이는 마이크로컴퓨터용 AI 키트’입니다.
헤일로의 ‘라즈베리 파이 5’는 ‘헤일로-8L M.2’라 불리우는 AI 가속기를 탑재했으며 이 가속기 덕분에 이 작은 기기가 15 TOPS(Tera Operations Per Second)의 성능(2W)을 가질 수 있습니다. 하지만 인텔의 40TOPS 루나 레이크 프로세서와 같은 AI 노트북용 칩보다는 낮은 수치입니다.
그러나 라즈베리파이의 카메라 소프트웨어 스택과 완전히 통합되며, 헤일로의 소프트웨어 제품군 및 모델을 통해 즉시 사용 가능한 수많은 AI 애플리케이션을 지원할 예정입니다. 예를 들어, 객체 탐지나 의미적 분할, 인스턴스 분할, 자세 추정, 얼굴 랜드마킹 등에 사용될 수 있죠.
<라즈베리 파이 5>
이처럼 라즈베리 파이가 같은 소형 임베디드 제품인 아두이노를 제치고 온디바이스 AI업계에 발을 들여놓을 수 있었던 이유는 기술 발전과 혁신 덕분입니다
라즈베리 파이는 전용 AI 가속기를 장착했습니다. 이러한 가속기는 딥러닝 작업을 효율적으로 처리할 수 있도록 설계되어 높은 TOPS 성능을 제공합니다. 뿐만아니라 더 강력한 CPU와 GPU를 탑재하고 있고, 특수목적의 직접회로인 ASIC 및 필드 프로그래머블 게이트 어레이(FPGA)를 활용하여 딥러닝 및 머신러닝 작업을 가속화하는 데 매우 효율적입니다.
한편 아두이노(Arduino)가 라즈베리 파이(Raspberry Pi)와 같은 높은 TOPS(Tera Operations Per Second) 성능을 제공하지 못하는 이유는 주로 다음과 같은 기술적 제한 때문입니다:
1) 아두이노는 주로 단순한 임베디드 시스템, 센서 인터페이스, 기본적인 제어 작업에 중점을 두고 설계되었습니다. 저전력 소비와 단순한 프로그래밍 환경을 제공하여 교육용, 프로토타이핑 및 간단한 자동화 프로젝트에 적합합니다.
2) 대부분의 아두이노 보드는 8비트 또는 32비트 마이크로컨트롤러를 사용합니다. 이러한 마이크로컨트롤러는 저전력 소모와 기본적인 작업에 최적화되어 있지만, 고성능 연산 작업에는 적합하지 않습니다. 반면 라즈베리 파이는 64비트 ARM 기반 프로세서를 사용하며, 더 높은 클럭 속도와 다중 코어를 가지고 있어 병렬 처리가 가능합니다.
3) 아두이노 보드의 메모리(플래시 메모리 및 SRAM)는 매우 제한적입니다. 예를 들어, Arduino Uno는 32KB의 플래시 메모리와 2KB의 SRAM을 갖추고 있습니다.
그러나 라즈베리 파이는 수 GB의 RAM을 갖추고 있어 복잡한 애플리케이션과 큰 데이터를 처리할 수 있습니다.
4) 아두이노는 확장성과 외부 장치 통합이 제한적입니다. 따라서 추가적인 하드웨어를 사용하여 성능을 향상시키는 것이 어려울 수 있습니다. 그러나 라즈베리 파이는 다양한 인터페이스와 확장 포트를 제공하여 추가 하드웨어(예: AI 가속기, 고성능 GPU 등)를 쉽게 통합할 수 있습니다.
5) 아두이노는 단순한 프로그래밍 언어와 환경을 사용하여 복잡한 딥러닝 라이브러리나 프레임워크를 지원하지 않습니다. 그러나 라즈베리 파이는 리눅스 기반 운영 체제를 사용하며, 다양한 딥러닝 라이브러리와 프레임워크를 실행할 수 있습니다.
이와 같은 이유들로 인해 아두이노는 라즈베리 파이와 같은 높은 연산 성능을 제공하지 못합니다. 아두이노는 간단한 임베디드 시스템 및 제어 작업에 최적화되어 있고, 라즈베리 파이는 복잡한 연산 작업과 고성능 애플리케이션에 적합하도록 설계되었습니다. 이것이 라즈베리 파이가 AI 시장에 접근이 가능한 이유가 되겠습니다.
<이하 광고>
