구글 Coral NPU, 32비트 설계 완성 · 컴파일러 v1.0 공개 — 최대 1 TOPS, 평균 10mW 목표
구글 리서치가 작년에 소개한 오픈 AI 칩 설계 Coral NPU의 32비트 판을 다 채웠어요. 행렬 계산 장치(Milestone 4)를 더해 최대 1 TOPS · 추론 평균 10mW를 목표로 하고, 오픈소스 컴파일러 v1.0과 Synaptics의 새 칩 · 개발 보드도 같이 나왔어요(10월 20일 발표).
- 작년에 소개된 Coral NPU의 32비트 설계가 이번 달 Milestone 4(행렬 계산 장치 Matrix Execution Unit) 공개로 완성됐어요. 구글은 '최대 1 TOPS로 설정 가능, 추론 평균 10mW 목표'라고 적었고, 32비트 RTL(칩 설계 코드) 전체가 GitHub에 올라와 있어요.
- IREE/MLIR 기반 오픈소스 컴파일러 v1.0도 냈어요. 블로그는 JAX · PyTorch · TensorFlow 모델을 Coral NPU로 가져간다고 했지만, 컴파일러 README는 지금은 JAX 흐름이고 실제 칩 대신 호스트 시뮬레이션으로 돈다고 적었어요.
- Synaptics가 Coral NPU를 넣은 2세대 칩 Astra SR200(400 GOPS, 이번 달 출시)과 개발 보드 Coralboard SR을 내놓았고, Coralboard SL(1 TOPS)은 DigiKey에서 전 세계 판매를 시작했어요.
웨어러블 · 센서 기기에 작은 모델을 넣는 일을 한다면, coralnpu 저장소 README의 Quick Start(bazel로 예제 빌드 → 시뮬레이터에서 실행)로 칩 없이 먼저 돌려 볼 수 있어요. 라이선스는 Apache-2.0이에요.
당장 쓸 도구는 아니에요. '클라우드 없이 기기 안에서 계속 도는 AI'를 설명하는 콘텐츠를 만들 때, 1 TOPS · 10mW 같은 숫자와 웨어러블 · 로봇 예시를 원문 그대로 인용할 재료로 좋아요.
배터리로 도는 IoT · 로봇 시제품을 기획 중이라면, 이미 판매 중인 Coralboard SL(DigiKey)과 새 Coralboard SR 중 어느 쪽이 맞는지 Synaptics 개발자 페이지에서 사양을 비교해 보는 정도가 첫걸음이에요.
1. developers.google.com/coral 에서 아키텍처 가이드를 읽어요. 2. github.com/google-coral/coralnpu 를 받고 README의 System Requirements(Bazel 8.6.0 · Python 3.9-3.13)를 맞춰요. 3. README Quick Start 그대로 실행해요: bazel build //examples:coralnpu_v2_hello_world_add_floats bazel build //tests/verilator_sim:core_mini_axi_sim 4. 시뮬레이터에서 예제를 돌리는 마지막 줄은 README의 명령을 그대로 복사해 쓰세요.
기기 안에서 도는 AI를 소개하는 영상이나 글을 만든다면, '모델 하나를 밀리와트급 웨어러블(Coralboard SR)과 1 TOPS 보드(Coralboard SL)에 같은 흐름으로 올린다'는 이 발표의 핵심을 비교 그림 하나로 풀어 보는 데 좋을 것 같아요. 직접 개발에 쓰는 건 컴파일러가 JAX 말고 다른 프레임워크까지 넓어진 뒤를 지켜봐도 늦지 않아 보여요.
구글 리서치는 작년에 Coral NPU를 소개했어요. NPU(신경망 처리 장치)는 AI 계산만 맡는 칩 부품이고, Coral NPU는 그 설계를 RISC-V(누구나 쓸 수 있는 공개 명령어 체계) 기반으로 공개한 것이에요. 10월 20일 구글 개발자 블로그 글에서 구글은 '세 가지 큰 이정표'에 닿았다고 발표했어요.
무엇이 새로 나왔나
- 32비트 Coral NPU 설계 완성(Milestone 1~4) — 새 행렬 계산 장치(Matrix Execution Unit)를 포함해, 최대 1 TOPS로 설정할 수 있고 추론 평균 10mW를 목표로 해요.
- Coral Compiler v1.0 — IREE/MLIR 기반의 오픈소스 컴파일러 · 시뮬레이션 묶음이에요.
- Coral NPU를 넣은 새 MCU 칩 — Synaptics Astra SR200 시리즈(400 GOPS). MCU는 작은 기기용 마이크로컨트롤러예요.
- 새 Coralboard 개발 보드 — Coralboard SR 공개, Coralboard SL(1 TOPS)은 DigiKey에서 전 세계 판매.
설계: 마지막 조각은 행렬 계산
지난 1년 동안 앞의 세 단계가 나왔어요. C로 프로그래밍하는 RISC-V 스칼라 부분(Milestone 1), RVV v1.0 벡터 보조 장치(Milestone 2), 부동소수점을 지원하는 밀착 메모리(Milestone 3)예요. 이번 달 행렬 계산 장치(Milestone 4)가 나오면서 32비트 설계가 완성됐어요.
구글 설명으로는, 요즘 AI 모델은 대부분의 시간을 행렬 곱셈에 쓰는데 1차원 벡터 장치로 이걸 하면 메모리에서 값을 계속 다시 불러와 '계산보다 데이터 옮기는 데 에너지를 더 쓰게' 될 수 있어요. 새 장치는 RISC-V VME 사양을 따르고, 한 사이클에 256번의 곱셈-덧셈(MAC)을 해요. 구글은 10mW 아래 전력에서 행렬 장치가 돌면 키워드 인식 · 단순 움직임 감지를 넘어 Gemma 같은 작은 트랜스포머 모델, 웨어러블 실시간 음성 번역 같은 작업을 할 수 있다고 적었어요. 32비트 RTL 전체는 GitHub에 공개됐어요(라이선스 Apache-2.0).
컴파일러 v1.0
블로그에 따르면 JAX · PyTorch · TensorFlow 모델을 StableHLO · TOSA 같은 표준 형식으로 받아, 호스트 CPU와 Coral NPU에 일을 나누고 연산을 합치고(fusion), 행렬을 로컬 SRAM에 맞게 잘라 스칼라 · 벡터 · 행렬 명령으로 바꿔요. 오픈소스 MPACT 시뮬레이터와 참고용 FPGA 설계로 칩을 만들기 전에 모델 성능을 재 볼 수 있다고 했어요.
다만 컴파일러 저장소 README는 '지금은 JAX 모델 흐름(다른 프론트엔드는 계획 중)'이고 '실제 하드웨어 대신 호스트 쪽 시뮬레이션을 쓴다'고 적었어요.
칩과 보드
- Synaptics Astra SR200 시리즈 — 테이프아웃(설계 확정)을 마쳤고 이번 달 출시. 2세대 Coral NPU IP를 넣어 400 GOPS를 내는 초저전력 MCU로, 배터리로 도는 웨어러블 · 산업용 센서용이에요.
- Coralboard SR — SR200을 쓰는 새 개발 키트예요.
- Coralboard SL — Google I/O 한정 미리보기 뒤 이번에 DigiKey로 전 세계 정식 판매. Astra SL2619 프로세서와 1 TOPS Torq / Coral NPU를 써요.
공정 쪽에서는 GlobalFoundries의 12LP+ FinFET 공정에서 RTL을 고쳐 가며 코어 타이밍 70% 빨라짐 · 표준 셀 면적 최대 15% 감소를 얻었다고 했고, VeriSilicon과는 설계 구현 · 검증을 함께 해요. 보드 하드웨어 파트너는 Grinn이에요.
다음 단계
구글은 64비트 Coral NPU 설계와 보안 기술 CHERI 지원을 준비 중이라고 밝혔어요.
