글로벌 AI 반도체 시장은 2023년 이후 초거대 언어 모델(LLM)과 생성형 인공지능(GenAI)의 부상과 함께 폭발적인 성장을 거듭하고 있다. 엔비디아(NVIDIA)가 독주 체제를 이어가고 있는 가운데, 각국은 자국 중심의 AI 반도체 생태계 구축에 나서며 새로운 산업 안보 경쟁이 펼쳐지고 있다. 한국은 반도체 강국으로서 메모리 분야에서는 세계 시장의 절반 이상을 차지하고 있지만, AI 반도체(추론·학습용 전용칩) 분야에서는 후발주자에 속한다. 이 글에서는 AI 칩 시장의 구조, 한국의 현재 위치, 그리고 국내 대표 AI 칩 스타트업인 퓨리오사AI(FuriosaAI)의 역할을 중심으로 정리한다.
AI 칩 시장은 크게 두 가지 분야로 나뉜다:
- 학습용 칩(Training): 대규모 모델을 훈련시키는 데 사용. 대표적으로 NVIDIA A100, H100, AMD MI300 등이 있다.
- 추론용 칩(Inference): 훈련된 모델을 바탕으로 실제 서비스를 제공할 때 사용. 성능-전력-가격의 균형이 핵심이다.
2024년 기준, 글로벌 AI 칩 시장은 약 600억 달러 수준이며, 그중 NVIDIA가 약 80% 이상 점유율을 차지하고 있다. Google(TPU), AMD, Intel, Amazon(Trainium/Inferentia), Apple 등도 자체 칩 개발을 통해 시장 점유율 확대를 시도 중이다.
한국은 세계 메모리 반도체 시장에서 SK하이닉스, 삼성전자를 중심으로 압도적인 점유율을 보이고 있다. 그러나 AI 전용칩 분야에서는 다음과 같은 한계를 안고 있다:
- 팹리스 생태계 취약: 시스템반도체 설계 전문기업의 숫자와 질에서 미국·대만 대비 열세
- 소프트웨어 스택 부족: CUDA처럼 칩과 연계된 SW 툴체인 미흡
- 생태계 연동성 부족: 글로벌 프레임워크(PyTorch 등)와의 통합 저조
- 정부 R&D 단절성: 단기 과제 중심, 상용화 연계 약화
이에 따라 국내는 주로 후공정(패키징), 장비, 메모리 분야의 부품 공급자 역할에 머무르고 있으며, AI 칩 설계와 플랫폼 개발에서는 변두리 역할에 가까운 상황이다.
퓨리오사AI는 2017년 설립된 한국의 AI 반도체 스타트업으로, 창업자는 삼성전자·AMD 출신의 반도체 설계 전문가인 백준호 대표다. 이 기업은 다음과 같은 기술 전략을 통해 엔비디아 중심 시장에 도전장을 내밀고 있다:
- TCP 기반의 자체 아키텍처 설계: Tensor Contraction Processor를 도입해, 고정밀 연산과 저전력 구조 구현
- RNGD 칩 출시: FP8 기준 512TFLOPS, 전력소모 18W로, 엔비디아 H100 대비 전력 효율 2~3배
- PyTorch 호환 SDK: 개발자가 손쉽게 활용할 수 있는 소프트웨어 스택 제공
- 오픈소스 전략 강화: SDK, 모델 변환기, 런타임, 양자화 도구 등을 GitHub에 공개
이러한 전략은 단순한 칩 제공을 넘어 AI 플랫폼을 지향하는 글로벌 경쟁력 확보에 기반을 두고 있다.
퓨리오사AI는 다음과 같은 차별점을 통해 글로벌 경쟁자와 차별화를 시도하고 있다:
- 에너지 효율 우위: 동일 성능 기준, 전력 소모 절감 효과
- PyTorch-first 전략: AI 개발 생태계의 주류와 일치
- 클라우드·엣지 통합형 칩: 단일 구조로 서버 및 엣지 양방향 지원
- 현지화 유연성: 미국·유럽 고객사 대상 전용 커스터마이징 가능
특히 Naverc Cloud, 사우디 아람코, LG CNS 등과의 협업을 통해 실제 활용 사례를 확보하며, 상용화에 대한 신뢰를 확보하고 있다.
AI 칩 경쟁력 확보를 위해서는 퓨리오사AI 같은 스타트업의 성장을 돕는 정부-대기업-클라우드-학계의 연결고리가 필요하다. 다음과 같은 정책이 고려되어야 한다:
- AI 칩 구매 보조금 도입: 공공 AI 서버에 국산 칩 우선 구매
- AI 칩 R&D 세액공제 확대: 설계·소프트웨어 통합개발 항목 포함
- 국가 AI 클라우드 구축: NAVER, Furiosa 등 연계한 한국형 AI 인프라
- 산학협력 강화: 칩 설계·최적화 공동캠퍼스 개설
이러한 생태계 지원 없이는 엔비디아 중심 시장에 지속적으로 대응하기 어렵다.
퓨리오사AI는 아직 비상장사지만, 2025~2026년 IPO를 목표로 국내외에서 평가가 이루어지고 있다. 예상 기업가치는 1~2조 원으로 추정되며, 다음과 같은 요소가 상장 성공에 관건이 될 것이다:
- RNGD 칩의 상용 고객 확보 수준
- 클라우드 파트너와의 대형 수주
- 미국 파운드리 다변화 및 생산 안정성
- SDK 사용 활성화 및 글로벌 오픈소스 기여도
성공적 상장 이후, 퓨리오사는 국내 스타트업 중 최초의 AI 칩 기반 유니콘 기업으로 자리매김할 수 있다.
AI 칩 시장은 기술, 생산, 소프트웨어, 생태계가 종합적으로 맞물리는 복합 산업이다. 한국은 지금까지 메모리 중심의 반도체 강국이었지만, AI 전용 시스템 반도체 분야에서는 후발주자에 가깝다. 그러나 퓨리오사AI의 등장과 같은 스타트업의 도전은 한국이 글로벌 경쟁의 중심에 진입할 수 있는 전환점을 제공하고 있다.
정부의 전략적 투자, 산업계의 동반 생태계 조성, 글로벌 파트너와의 연계가 함께 이루어진다면, 한국은 메모리와 함께 AI 반도체 분야의 또 다른 주도권을 가질 수 있을 것이다.