반도체의 역사는 곧 '통합(Integration)'의 역사입니다. 개별 트랜지스터로 가득 찼던 회로 기판이 단 하나의 집적회로(IC)로 통합되었듯, 컴퓨터 시스템을 구성하던 여러 개의 칩은 결국 하나의 칩(SoC, System-on-Chip)으로 합쳐지는 과정을 밟아왔습니다.
이 거대한 통합의 흐름 속에서, 오늘날 가장 뜨거운 감자인 NPU(신경망 처리 장치)의 미래를 예측해 볼 수 있습니다.
1. 수학 보조 프로세서(FPU)의 CPU 내재화
초기 PC 시대를 기억하십니까? 인텔 8086 같은 CPU는 복잡한 수학 연산, 특히 부동 소수점 연산에 취약했습니다. 이 문제를 해결하기 위해 '8087'과 같은 부동소수점연산 프로세서(FPU)라는 별도의 칩을 메인보드에 따로 장착해야 했습니다. CPU가 일반 연산을, FPU가 수학 연산을 전담하는 방식이었습니다.
하지만 이 분리는 오래가지 않았습니다. 인텔 80486 칩에 이르러, FPU는 CPU 다이(die) 안에 완전히 내장되었습니다. 더 이상 선택 사항이 아닌, CPU의 기본 기능이 된 것입니다. 전문화된 외장 기능이 결국 중앙 처리 장치의 표준 블록으로 흡수된 첫 번째 사례입니다.
2. 이미지 처리 장치(ISP)의 AP 내재화
시간이 흘러 스마트폰의 시대가 열렸습니다. 카메라 성능이 폭발적으로 향상되면서, 이미지 센서에서 들어오는 방대한 데이터를 처리할 이미지 신호 처리기(ISP)가 필수적이 되었습니다. 초기 스마트폰 모델 중 일부는 이 ISP를 애플리케이션 프로세서(AP)와 별개의 칩으로 사용했습니다.
하지만 이 역시 금방 바뀌었습니다. 퀄컴 스냅드래곤, 삼성 엑시노스, 애플 A시리즈와 같은 현대의 모든 모바일 AP는 고성능 ISP를 핵심 IP 블록으로 내장하고 있습니다. 사용자는 더 이상 ISP의 존재를 의식하지 못합니다. FPU와 마찬가지로, 특화된 외장 칩이 메인 SoC로 완벽하게 통합되었습니다.
3. 통일된 표준의 등장: ARM과 MCU
조금 다른 관점의 역사도 있습니다. 바로 MCU(마이크로컨트롤러) 시장입니다. 과거 8051, Z80, 68000 시리즈 등 수많은 반도체 회사들은 각자 고유의 MCU 아키텍처를 가지고 경쟁했습니다. 칩 설계자들은 매번 다른 아키텍처를 새로 배워야 했고, 생태계는 파편화되었습니다.
이때 ARM이 등장했습니다. ARM은 칩을 직접 만들지 않고, 저전력 고효율의 코어 설계도(IP, 지적 재산)를 라이선스하는 비즈니스 모델을 제시했습니다.
결과는 대성공이었습니다. 칩 제조사들은 더 이상 'CPU 코어'라는 바퀴를 재발명하는 데 자원을 낭비할 필요가 없어졌습니다. 검증된 ARM 코어를 가져다 쓰고, 남는 역량을 자신들만의 차별화된 주변 장치(Peripheral)나 소프트웨어 최적화에 쏟아부을 수 있게 되었습니다. 표준화된 IP가 오히려 전체 산업의 혁신을 가속한 것입니다.
4. NPU가 걸어갈 길: 통합, 표준화, 그리고 그 다음
그리고 현재, 우리는 'AI의 시대'에 서 있습니다. AI 연산을 전문으로 하는 NPU가 그 중심에 있습니다. 지금의 풍경은 낯설지 않습니다. 어떤 기업은 자신만의 독자적인 NPU를 개발하고, 어떤 시스템은 외장 AI 가속기 칩을 활용합니다. 마치 FPU가 분리되어 있었거나, 수많은 MCU가 난립하던 초창기의 모습과 같습니다.
역사는 우리에게 NPU의 미래를 명확하게 암시합니다.
- 통합 (Integration): FPU와 ISP가 걸어간 길처럼, NPU는 결국 대부분의 SoC 내에 필수적인 기본 블록으로 내재화될 것입니다. '외장 NPU'는 고성능 서버 등 극히 일부 시장을 제외하고는 보기 드문 형태가 될 것입니다.
- 표준화 (Standardization): 더 나아가, NPU는 MCU 시장을 통일한 ARM의 사례와 유사한 길을 걸을 것입니다. 모든 칩 회사가 각자 고유의 NPU 아키텍처를 개발하며 '바퀴를 재발명'하는 것은 비효율적입니다. 검증된 고효율의 NPU IP를 선택하여 라이선스하는 것이 업계의 표준이 될 것입니다.
그렇다면 미래의 칩 설계자들과 시스템 개발자들은 어디에 집중해야 할까요?
NPU 하드웨어 자체가 상향 평준화되고 표준화될수록, 그 위에서 작동하는 AI 모델의 독창성, 효율성, 그리고 사용자에게 제공하는 가치가 진정한 경쟁력이 됩니다.
반도체 경쟁의 축이 'NPU 하드웨어를 얼마나 잘 만들었는가'에서 그 NPU 위에서 어떤 AI 모델을 얼마나 효율적으로 구동하는가'로 빠르게 이동하고 있습니다. NPU는 거들 뿐, AI 시대의 진정한 승부는 이제 소프트웨어, 즉 AI 모델에서 갈릴 것입니다.