🧠

시스템반도체·AI칩

CPU·GPU·NPU·AI 가속기와 연산의 원리

엔비디아의 강함은 칩 성능만이 아니다. 'CUDA'라는 소프트웨어 생태계가 진짜 해자다. CUDA가 무엇이고, 왜 경쟁사가 칩만으로는 따라잡기 어려운지 설명한다.

AI 연산이 GPU로 몰리는 이유를 병렬 구조로 풀어낸다. CPU의 똑똑한 소수 코어, GPU의 단순한 수천 코어, 텐서코어와 TOPS, INT8 정밀도까지 비전공자도 한 번에 이해하는 가이드.

왜 모두가 AI 칩을 만드는데 엔비디아만 웃을까. GPU가 AI를 돌리는 원리부터, 17년간 쌓인 CUDA 소프트웨어 생태계라는 진짜 해자, HBM 의존과 추론 시장의 균열까지 정리한다.

거대한 단일 칩의 한계를 레고처럼 쪼개 푸는 칩렛 전략을 풀어낸다. 모놀리식의 수율 문제, 칩렛·이종집적, 2.5D/3D 패키징과 인터포저, AI 칩과 HBM 결합까지 한 번에 이해한다.

애플 M칩과 모바일이 왜 ARM을 택했나. 명령어집합(ISA)이 뭔지, CISC인 x86과 RISC인 ARM의 전력·성능 차이, 그리고 무료 개방형 RISC-V가 일으키는 판도 변화를 쉽게 정리한다.

스마트폰·노트북 광고에 등장하는 'NPU'. GPU와 뭐가 다르고 왜 따로 넣을까? 신경망 연산에 특화된 NPU의 원리와, 온디바이스 AI 시대에 NPU가 중요한 이유를 정리한다.

AI 칩 시장은 '학습(training)'과 '추론(inference)'으로 갈린다. 무엇이 다르고, 왜 추론 시장이 더 커질 거라는 전망이 나오는지 입문자 눈높이로 정리한다.