최신 정보

서버 / IT CPU•GPU•NPU•TPU의 차이

2024.07.14 06:30

엄마갯돈 조회:1002 추천:3

인공지능(AI) 개발에 필수적인 머신러닝에는 GPU, NPU, TPU 등의 프로세싱 칩이 사용되고 있는데, 각각의 차이점을 알기 쉽지 않다. 구글과 클라우드 스토리지 서비스를 제공하는 ‘Backblaze’가 CPU, GPU, NPU, TPU의 차이점을 정리했다.


출처 : Backblaze
CPU란?

CPU는 ‘Central Processing Unit’의 약자로, PC에서 문서 작성, 로켓의 경로 계산, 은행의 거래 처리 등 다양한 용도로 사용되고 있다. CPU에서도 기계학습을 실시하는 게 가능하지만 계산할 때마다 메모리에 접속하는 특징이 있어, 기계학습에 필요한 대량의 계산을 실행할 때에는 메모리 통신 속도가 병목현상이 돼 처리속도가 느려진다.

GPU란?

GPU는 ‘Graphics Processing Unit’의 약자로, GPU와 메모리, 입출력 장치 등을 세트로 구성한 그래픽 보드가 시중에 널리 유통되고 있으며, GPU에는 수천 개의 산술논리연산유닛(ALU)이 탑재돼 '량의 연산을 동시에 수행하는 처리가 CPU에 비해 압도적으로 빠른 기계학습이 가능하다. 하지만 GPU는 게임이나 CG 처리 등에도 활용할 수 있는 범용 칩이기 때문에 머신러닝 전용으로 설계된 칩에 비해 효율이 떨어진다.

NPU란?

NPU는 ‘Neural Processing Unit’ 또는 ‘Neural network Processing Unit’의 약자로, GPU와 마찬가지로 대량의 연산을 동시에 수행하는 처리에 특화되어 있다. 또한, NPU는 머신러닝 전용으로 설계된 칩이기 때문에 GPU보다 더 효율적으로 연산을 수행할 수 있다. 반면 NPU는 머신러닝 전용 설계 칩이기 때문에 CPU나 GPU처럼 다양한 용도로 사용할 수 없다는 단점이 있다.

최근 출시되는 스마트폰에는 NPU를 탑재한 제품들이 많이 등장하고 있으며, 아이폰 시리즈에는 ‘Neural Engine’이라는 이름으로 탑재되어 있고, 스마트폰용 SoC인 ‘스냅드래곤(Snapdragon)’에도 NPU를 탑재한 모델이 존재한다.

TPU란?

TPU는 ‘Tensor Processing Unit’의 약자로 구글이 개발한 NPU의 일종이다. 구글은 클라우드 컴퓨팅 서비스 ‘Google Cloud’를 통해 사용자에게 TPU의 처리 능력을 제공하고 있다. 사용자는 스스로 하드웨어를 준비하지 않아도 머신러닝 관련 처리를 고효율로 수행할 수 있다.

구글은 자사가 제공하는 ‘TPU v4’가 엔비디아의 머신러닝 관련 처리 특화 GPU ‘A100’보다 1.2~1.7배 빠르고, 전력 효율도 1.3~1.9배 우수하다고 주장하고 있다.

출처 : 테크튜브(http://www.techtube.co.kr)

번호 제목 글쓴이 조회 등록일
[공지] 최신정보 이용 안내 gooddew - -
» 서버 / IT| CPU•GPU•NPU•TPU의 차이 [2] 엄마갯돈 1002 07-14
6699 서버 / IT| 세계 PC 출하량 3분기 연속 성장세…AI PC는 아직 초기단계 엄마갯돈 236 07-14
6698 하드웨어| 초당 45조번 연산... 애플도 인텔도 이젠 '뇌 닮은 괴물칩'... 엄마갯돈 611 07-14
6697 하드웨어| AMD AI 프로세서 '라이젠 AI 300' PC 출시 [4] 번개 1382 07-10
6696 서버 / IT| 39년 역사 ‘천리안’ 10월 서비스 종료... 3대 PC통신 모두 ... [6] 엄마갯돈 1272 07-10
6695 소프트웨어| Windows 11의 부족한 컨텍스트 메뉴를 수정하기 위한 새로... VᴇɴᴜꜱGɪ 1360 07-06
6694 소프트웨어| WSL은 새로운 Snapdragon X Elite 노트북에서 얼마나 잘 작... [2] VᴇɴᴜꜱGɪ 589 07-06
6693 업체 소식| "롤·포트나이트 실행 어려워"…삼성 갤럭시북4 엣... [1] 엄마갯돈 703 07-06
6692 하드웨어| 3분 걸린 문제 14초 만에… 구글 양자컴퓨터, 中에 밀렸다 [3] 엄마갯돈 1273 07-06
6691 윈도우 / MS| 중국 정부 및 관련 기관을 위해 만들어진 윈도우 11 'Enter... 엄마갯돈 1019 07-06
6690 업체 소식| 한 손에 들어오는 초소형 데스크톱, 델 '옵티플렉스 마이크... 엄마갯돈 1379 07-04
6689 하드웨어| 더 빨라진 무선 네트워크 속도, 새로운 Wi-Fi 규격 Wi-Fi 7... [2] 엄마갯돈 1322 07-04
6688 소프트웨어| AIMP5 – v5.40의 새로운 기능들 [3] VᴇɴᴜꜱGɪ 1687 07-03
6687 보안 / 해킹| "문서 보려면 클릭"…메일서 비용처리 확인 순간 ... 엄마갯돈 1078 07-02
6686 업체 소식| SK하이닉스, AI PC용 고성능 SSD ‘PCB01’ 개발 완료 [1] 엄마갯돈 890 07-02
6685 하드웨어| 노트북 기본 메모리 16GB 시대, AI PC가 앞당긴다 [9] 엄마갯돈 1526 06-29
6684 하드웨어| 인텔, Windows 11 버전 24H2 지원으로 새로운 Wi-Fi 및 Blu... VᴇɴᴜꜱGɪ 1563 06-28
6683 소프트웨어| Microsoft는 Excel Windows 및 Mac 앱에 확인란을 추가하고... VᴇɴᴜꜱGɪ 378 06-28
6682 윈도우 / MS| Windows 10은 0patch 덕분에 5년 동안 추가 지원을 받을 수... [1] VᴇɴᴜꜱGɪ 793 06-28
6681 소프트웨어| Google 번역은 이제 110개의 새로운 언어를 번역할 수 있습... VᴇɴᴜꜱGɪ 383 06-28
XE1.11.6 Layout1.4.8