인공지능 전용 구글칩 TPU 뭐길래…극강 효율로 학습·추론 특화 작성일 10-29 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">구글·앤트로픽 'TPU 빅동맹'…GPU 대안 '맞춤 AI 칩' 부상<br>AI추론·행렬 연산 최적화 '전문성·효율성' 강점…'범용성' 열세</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KABmVOe451"> <figure class="figure_frm origin_fig" contents-hash="ae09d3cf8c3708cadcc8390971884e3df2ad9a7f223994e77d170c63341e443d" dmcf-pid="9LpcqE6bH5" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 7세대 TPU 아이언우드(구글 클라우드 제공) 구글의 최신 7세대 TPU '아이언우드'는 칩당 192GB 메모리와 7.37TB/초 대역폭을 제공한다. 6세대 '트릴리움' 대비 메모리 용량은 6배, 대역폭은 4.5배 증가했다. 연산 성능은 4,614 TFLOPS(fp8)에 달하며, 초대 TPU 대비 전력 효율은 30배, 트릴리움 대비 2배 개선됐다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093315535otcu.jpg" data-org-width="540" dmcf-mid="qSoqmbyOY3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093315535otcu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 7세대 TPU 아이언우드(구글 클라우드 제공) 구글의 최신 7세대 TPU '아이언우드'는 칩당 192GB 메모리와 7.37TB/초 대역폭을 제공한다. 6세대 '트릴리움' 대비 메모리 용량은 6배, 대역폭은 4.5배 증가했다. 연산 성능은 4,614 TFLOPS(fp8)에 달하며, 초대 TPU 대비 전력 효율은 30배, 트릴리움 대비 2배 개선됐다. </figcaption> </figure> <p contents-hash="7064fe9d528742df9cc77d66130eb3d0eba3baff538e3f3141f265984698a438" dmcf-pid="2oUkBDPK1Z" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 구글(알파벳)이 앤트로픽에 맞춤 인공지능(AI) 칩 TPU(텐서처리장치) 최대 100만 개를 공급하는 대형 계약을 맺으면서 엔비디아 주도 AI 칩 시장의 대안으로 주목받고 있다.</p> <p contents-hash="5d195e3dc3fff7962c8b2141299c4d24128e3e038fc3c7eb36789ef63c0acc46" dmcf-pid="VguEbwQ91X" dmcf-ptype="general">오픈AI도 올해 6월 구글 클라우드 서비스 도입으로 TPU를 테스트한 이후 브로드컴과 손잡고 별도의 맞춤형 칩 개발에 나선 상태다. 이에 TPU와 GPU 차이점은 무엇인지 관심이 쏠린다.</p> <p contents-hash="a3fbd3c41d6d53ef46a39a49ef1d34c964316b0808ab81552a326bd0f1765061" dmcf-pid="fa7DKrx2XH" dmcf-ptype="general">29일 IT 업계에 따르면 TPU는 구글이 2013년 급격히 증가한 딥러닝 연산량을 해결하기 위해 15개월 만에 설계·검증한 AI·머신러닝 특화 ASIC다. 전력 공급 구조를 최적화해 엔비디아 GPU보다 전력 효율이 높다는 평가를 받는다. 2015년 초 구글 클라우드 데이터센터에 처음 배치됐다.</p> <p contents-hash="0c5998ba61a1b222941d9cdaeee45e493c5efebcbca1f527850f66b1b99031f5" dmcf-pid="4Nzw9mMVtG" dmcf-ptype="general">칩 위탁 생산은 2015년부터 2024년(6세대 트릴리움)·2025년(7세대 아이언우드)까지 대부분 TSMC가 맡았다.</p> <figure class="figure_frm origin_fig" contents-hash="b6a2eafbfa0c75a1b1b7bd68c94f4ee489861fdd6e574015f3556e012b738ed5" dmcf-pid="8jqr2sRf5Y" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 6세대 TPU 트릴리움(구글 클라우드 제공) 카카오는 통합 AI 브랜드 카나나(Kanana)를 효율적으로 개발하기 위해 6세대 TPU 트릴리움(Trillium)을 활용했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093316863nerb.jpg" data-org-width="590" dmcf-mid="BXh6yQFYZF" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093316863nerb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 6세대 TPU 트릴리움(구글 클라우드 제공) 카카오는 통합 AI 브랜드 카나나(Kanana)를 효율적으로 개발하기 위해 6세대 TPU 트릴리움(Trillium)을 활용했다. </figcaption> </figure> <p contents-hash="9ffde9ac6edd8ac3b316101d295c367fad3a8f48787d1f68a4fe0ba18686e14a" dmcf-pid="6ABmVOe4XW" dmcf-ptype="general">TPU 핵심은 '시스톨릭 어레이'(Systolic Array) 아키텍처다. 심장이 혈액을 박동으로 전달하듯 데이터를 물결처럼 흘려보내는 구조다.</p> <p contents-hash="bd7ad09ed3e96ddc366b2398bcb83f4eee12b718f48c36f68308cae034137925" dmcf-pid="PcbsfId8Xy" dmcf-ptype="general">GPU를 포함해 일반적인 컴퓨팅 칩은 연산 때마다 메모리에서 데이터를 가져오고 다시 저장하는 과정을 반복한다. 이같은 워크로드는 '폰 노이만 병목 현상' 등으로 연산 자체보다 더 많은 에너지를 소비하게 된다.</p> <p contents-hash="53653a08884eaccfa3a35c6331bf0fcaa19a3e6007894e063780120b2a011007" dmcf-pid="QkKO4CJ6ZT" dmcf-ptype="general">반면 TPU는 한 번 입력한 데이터를 여러 연산에 재사용하고 중간 결과를 메모리에 저장하지 않고 인접 유닛에 즉시 전달한다. '256×256 MAC(곱셈 누적) unit'(6만 5536개 ALU라고도 기술)이 물결처럼 흐르면서 각 단계에서 필요한 계산을 수행하는 방식이다.</p> <p contents-hash="665277f49141aca18cb1aac8f71f8b371fc4b1b78a4f0e8080cedc66e41b4b4f" dmcf-pid="xE9I8hiPHv" dmcf-ptype="general">이에 TPU는 인접한 유닛끼리만 ALU 배선 구조를 짤 수 있어 전력 효율을 높일 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="f26ed54915551281429da9186cb42a07edce303f73eea5e6bccae3c3d25ad46b" dmcf-pid="y7m2hfXSZS" dmcf-ptype="figure"> <p class="link_figure"><img alt="엔비디아 GPU ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093318309tkcl.jpg" data-org-width="1400" dmcf-mid="bD9I8hiPZt" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/NEWS1/20251029093318309tkcl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 엔비디아 GPU ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="0bbec8e546020fda21dffd86bc40518703156824edc67a1a81510f07da920be7" dmcf-pid="WzsVl4ZvYl" dmcf-ptype="general">TPU와 GPU의 가장 큰 차이는 '전문성'이다. TPU는 설계 단계부터 행렬 연산만을 위한 칩으로 TensorFlow와 JAX 프레임워크에 최적화됐다. XLA 컴파일러와 Pathways 시스템으로 하드웨어 효율을 높였다. 이를 통해 AI 모델 학습과 추론에 고효율을 보인다.</p> <p contents-hash="36cfdbfaacc6366b76a4aa0bcb8c4a2b864933d34b2c1fb1993d841155faf080" dmcf-pid="YqOfS85TXh" dmcf-ptype="general">GPU는 '범용성'이 강점이다. AI·게임·영상 편집·과학 계산 등 다양한 분야에서 프로그래밍 언어와 프레임워크를 지원한다.</p> <p contents-hash="09f247097753907072d8d4fdc3115dfd57b8aafa1128d2aefe046b9fc1eca7f4" dmcf-pid="GBI4v61y1C" dmcf-ptype="general">TPU는 초기엔 구글 내부용에 머물다 2018년부터 구글 클라우드 고객사에 개방됐다. 구글은 지난달 제3자 클라우드 제공업체 데이터센터에도 TPU를 제공하기 시작했다.</p> <p contents-hash="8730e29532ce7985758556c3237b2affc7219f2e4d7526000fd11bbda2007938" dmcf-pid="HbC8TPtWHI" dmcf-ptype="general">업계는 TPU의 경쟁 우위로 '가격 대비 성능'과 '효율성'을 꼽고 있다. 엔비디아 H100 경우 개당 판매가가 2만~3만 5000달러(제조 원가 약 3350달러~5000달러 추정)달하지만, TPU는 GPU 대비 35%에서 최대 80% 비용을 절감할 수 있는 것으로 전해진다.</p> <p contents-hash="4ee2732b71b114d98b4409244136bd58dc56aae637559fc542381ba67e1332cd" dmcf-pid="XKh6yQFYtO" dmcf-ptype="general">다만 엔비디아의 쿠다(CUDA) 생태계 대비 소프트웨어 지원은 제한적이다. 쿠다는 17년간 구축된 범용 플랫폼으로 수천 개 라이브러리와 도구를 제공하고 있다. 엔비디아 쿠다 플랫폼과 하드웨어 생태계는 사실상 업계의 표준으로 자리매김한 상태다.</p> <p contents-hash="d1f2b33704da4a1947a2e1bfc1aadfa395a7cd729c9d0c6d6fc6b720ac2982a7" dmcf-pid="Z9lPWx3G5s" dmcf-ptype="general">현재 엔비디아는 전체 AI 데이터센터 AI 칩(GPU) 시장의 80%~90%를 장악하고 있고 TPU 점유율은 3~4%에 그친다.</p> <p contents-hash="a1de84a5176f8a4a0bc115e40478905ddd98d34311a52f982bcdc78b7f252aa5" dmcf-pid="52SQYM0H1m" dmcf-ptype="general">전문가들은 ASIC(구글 아이언우드·아마존 트레이니엄 등)가 엔비디아의 독점 지배력을 단기간에 위협하긴 어려울 것으로 보고 있다.</p> <p contents-hash="e1345733da97db98a17ac5e0241cf076a846f707a585696e2273008f899a4a42" dmcf-pid="1VvxGRpXtr" dmcf-ptype="general">업계 관계자는 "TPU가 특정 AI 추론 작업에서 GPU·CPU보다 최대 30배 빠른 성능이라고 구글은 발표했지만 TPU 최적화 작업으로 한정했을 때 얘기"라며 "범용 작업에선 GPU가 여전히 우위다. 다만 앤트로픽의 대규모 TPU 도입 발표에 AI 칩 시장 구도에도 변화가 일 것으로 보인다"고 말했다.</p> <p contents-hash="256a64638a8299ce5110433d74ee4bffd96173198c4a94b4de495ad57ce96a7e" dmcf-pid="tfTMHeUZGw" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ ASIC<br>ASIC(Application-Specific Integrated Circuit·주문형 반도체)은 특정 용도 맞춤으로 제작된 집적 회로를 의미한다. 범용으로 쓰이는 GPU와 달리 특정 기능이나 특정 애플리케이션에 최적화 설계돼 고성능·저전력을 구현한다.<br><br>■ H100<br>H100은 엔비디아가 2022년 말 공개한 데이터센터·인공지능(AI) 슈퍼컴퓨터용 GPU로 호퍼(Hopper) 아키텍처 기반 GPU다. 대규모 AI 모델 학습·추론·고성능 컴퓨팅(HPC) 등 데이터센터의 핵심 워크로드를 가속하는 데 최적화한 제품이다.<br><br>■ ALU<br>ALU(Arithmetic Logic Unit·산술 논리 연산 장치)는 컴퓨터의 중앙처리장치(CPU)나 다양한 연산용 칩의 핵심적인 구성 요소로 입력된 데이터를 처리하고 산술·논리 연산을 수행하는 회로를 의미한다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 오픈AI, 공익적 영리법인 전환…MS 지분 27%·수익공유 20% 확정 10-29 다음 입맛따라 골라 쓴다…AI 라인업 강화한 어도비 [어도비맥스 2025] 10-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
