Nvidia Seems Poised to Enter the Multibillion-Dollar Custom Artificial Intelligence (AI) Chip Market
KEY POINTS
Nvidia stock has soared largely because it dominates the fast-growing market for data center AI chips.
Some investors are concerned that Nvidia's growth could slow because of the trend among large tech companies of developing their own custom AI chips.
There's solid evidence that Nvidia is forming a new business unit focused on designing custom chips for data center AI and other applications.
엔비디아, 수십억 달러 맞춤형 인공지능(AI) 칩 시장 진출 준비
요점
엔비디아 주가가 급등한 것은 빠르게 성장하는 데이터 센터 AI 칩 시장을 장악하고 있기 때문입니다.
일부 투자자들은 대형 기술 회사들 사이에서 자체 맞춤형 AI 칩을 개발하는 추세 때문에 엔비디아의 성장이 둔화될 수 있다고 우려합니다.
Nvidia가 데이터 센터 AI 및 기타 애플리케이션을 위한 맞춤형 칩 설계에 중점을 둔 새로운 사업부를 구성하고 있다는 확실한 증거가 있습니다.
Nvidia's new custom chip unit will reportedly focus on custom chips for data center AI and other applications.
Nvidia (NVDA 0.58%) stock is on fire. Shares of the artificial intelligence (AI) chip leader have gained 81.5% so far in 2024, and are up 531% over the last three years through May 10. The S&P 500 index has returned 10% and 31.9%, respectively, over these periods.
The stock's gains are mostly being driven by powerful demand for the company's AI-enabling graphics processing units (GPUs) and related offerings for data centers. Nvidia has an estimated 80% share of the fast-growing market for data center AI chips.
But can Nvidia stock's great performance continue? Some investors are concerned the company could be hurt by the increasing trend among large technology companies, nearly all of which are Nvidia customers, of developing their own custom AI chips. They are doing so to optimize the chips to their specific AI workloads, which can have monetary and power advantages over using general processors, such as GPUs.
There's some good news for Nvidia investors on this front.
Nvidia is reportedly forming a custom chip business unit
Nvidia is forming a new business unit focused on designing custom chips for cloud computing companies and others to use for data center AI and other applications, according to a Reuters' exclusive article published in February. The article named Dina McKinney, a former Advanced Micro Devices (AMD) and Marvell Technology executive, as head of Nvidia's new custom chip business. (Custom chips are also called application-specific integrated circuit, or ASIC, chips.)
The Reuters article cited "nine sources familiar with the company's plans." Moreover, it indicated that McKinney's title on her LinkedIn profile, which reportedly had indicated she was heading Nvidia's custom chip business, was changed after Reuters contacted Nvidia for comment. The latter alone gives much credence to the reporting, in my view.
That said, I wanted to dig a bit before covering this topic. My perusal of Nvidia's job openings supports the theory that it's building a custom chip unit. Moreover, I found a LinkedIn post from McKinney, indicating she was excited to join Nvidia in her new role heading the custom silicon team.
What big tech companies have developed or are developing custom chips?
The three big tech companies that are leaders in the cloud computing service market -- Alphabet, Amazon, and Microsoft -- now have or will soon have custom AI chips. The companies use (or plan to use) these chips for internal reasons and they are (or will soon be) available on their cloud services.
Alphabet was the first mover in this space. In 2015, it began using its tensor processing units (TPUs) for internal purposes and several years later made them available for customers of Google Cloud. In 2018, Amazon released its first version of its custom AI chip Graviton, which is available on Amazon Web Services (AWS). And last November, Microsoft unveiled two custom-designed chips, Maia and Cobalt.
As you might expect, Facebook parent Meta Platforms has also designed its own custom AI chip, the Meta training and inference accelerator (MTIA). Apple and Tesla also have custom chips. Apple uses custom silicon for its various consumer electronic products, while Tesla started using a custom-designed chip several years ago in its self-driving feature.
엔비디아의 새로운 커스텀 칩 유닛은 데이터 센터 AI 및 기타 애플리케이션용 커스텀 칩에 초점을 맞출 것으로 알려졌습니다.
엔비디아(NVDA 0.58%) 주가에 불이 붙었습니다. 인공지능(AI) 칩 리더의 주가는 2024년 현재까지 81.5% 올랐고, 지난 5월 10일까지 3년간 531% 상승했습니다. 이 기간 S&P 500 지수는 각각 10%, 31.9% 수익률을 기록했습니다.
이 주식의 상승은 주로 회사의 AI 지원 그래픽 처리 장치(GPU)에 대한 강력한 수요와 데이터 센터에 대한 관련 제품에 의해 주도되고 있습니다. 엔비디아는 빠르게 성장하는 데이터 센터 AI 칩 시장에서 약 80%의 점유율을 차지하고 있습니다.
하지만 엔비디아 주식의 훌륭한 실적이 계속될 수 있을까요? 일부 투자자들은 엔비디아 고객인 대형 기술 회사들 사이에 그들만의 맞춤형 인공지능 칩을 개발하는 증가하는 추세로 인해 회사가 타격을 입을 수 있다고 우려합니다. 그들은 GPU와 같은 일반 프로세서를 사용하는 것에 비해 금전적이고 전력적인 이점을 가질 수 있는 특정 인공지능 워크로드에 칩을 최적화하기 위해 그렇게 하고 있습니다.
Nvidia 투자자들에게 좋은 소식이 있습니다.
엔비디아는 커스텀 칩 사업부를 구성 중인 것으로 알려졌습니다
2월에 발표된 로이터의 단독 기사에 따르면, 엔비디아는 클라우드 컴퓨팅 회사 등이 데이터 센터 AI 및 기타 응용 프로그램에 사용할 맞춤형 칩을 설계하는 데 초점을 맞춘 새로운 사업부를 구성하고 있습니다. 이 기사는 전 첨단 마이크로 디바이스(AMD) 및 마벨 테크놀로지 임원인 디나 맥키니(Dina McKinney)를 엔비디아의 새로운 맞춤형 칩 사업 책임자로 지명했다고 합니다. (맞춤형 칩은 응용 프로그램별 집적 회로 또는 ASIC 칩으로도 불립니다.)
로이터 기사는 "회사의 계획에 정통한 9명의 소식통"을 인용했습니다. 게다가, 그것은 그녀가 엔비디아의 커스텀 칩 사업을 이끌고 있다고 알려졌던 그녀의 링크드인 프로필에 있는 맥키니의 제목이 로이터가 논평을 위해 엔비디아에 연락한 후 변경되었음을 나타냅니다. 제가 보기에 후자만 해도 보고서에 많은 신빙성을 부여합니다.
그렇기는 하지만, 저는 이 주제를 다루기 전에 좀 알아보고 싶었습니다. 제가 엔비디아의 채용 공고를 열람한 것은 엔비디아가 맞춤형 칩 유닛을 만들고 있다는 이론을 뒷받침합니다. 게다가, 저는 맥키니의 링크드인 게시물을 발견했는데, 이는 그녀가 엔비디아와 함께 맞춤형 실리콘 팀을 이끄는 새로운 역할을 맡게 되어 기쁘다는 것을 나타냅니다.
맞춤형 칩을 개발했거나 개발 중인 빅테크 기업은 무엇입니까?
클라우드 컴퓨팅 서비스 시장의 선두주자인 세 개의 빅 테크 회사들 - 알파벳, 아마존, 마이크로소프트 - 은 현재 맞춤형 인공지능 칩을 가지고 있거나 곧 가질 것입니다. 그 회사들은 내부적인 이유들로 이 칩들을 사용하고 (또는 사용할 계획을) 그것들은 그들의 클라우드 서비스에서 사용할 수 있거나 곧 사용할 수 있을 것입니다.
알파벳은 이 분야의 첫 번째 움직임이었습니다. 2015년에 내부 목적으로 텐서 처리 장치(TPU)를 사용하기 시작했고 몇 년 후 구글 클라우드 고객이 사용할 수 있도록 했습니다. 2018년에 아마존은 아마존 웹 서비스(AWS)에서 사용할 수 있는 맞춤형 AI 칩 그래비톤의 첫 번째 버전을 출시했습니다.
그리고 지난 11월, 마이크로소프트는 맞춤 설계된 두 개의 칩, Maia and Cobalt를 공개했습니다.
여러분도 예상하시겠지만, 페이스북의 모회사인 메타 플랫폼도 자체 맞춤형 인공지능 칩인 메타 훈련 및 추론 가속기를 설계했습니다. 애플과 테슬라도 맞춤형 칩을 보유하고 있습니다. 테슬라는 몇 년 전부터 자율주행 기능에 맞춤형으로 설계된 칩을 사용하기 시작한 반면, 애플은 다양한 가전제품에 맞춤형 실리콘을 사용합니다.
What semiconductor companies are involved in the custom chip market?
Broadcom (AVGO 0.35%) is the biggest name in the custom AI chip business. There's much confidentiality in this space, but it's known that Broadcom's custom AI chip customers include Alphabet and Meta Platforms. Moreover, at an investor event in March, Broadcom disclosed that it had gained a third big custom AI chip customer, but it did not name the company.
How big is the custom chip market?
Research firm 650 Group's Alan Weckel estimated the data center custom chip market will be worth about $10 billion this year, and surge to $25 billion in 2025, according to the Reuter's exclusive. That article also cited a Needham analyst who covers the semiconductor space as pegging the broader custom chip market at approximately $30 billion in 2023.
How large is the custom chip market relative to Nvidia's size?
On May 22, Nvidia is due to report its results for the fiscal first quarter, which ended in late April. Management has guided for quarterly revenue of $24 million. If we use this number as an estimate and multiply it by four, Nvidia's annual revenue run rate comes out to about $96 million.
If we assume the data center AI chip market will be worth about $25 million by 2025 and the broader custom chip market was worth $30 million last year, as estimated by 650 Group, it's clear that the custom chip market is substantial even for a company as massive as Nvidia.
It makes good sense for Nvidia to leverage its expertise
It seems extremely likely that Nvidia will enter the custom chip market for AI and other applications. The company has expertise across GPUs, central processing units (CPUs), data processing units (DPUs), and high-performance networking technologies. It makes good sense for it to leverage its extensive intellectual property (IP) to capture some of the already large and fast-growing custom chip market.
커스텀 칩 시장에는 어떤 반도체 회사가 참여하고 있습니까?
브로드컴(AVGO 0.35%)은 맞춤형 AI 칩 사업의 가장 큰 이름입니다. 이 공간에는 많은 기밀이 있지만 브로드컴의 맞춤형 AI 칩 고객에는 알파벳과 메타 플랫폼이 포함된 것으로 알려져 있습니다. 게다가 브로드컴은 지난 3월 투자자 행사에서 세 번째 큰 맞춤형 AI 칩 고객을 확보했다고 공개했지만 회사 이름은 밝히지 않았습니다.
커스텀 칩 시장은 얼마나 큰가요?
리서치 회사 650 그룹의 앨런 웨켈(Alan Weckel)은 데이터 센터 커스텀 칩 시장이 올해 약 100억 달러 규모가 될 것이며, 2025년에는 250억 달러 규모로 급증할 것이라고 로이터 통신이 단독 보도했습니다. 그 기사는 또한 반도체 분야를 다루는 니덤(Needham) 분석가를 인용해 2023년에는 더 광범위한 커스텀 칩 시장을 약 300억 달러로 고정시켰습니다.
Nvidia의 규모에 비해 맞춤형 칩 시장의 규모는 어느 정도입니까?
5월 22일, 엔비디아는 4월 말에 끝난 회계연도 1분기 실적을 발표할 예정입니다. 경영진은 분기별 매출을 2,400만 달러로 안내했습니다. 이 수치를 추정치로 사용하고 여기에 4를 곱하면 엔비디아의 연간 매출 증가율은 약 9,600만 달러에 이릅니다.
650 그룹이 추산한 2025년까지 데이터센터 AI 칩 시장 규모가 약 2,500만 달러, 지난해 더 넓은 커스텀 칩 시장 규모가 3,000만 달러에 달한다고 가정해보면, 엔비디아처럼 거대한 기업에게도 커스텀 칩 시장은 상당한 규모임이 분명합니다.
Nvidia가 전문 지식을 활용하는 것은 타당합니다
엔비디아(Nvidia)가 인공지능(AI)과 다른 응용 프로그램을 위한 맞춤형 칩(custom chip) 시장에 진출할 가능성이 매우 높아 보입니다. 엔비디아는 GPU, 중앙 처리 장치(CPU), 데이터 처리 장치(DPU), 고성능 네트워킹 기술 전반에 걸쳐 전문 지식을 보유하고 있습니다. 광범위한 지적 재산권(IP)을 활용하여 이미 크고 빠르게 성장하는 맞춤형 칩 시장의 일부를 포착하는 것은 타당합니다.