엔비디아, 팔란티어와 반도체 공급망 배분 AI화

ai.euno.news 자동 뉴스 요약

엔비디아가 자사 반도체 공급망을 뒷받침하는 인간 전문가의 판단을 소프트웨어로 코드화하는 작업을 팔란티어(Palantir)와 함께 진행했다고 엔비디아 기술 블로그가 9월 10일 밝혔다. 대상은 넴트론(Nemotron) 모델과 팔란티어 파운드리(Foundry)다.

엔비디아는 자사 공급망 성과를 “웨이퍼 출고부터 첫 토큰까지”라는 구간으로 측정한다고 설명했다. 이 구간은 둘로 나뉜다. 실리콘이 팹을 떠나 조립된 시스템이 데이터센터 바닥에 도착하기까지가 ‘타임투랙(time-to-rack)‘이고, 이후 전력·냉각·네트워킹과 소프트웨어 스택까지 준비돼 인프라가 실제로 가동되기까지가 ‘타임투토큰(time-to-token)‘이다. 이번 글이 다루는 대상은 앞쪽 구간, 타임투랙이다.

규모는 그레이스 블랙웰(Grace Blackwell) NVL72 플랫폼 기준으로 드러난다. 랙 하나는 수백만 개 부품과 수천 개 공급사, 수십 곳의 OEM·ODM이 얽혀 조립된다. 랙 안 컴퓨트 트레이 18개 중 하나만 봐도 그레이스 CPU 2개, 블랙웰 GPU 4개, HBM3e 스택 32개가 들어간다. 엔비디아에 따르면 차세대 베라 루빈(Vera Rubin) 공급망은 이보다 두 배 더 크다.

문제는 각 부품의 조달 경로가 제각각이라는 점이다. 위탁생산업체는 엔비디아 직납, 엔비디아가 위탁 보관하는 재고, 협력사 공급분이라는 세 경로에서 모든 부품이 도착해야 조립을 시작할 수 있다. 하나라도 늦으면 먼저 온 부품은 대기해야 한다. 엔비디아는 자재가 제조 현장에 도착한 순간부터 하위 조립품이나 완제품으로 나가는 순간까지를 ‘보유 시간(Time of Ownership, TOO)‘이라는 지표로 관리하고 있다고 밝혔다. 부품 가용성이 계속 바뀌는 상황 때문에 매주 어느 제조 거점에 어떤 자재를 얼마나 배분할지 다시 짜야 하는데, 이를 ‘핵심 자재 배분 문제’라 부른다. 배분 계획은 이번 분기와 다음 분기까지 걸쳐 있고, 가까운 몇 주는 이미 확정된 상태에서 매주 들어오는 새 데이터가 주로 먼 시점의 계획을 바꾸는 식으로 돌아간다.

엔비디아는 이 구간을 줄이려면 실시간 가시성, 단일 실패가 생산을 멈추지 않게 하는 이중화, 상류 생산 약속이 지켜지는 신뢰성, 그리고 복잡한 배분 판단 뒤에 있는 인간 전문성을 지속 가능한 지식으로 코드화하는 것, 이 네 가지가 필요하다고 봤다. 앞의 세 요건이 운영의 기본 토대라면, 실질적 변화는 마지막인 전문성 코드화에서 나온다는 게 회사 설명이다.

이를 위해 엔비디아 공급망 운영팀은 팔란티어와 함께 ‘디지털 공급망 인텔리전스’ 커맨드센터를 구축했다. 팔란티어 파운드리의 온톨로지(Ontology)가 자재, 제조 거점, 생산 약속, 생산능력, 배분, 산출물과 정형화되지 않은 정성적 신호까지 하나의 데이터 레이어로 연결해, 그동안 여러 시스템에 흩어져 있던 신호를 하나의 운영 현황으로 통합했다. 이 표현 방식 덕분에 배분 담당자는 다양한 시나리오를 시뮬레이션할 수 있게 됐고, 엔비디아는 이를 시간이 지날수록 성능이 개선되는 ‘AI 플라이휠’의 토대로 규정했다. 정량적 배분 문제 자체는 엔비디아의 최적화 엔진 큐옵트(cuOpt)로 푸는데, 원문은 이 최적화 수식의 변수 설계 부분에서 끊겨 구체적 알고리즘 내용은 확인되지 않는다.

읽기 목록은 이 브라우저에 저장됩니다.