구글, 보안·긴 문맥 특화 TPU 시스템 공개

ai.euno.news 자동 뉴스 요약

구글이 8세대 텐서처리장치(TPU) 제품군에 TPU 8tx와 TPU 8i Max를 추가했다. 8tx는 보안·기밀 추론에, 8i Max는 대규모 문맥 창과 랙당 높은 연산 밀도에 초점을 맞춘 시스템이다. 지난 4월 공개한 대규모 학습용 8t, 실시간 추론용 8i와 합치면 구글이 한 해에 네 가지 TPU 시스템을 선보인 것은 이번이 처음이다.¹

두 제품은 새 칩이라기보다 기존 8세대 TPU를 바탕으로 구성한 새 시스템이다. 칩 개발은 실리콘 위에 수십억 개 트랜지스터를 배치하는 수년짜리 작업이지만, 시스템 개발은 칩 주변의 연산 자원과 네트워크, 스토리지, 고속 메모리, 보안 기능을 조합하는 일이다. 구글은 TPU를 ‘AI 하이퍼컴퓨터’의 모듈형 구성 요소로 설계해 새로운 수요에 맞춘 시스템을 수개월 안에 내놓을 수 있다고 설명했다.¹

제품별 역할도 갈린다. 8t는 대규모 기반 모델 학습에서 전력당 유효 성능을 높이는 데 맞췄고, 이전 세대보다 학습 성능이 최대 2.7배 높다. 8i는 칩 사이 통신 지연을 최대 절반으로 줄여 실시간 추론을 겨냥했으며, 추론 가격 대비 성능은 이전 세대보다 80% 개선됐다는 것이 구글의 발표다. 여기에 8i Max는 대규모 문맥 창과 랙당 최고 연산 밀도를 겨냥하고, 8tx는 규제가 엄격한 조직이 요구하는 특수 암호화와 하드웨어 수준의 데이터 보호를 맡는다.¹

구글이 강조하는 변화는 범용 가속기 하나로 학습과 추론을 모두 처리하기보다, 에이전트형 AI의 작업 특성에 따라 시스템 구성을 세분화했다는 점이다. 연산이 인간 규모에서 에이전트 규모로 옮겨가고 에이전트가 AI 모델의 방대한 문맥 창을 다루게 되면서, 긴 문맥 처리와 기밀성 보장이 별도의 설계 과제가 됐다는 설명이다.

다만 공개 자료에는 8tx의 암호화 방식이나 8i Max가 처리할 수 있는 정확한 문맥 길이, 가격, 실제 서비스 일정이 제시되지 않았다. 성능 향상 수치도 8t와 8i에 관한 구글 자체 비교이며, 새로 발표한 두 시스템의 독립 벤치마크는 공개 자료에 제시되지 않았다.¹

읽기 목록은 이 브라우저에 저장됩니다.