구글, 다변량 시계열 예측 모델 'TimesFM-3' 공개

ai.euno.news 자동 뉴스 요약

구글이 새로운 시계열 예측 모델 'TimesFM-3'을 공개했다. 더뉴스택에 따르면 구글은 지난달 31일(현지시간) 3억3000만 개 매개변수를 가진 이 모델을 발표했으며, 1조 개가 넘는 실제·합성 데이터 포인트로 학습시켰다. 모델은 현재 허깅페이스(Hugging Face)에서 비상업적 라이선스로 내려받을 수 있다.

시계열 예측 모델은 대형언어모델(LLM)이 다음 단어를 예측하듯 다음 데이터 값을 예측하는 도구다. 최근 몇 년 사이 아마존의 크로노스-2(Chronos-2), 세일즈포스의 모이라이(Moirai) 2.0, 데이터독의 토토(Toto) 2.0 등이 잇따라 나오면서 경쟁이 치열해졌다. 이 모델들의 공통점은 여러 개의 시계열을 동시에 다루는 다변량(multivariate) 예측이 가능하다는 점이다. 구글 연구원 아유시 자인(Ayush Jain)과 라잣 센(Rajat Sen)은 발표문에서 "실제 예측 문제 대부분은 본질적으로 다변량적"이라며, 과거 판매량만으로는 미래를 온전히 설명할 수 없고 관련 제품의 판매량, 유동인구 이력, 날씨나 프로모션 같은 미래 이벤트까지 함께 봐야 한다고 설명했다.

TimesFM-3은 구글이 처음부터 다변량 시계열을 다루도록 사전학습시킨 모델로, 별도 미세조정 없이도(zero-shot) 여러 관련 시계열을 동시에 예측할 수 있다. 구글이 공개한 벤치마크에서는 세일즈포스의 Gift-Eval, 아마존/오토글루온(AutoGluon)의 FEV-Bench, Time 벤치마크 모두에서 경쟁 모델들을 상당한 격차로 앞섰다고 한다. 눈에 띄는 대목은 지난해 9월 출시 당시 최고 성능을 기록했던 TimesFM-2.5가 이번 벤치마크에서는 최하위권으로 밀려났다는 점이다. 이 분야의 기술 발전 속도를 보여주는 사례다.

구조적으로 TimesFM-3은 이전 버전과 마찬가지로 디코더 전용 트랜스포머로, 시계열을 32개 데이터 포인트 단위 패치로 잘라 언어모델의 토큰처럼 처리한다. 달라진 점은 어텐션 레이어가 두 종류로 번갈아 작동한다는 것이다. 하나는 단일 시계열 내에서 시간 순으로 과거만 보는 인과적(causal) 어텐션이고, 다른 하나는 특정 시점에 존재하는 모든 시계열을 가로질러 보는 어텐션이다. 이를 통해 한 제품군의 프로모션이 다른 제품군 예측에 반영되는 식의 상호작용이 가능해진다. 디코딩 방식도 바뀌었다. 이전 버전은 패치를 하나씩 순차적으로 생성해 지연시간이 늘고 오차가 누적됐지만, TimesFM-3은 예측 구간 전체에 마스킹된 placeholder 토큰을 붙인 뒤 한 번의 순전파(forward pass)로 전부 채워 넣는다.

비상업적 라이선스 채택은 최근 모델 개발사들 사이에서 트렌드가 되고 있다. 소스 코드는 아파치(Apache) 2.0 라이선스를 유지하지만, 사전학습된 가중치는 별도의 timesfm-non-commercial-license-v1.0 라이선스로 배포되며 상업적·프로덕션 용도로는 사용할 수 없다. 전작인 TimesFM-2.5나 경쟁 모델인 토토 2.0, 크로노스-2가 모두 아파치 2.0으로 나온 것과 비교하면 방향이 다르다. 동시에 구글은 자사 데이터 웨어하우스 비트쿼리(BitQuery)의 AI.FORECAST 명령을 구동하는 모델을 곧 TimesFM-2.5에서 TimesFM-3으로 교체할 예정이다. 최고 성능 가중치는 외부에 묶어두면서 자사 유료 플랫폼을 통한 접근 경로는 열어두는 셈이다.[^1]

[^1]: The New Stack, "Google's new forecasting model beats everyone. You can't use it at work (yet)."

읽기 목록은 이 브라우저에 저장됩니다.