구글 리서치, 시계열 예측 모델 TimesFM 2.5 공개… 파라미터 60% 줄이고 컨텍스트 8배 확장

구글 리서치가 시계열 예측 파운데이션 모델 TimesFM의 최신 버전 2.5를 공개했다. 이전 버전 대비 모델 크기를 대폭 줄이면서도 성능과 지원 범위를 크게 확장한 것이 특징이다.

TimesFM 2.5는 2억(200M) 파라미터로, 이전 2.0 버전의 5억(500M) 파라미터에서 60% 감소했다. 모델이 가벼워졌음에도 컨텍스트 길이는 2,048에서 최대 16,000으로 약 8배 늘어났다.

새 버전은 최대 1,000 호라이즌까지 연속 분위수(quantile) 예측을 지원하며, 이를 위한 별도의 3천만(30M) 파라미터 분위수 헤드를 옵션으로 제공한다. 또한 기존에 필요했던 주파수(frequency) 지시자가 제거되어 사용이 간편해졌다.

TimesFM은 구글 리서치가 개발한 디코더 전용(decoder-only) 사전학습 시계열 모델로, ICML 2024에서 관련 논문이 발표됐다. 허깅페이스에 체크포인트가 공개되어 있으며, 구글 BigQuery에서도 공식 제품으로 사용할 수 있다.

설치는 PyTorch 또는 Flax 백엔드를 선택할 수 있으며, CPU, GPU, TPU, 애플 실리콘 등 다양한 하드웨어를 지원한다. 공변량(covariate) 지원을 위한 XReg 기능도 2.5 버전에서 다시 추가됐다.

현재 GitHub에서 1만 1,600여 개의 스타를 기록하며 트렌딩에 올랐다. 향후 Flax 버전 모델을 통한 추론 속도 개선과 추가 문서화 작업이 예정되어 있다.