Google, TPU에서 희소 비디오 어텐션 2.4배 가속

Google은 타일 정렬 어텐션 커널로 TPU v6e 칩 한 개에서 지연 시간을 줄였다고 밝혔다. 발표된 속도 향상은 어텐션 커널에만 해당하며, 전체 비디오 생성 파이프라인을 대상으로 한 것은 아니다.

짧은 소식OossaOossa 게시일: 2026년 9월 30일 오후 4:37 UTC1 분 읽기

사건 날짜: 2026년 9월 30일

1 개 출처 ↓AI의 도움으로 작성하고 번역했습니다. 아래 원본 출처를 확인하세요.

Google은 길고 고해상도인 클립을 생성할 때 비용이 많이 드는 단계인 비디오 확산 모델의 어텐션 속도를 높인 사례를 공개했다. JAX와 Pallas로 구현한 이 커널은 희소 어텐션을 사용하고, 어텐션 마스크를 TPU가 연산하는 타일에 맞춘다.

TPU v6e 칩 한 개에서 테스트한 결과, 최종 버전은 32.76밀리초가 걸렸다. Dense Splash 어텐션의 78.70밀리초와 비교해 2.40배 빨라졌다고 Google은 밝혔다. 합성 입력을 사용한 측정이며 라우팅, 토큰 재배열, 기기 간 통신은 제외했다. 따라서 이 결과만으로 비디오 생성 전체의 속도가 빨라졌다고 볼 수는 없다.