Tenstorrent는 차세대 클러스터급 시스템의 공식 발표를 앞두고, EE Times에 새로운 AI 영상 생성 데모를 공개했다. 해당 데모는 텍스트 프롬프트를 기반으로 5초 분량의 영상을 생성하는 데 단 3초가 소요되었으며, 이는 실시간보다 빠른 속도다.
이번 데모는 Wan2.2-14B 모델을 기반으로 하며, 720p 해상도(81프레임, 40스텝) 기준으로 동작한다. EE Times 테스트 환경에서는 3초가 소요되었으며, Tenstorrent 측이 기록한 최고 성능은 2.4초로 알려졌다. 이는 동일한 프로덕션 모델을 다른 주요 하드웨어에서 실행했을 때보다 약 10배 빠른 수준이다.
이 시스템은 이미지 및 영상 생성 AI 클라우드 기업인 Prodia가 최적화한 모델을 사용하며, Tenstorrent의 차세대 BlackHole 아키텍처 기반 Galaxy 서버 4대에서 실행된다. 해당 구성은 총 256개의 Tenstorrent BlackHole 칩으로 이루어진 대규모 클러스터 환경이다.
대규모 시스템을 위한 통합 아키텍처
Tenstorrent의 AI 하드웨어 아키텍처는 연산, 메모리, 네트워크를 통합된 구조로 설계해 매우 큰 규모의 시스템에서도 단일 소프트웨어 프로그램을 실행할 수 있도록 한다.
이 구조는 특정 워크로드에 종속되지 않으며, 별도의 독점 인터커넥트나 복잡한 재구성 과정 없이 대규모 병렬 시스템을 구현할 수 있는 것이 특징이다.
Tenstorrent의 수석 연구원 Jasmina Vasiljevic은 현재 AI 산업에서 코드 생성이 큰 주목을 받고 있지만, 영상 생성(Video Generation) 역시 곧 중요한 시장으로 성장할 것이라고 설명했다.
그는 다음과 같이 말했다.
“우리는 영상 생성 분야에 매우 큰 기대를 하고 있습니다. 더 많은 Galaxy 시스템을 활용하면 더 높은 해상도와 더 긴 영상도 처리할 수 있습니다.”
또한 영상 생성 기술이 지금까지 크게 발전하지 못했던 이유 중 하나는 막대한 연산 요구량 때문이라고 설명했다.
과거에는 단 하나의 영상을 생성하는 데 수 분이 걸렸지만, 이제는 5초 분량의 영상을 약 2.5초 만에 생성할 수 있어 실시간을 넘어서는 수준에 도달했다는 것이다.
그는 “실시간 장벽을 넘는 순간 새로운 산업 영역이 열릴 것”이라고 말했다.
영상 생성의 핵심 병목
현재 영상 생성 AI에서 가장 큰 병목은 반복적 디노이징(iterative denoising) 과정이다.
이 과정은 프레임 단위로 병렬화할 수 있지만, 기본적으로는 순차적 처리에 의존하기 때문에 속도 향상에 한계가 있다.
최근 연구에서는 이를 해결하기 위해 텍스트 LLM과 유사하게 미래 토큰이나 프레임을 예측하는 방식의 autoregressive 또는 predictive 모델을 활용하는 방법이 제안되고 있다.
Tenstorrent는 향후 영상 생성 모델이 이러한 두 가지 접근 방식을 결합하는 방향으로 발전할 가능성이 높다고 보고 있다.
영상 생성 시장을 겨냥한 고객 확보
Tenstorrent CEO Jim Keller는 현재 여러 영상 생성 관련 기업들과 협력하고 있으며, 그중에는 주요 AI 연구기관도 포함되어 있다고 밝혔다.
그는 다음과 같이 말했다.
“이 정도 속도로 영상 생성을 구현한 것은 우리가 유일하다고 생각합니다. 또한 비용 측면에서도 경쟁력이 있습니다.”
Keller는 현재 많은 영상 생성 기업들이 기존 모델을 기반으로 작은 변형이나 반복적인 개선을 적용하는 형태로 사용하고 있다고 설명했다.
Wan2.2-14B와 같은 모델을 기반으로 이미 Tenstorrent가 최적화를 진행했기 때문에, 이러한 모델은 비교적 쉽게 실행할 수 있다는 것이다.
또한 그는 다음과 같이 덧붙였다.
“핵심 엔진은 대부분 공통 구조를 갖고 있기 때문에 포팅이 비교적 쉽습니다. 다만 256개의 칩을 동시에 높은 활용률로 실행하는 것은 새로운 영역입니다.”
현재의 영상 생성 모델들이 공통된 구조를 공유하고 있기 때문에, Tenstorrent의 완전 오픈소스 소프트웨어 스택을 기반으로 고객들이 빠르게 시스템을 구축할 수 있다는 점도 강조했다.
Keller는 궁극적으로 Tenstorrent의 목표가 현재 모델뿐 아니라 차세대 AI 모델까지 대응 가능한 범용 아키텍처를 구축하는 것이라고 밝혔다.
출처: EE Times
Tenstorrent는 차세대 클러스터급 시스템의 공식 발표를 앞두고, EE Times에 새로운 AI 영상 생성 데모를 공개했다. 해당 데모는 텍스트 프롬프트를 기반으로 5초 분량의 영상을 생성하는 데 단 3초가 소요되었으며, 이는 실시간보다 빠른 속도다.
이번 데모는 Wan2.2-14B 모델을 기반으로 하며, 720p 해상도(81프레임, 40스텝) 기준으로 동작한다. EE Times 테스트 환경에서는 3초가 소요되었으며, Tenstorrent 측이 기록한 최고 성능은 2.4초로 알려졌다. 이는 동일한 프로덕션 모델을 다른 주요 하드웨어에서 실행했을 때보다 약 10배 빠른 수준이다.
이 시스템은 이미지 및 영상 생성 AI 클라우드 기업인 Prodia가 최적화한 모델을 사용하며, Tenstorrent의 차세대 BlackHole 아키텍처 기반 Galaxy 서버 4대에서 실행된다. 해당 구성은 총 256개의 Tenstorrent BlackHole 칩으로 이루어진 대규모 클러스터 환경이다.
대규모 시스템을 위한 통합 아키텍처
Tenstorrent의 AI 하드웨어 아키텍처는 연산, 메모리, 네트워크를 통합된 구조로 설계해 매우 큰 규모의 시스템에서도 단일 소프트웨어 프로그램을 실행할 수 있도록 한다.
이 구조는 특정 워크로드에 종속되지 않으며, 별도의 독점 인터커넥트나 복잡한 재구성 과정 없이 대규모 병렬 시스템을 구현할 수 있는 것이 특징이다.
Tenstorrent의 수석 연구원 Jasmina Vasiljevic은 현재 AI 산업에서 코드 생성이 큰 주목을 받고 있지만, 영상 생성(Video Generation) 역시 곧 중요한 시장으로 성장할 것이라고 설명했다.
그는 다음과 같이 말했다.
“우리는 영상 생성 분야에 매우 큰 기대를 하고 있습니다. 더 많은 Galaxy 시스템을 활용하면 더 높은 해상도와 더 긴 영상도 처리할 수 있습니다.”
또한 영상 생성 기술이 지금까지 크게 발전하지 못했던 이유 중 하나는 막대한 연산 요구량 때문이라고 설명했다.
과거에는 단 하나의 영상을 생성하는 데 수 분이 걸렸지만, 이제는 5초 분량의 영상을 약 2.5초 만에 생성할 수 있어 실시간을 넘어서는 수준에 도달했다는 것이다.
그는 “실시간 장벽을 넘는 순간 새로운 산업 영역이 열릴 것”이라고 말했다.
영상 생성의 핵심 병목
현재 영상 생성 AI에서 가장 큰 병목은 반복적 디노이징(iterative denoising) 과정이다.
이 과정은 프레임 단위로 병렬화할 수 있지만, 기본적으로는 순차적 처리에 의존하기 때문에 속도 향상에 한계가 있다.
최근 연구에서는 이를 해결하기 위해 텍스트 LLM과 유사하게 미래 토큰이나 프레임을 예측하는 방식의 autoregressive 또는 predictive 모델을 활용하는 방법이 제안되고 있다.
Tenstorrent는 향후 영상 생성 모델이 이러한 두 가지 접근 방식을 결합하는 방향으로 발전할 가능성이 높다고 보고 있다.
영상 생성 시장을 겨냥한 고객 확보
Tenstorrent CEO Jim Keller는 현재 여러 영상 생성 관련 기업들과 협력하고 있으며, 그중에는 주요 AI 연구기관도 포함되어 있다고 밝혔다.
그는 다음과 같이 말했다.
“이 정도 속도로 영상 생성을 구현한 것은 우리가 유일하다고 생각합니다. 또한 비용 측면에서도 경쟁력이 있습니다.”
Keller는 현재 많은 영상 생성 기업들이 기존 모델을 기반으로 작은 변형이나 반복적인 개선을 적용하는 형태로 사용하고 있다고 설명했다.
Wan2.2-14B와 같은 모델을 기반으로 이미 Tenstorrent가 최적화를 진행했기 때문에, 이러한 모델은 비교적 쉽게 실행할 수 있다는 것이다.
또한 그는 다음과 같이 덧붙였다.
“핵심 엔진은 대부분 공통 구조를 갖고 있기 때문에 포팅이 비교적 쉽습니다. 다만 256개의 칩을 동시에 높은 활용률로 실행하는 것은 새로운 영역입니다.”
현재의 영상 생성 모델들이 공통된 구조를 공유하고 있기 때문에, Tenstorrent의 완전 오픈소스 소프트웨어 스택을 기반으로 고객들이 빠르게 시스템을 구축할 수 있다는 점도 강조했다.
Keller는 궁극적으로 Tenstorrent의 목표가 현재 모델뿐 아니라 차세대 AI 모델까지 대응 가능한 범용 아키텍처를 구축하는 것이라고 밝혔다.
출처: EE Times