Flow Matching

• Flow Matching은 랜덤한 노이즈를 “조금씩 이동”시켜 원하는 데이터로 만드는 생성 모델 기법
• 각 위치에서 “어느 방향으로 가야 하는지” 알려주는 화살표 지도(속도 벡터 필드)를 학습하는 방식
• 그 화살표를 따라 여러 번 이동하는 반복 계산(ODE 풀이) 기반 생성 프레임워크
• diffusion 대비 훨씬 적은 횟수로 빠르게 결과를 만드는 특성

해당 개념이 필요한 이유

• diffusion model은 노이즈를 지우는 데 수십~수백 번 반복이 필요해 느린 추론
• 실시간 TTS·이미지 생성에는 빠른 생성이 필수
• 기존 normalizing flow는 모델 구조에 까다로운 수학 제약(Jacobian)을 요구하는 설계 부담

한 문장 비유: “화살표를 따라가는 내비게이션”

지도 위 모든 지점마다 “여기서는 이 방향으로 가라”는 화살표가 그려져 있다고 상상하자. 출발점에 서서 화살표가 가리키는 대로 한 걸음 가고, 새 위치의 화살표를 보고 또 한 걸음 가고… 이걸 반복하면 목적지에 도착한다.

• 출발점 = 랜덤 노이즈 (의미 없는 값)
• 목적지 = 우리가 원하는 데이터 (예: 음성의 잠재 표현)
• 화살표 지도 = 모델이 학습하는 것 (= 속도 벡터 필드)
• 걸어가기 = ODE를 푸는 것 (그냥 “조금씩 이동 반복”)

강물에 띄운 종이배를 떠올려도 된다. 각 지점의 물살(=화살표)을 따라 흘러가다 보면 자연스럽게 하구(데이터)에 도달한다.

핵심 용어 4개 — 비유로 이해하기

어려운 말	쉬운 말	비유
Probability path	노이즈 → 데이터로 모양이 변해가는 중간 단계들	애니메이션 프레임 (노이즈가 점점 음성이 되는 영상)
Vector field (속도 벡터 필드)	“이 위치에선 이 방향·이 속도로” 화살표 지도	바람장(weather map) / 강물의 물살
ODE solver	화살표 따라 조금씩 이동하는 반복	게임에서 매 프레임 캐릭터 위치 갱신
Conditional Flow Matching	정답을 알 때 화살표를 가르치는 학습법	출발↔도착을 직선으로 잇고 방향 알려주기

코드로 보는 생성 과정

실제로 “생성”은 게임 물리 루프(위치 += 속도 × 시간)와 똑같다. CS 2학년이면 익숙한 for문이다.

# 생성(추론): 노이즈에서 출발해 화살표(속도)를 따라 조금씩 이동
x = random_noise()            # 출발점: 의미 없는 랜덤값
dt = 1.0 / num_steps          # 한 번에 갈 거리 (스텝이 많을수록 잘게 이동)
 
for t in range(num_steps):    # 예: 8번 반복
    v = model(x, t)           # "지금 위치 x에서 어디로?" → 학습된 속도(화살표)
    x = x + v * dt            # 그 방향으로 한 걸음 이동
 
# 반복이 끝나면 x는 진짜 데이터 (여기선 음성의 잠재 표현)

num_steps가 클수록 잘게 나눠 움직여 정교해지고(품질↑), 작을수록 성큼성큼 가서 빨라진다(속도↑). Supertonic의 total_steps(5~12)가 바로 이 값이다.

학습은 어떻게? — “정답을 알 때 직선으로 가르친다”

화살표 지도는 어떻게 만들까? 학습 때는 출발점(노이즈)과 도착점(진짜 데이터)을 둘 다 알고 있다. 그래서 둘을 직선으로 잇고, “이 직선 방향이 정답 속도야”라고 모델에게 가르친다. 이것이 Conditional Flow Matching이다.

# 학습: 정답을 알고 있으니 직선 경로의 "방향"을 가르친다
noise = random_noise()
data  = real_sample()               # 진짜 데이터 (정답)
 
t   = random(0, 1)                  # 직선 위 임의의 한 지점
x_t = (1 - t) * noise + t * data    # 노이즈와 데이터를 직선으로 보간
target_v = data - noise             # 이 직선의 방향(속도) = 정답 화살표
 
pred_v = model(x_t, t)              # 모델이 예측한 화살표
loss   = mse(pred_v, target_v)      # 정답 화살표에 가까워지도록 학습

수많은 (노이즈, 데이터) 쌍으로 이 학습을 반복하면, 모델은 “어떤 위치에서든 데이터 쪽으로 가는 화살표”를 그릴 줄 알게 된다. 생성할 때는 노이즈만 주고 이 화살표를 따라가게 하면 된다.

diffusion과 비교: “안개 낀 미로” vs “뻥 뚫린 고속도로”

flowchart LR
    subgraph DIFF["Diffusion — 안개 낀 미로"]
        A1[노이즈] --> A2[한 발짝] --> A3[한 발짝] --> A4[...수십~수백 번] --> A5[데이터]
    end
    subgraph FM["Flow Matching — 고속도로"]
        B1[노이즈] --> B2[성큼] --> B3[성큼 5~12번] --> B4[데이터]
    end

항목	Diffusion	Flow Matching
경로	노이즈를 더듬으며 조금씩 제거 (구불구불)	거의 직선 경로를 따라 이동
스텝 수	수십~수백	수~수십 (적음)
속도	느림	빠름 (실시간 적합)
비유	안개 속 한 발짝씩 길찾기	직선 도로 몇 번에 도착

Supertonic에서의 역할

• Supertonic의 text-to-latent 모듈이 flow matching으로 텍스트를 음향 잠재 표현으로 변환한다.
• 사용법의 total_steps(5~12)가 바로 위 for문의 **반복 횟수(num_steps)**다. 클수록 품질↑·속도↓.
• “적은 스텝으로 빠른 생성”이라는 특성 덕분에 GPU 없이 CPU만으로도 실시간에 가까운 TTS가 가능하다.
• Supertonic은 학습 데이터에 노이즈(부정확한 라벨)가 있어도 흔들리지 않도록 Self-Purifying Flow Matching 기법을 더했다.

참고 문서

• Flow matching - Wikipedia
• Self-Purifying Flow Matching (arXiv:2509.19091)
• 상위 개념: Supertonic 3