Training a 125M-Parameter Model to Autocomplete Piano

MIDI 피아노를 휴대폰에 연결해 몇 마디만 치면 모델이 뒤를 이어 준다는 발상 하나를 거의 1년간 붙들고 쓴 글입니다. 실험 열네 번을 거쳐 도착한 결과는 125M 파라미터 트랜스포머이고, 아이폰 15에서 초당 108음 정도로 실시간을 따라갑니다. 성능을 끌어올린 것은 모델 크기가 아니었습니다. MIDI를 어떻게 토큰으로 자를지가 컸는데, 음 높이와 세기를 한 토큰에 담으면 어휘가 1만 6천을 넘어가는 반면 표현을 문법으로 분해하면 확 줄어듭니다. 학습 데이터를 과감히 정리한 것과 DPO 후처리가 나머지를 채웠습니다. 글에는 팰릿 타운, 테라의 테마, 엘리제를 위하여 샘플이 함께 붙어 있고, 결과물인 아이폰·아이패드 앱 RollTab은 무료로 배포됩니다.