MiniMind

6,400만 파라미터짜리 언어 모델을 두 시간 안에 밑바닥부터 학습해 보는 오픈소스 레시피입니다. 파이썬 코드가 학습 파이프라인을 단계별로 따라가게 되어 있고 각 부분이 직접 읽을 수 있을 만큼 작아서, LLM 훈련이 실제로 어떻게 돌아가는지 손으로 익히는 교재 역할을 겸합니다.