28장. 계속 공부하는 법

이 장의 질문: 이 책을 덮은 뒤에도 어떻게 계속 성장하는가? 변하는 것과 변하지 않는 것을 구분하고, 논문을 읽는 법, 실력을 쌓는 순서, 그리고 이 분야를 대하는 태도를 적는다.

당신이 지금 서 있는 곳

돌아보자. 당신은 직선 하나를 긋는 기계(2장)에서 출발해, 그 뼈대 — 모델·손실·최적화 — 가 부품 교체만으로 GPT(18장)와 확산 모델(20장)과 PPO(26장)까지 이어지는 것을 보았다. 역전파를 손으로 굴렸고(10장), 어텐션이 왜 그 모양인지 이해했으며(17장), "다음 단어 맞추기"가 어떻게 지능처럼 보이는 능력을 낳는지(21장), 그 야생마를 어떻게 길들이는지(22장)를 안다. 그리고 그 모든 것의 한계가 어디서 오는지도 안다.

이제 당신은 AI 뉴스의 어떤 헤드라인도 부품으로 분해해 읽을 수 있다. "새 모델이 나왔다"는 소식을 들으면 자문하라 — 입력 표현은? 아키텍처는 Transformer의 어떤 변주인가? 학습 목표와 데이터는? 정렬은 어떻게? 평가는 무엇으로? 이 다섯 질문에 답이 나오면 이해한 것이고, 안 나오면 아직 발표 자료일 뿐이다.

변하는 것과 변하지 않는 것

이 분야는 빠르다. 그러나 빠르게 변하는 것은 표면이다.

변하지 않는 것 — 이 책이 공들여 설명한 것들이다. 학습은 손실의 최소화이고, 일반화가 진짜 목표이며, 데이터가 모델을 만들고, 평가 없는 성적은 소문이다. 표현이 바뀌면 도구가 이식된다. 귀납 편향과 데이터 양은 교환 관계다. 곱셈의 사슬은 소실하고, 지름길은 그것을 살린다. 이 원리들은 10년 전에도 참이었고 10년 뒤에도 참일 것이다. 새 논문의 90%는 이 원리들의 새 조합이다.

변하는 것 — 최고 성능 모델의 이름, 프레임워크의 API, 서빙 엔진, 벤치마크 순위, 이번 달의 유행 기법. 이것들은 외울 대상이 아니라 필요할 때 찾아볼 대상이다. 변하는 것에 시간을 쓰는 사람은 늘 뒤처져 있다고 느끼고, 변하지 않는 것을 쥔 사람은 새것이 나올 때마다 "아, 그 원리의 이런 변주구나"라고 말한다.

논문 읽는 법

이 분야의 1차 자료는 논문이고, 대부분 무료로 공개된다. 논문은 무섭지 않다 — 읽는 순서를 알면.

1. 초록과 그림 1, 그리고 결론만 먼저 (5분). 무엇을 주장하는가? 이 책의 다섯 질문(표현·구조·목표·데이터·평가)으로 정리해 보라. 여기서 흥미가 없으면 덮어도 된다 — 모든 논문을 읽을 필요는 없다.
2. 방법 절을 읽되 수식은 말로 번역하며 (30분). 3장의 습관 — 모든 기호를 등장하는 자리에서 한국어로 읽기 — 를 그대로 쓴다. 수식이 막히면 아주 작은 예(숫자 두세 개)로 재현해 보라.
3. 실험 절은 의심하며 (20분). 기준선은 공정한가(8장)? 비교 모델의 튜닝은 같은 정성으로 했는가? 데이터 누수 가능성은? 여러 시드로 돌렸는가? 좋은 논문일수록 이 질문에 정직하게 답해 둔다.
4. 직접 재현 (선택, 그러나 최고의 공부). 코드가 공개되어 있으면 돌려 보고, 없으면 핵심만 작게 구현해 보라. 이 책의 코드랩이 그 훈련이었다.

논문을 고르는 기준도 하나 — 인용이 많이 되고 오래 살아남은 것부터. 이 분야의 고전 논문 스무 편 정도는 지금도 읽을 가치가 있고, 이 책의 내용 대부분이 그 논문들의 아이디어다. 최신 논문은 원리를 쥔 뒤에 읽어야 옥석이 가려진다.

실력을 쌓는 순서

읽기만으로 실력은 늘지 않는다. 다음 순서를 권한다.

1단계: 코드랩을 전부 완주하라. 실전 코드랩 20편은 이 책의 이론을 손으로 옮기도록 설계됐다. 확장 과제까지 풀면 어떤 논문의 코드도 낯설지 않다.

2단계: 자기 문제를 하나 골라 끝까지 만들어라. 관심 있는 데이터(취미, 업무, 공개 데이터셋)로 문제를 정의하고 — 작업·지표·데이터의 세 질문(1장)부터 — 기준선을 세우고(8장), 모델을 만들고, 틀린 사례를 읽고(8장), 배포까지(27장). 완주한 프로젝트 하나가 튜토리얼 백 개보다 많이 가르친다. 그리고 그 과정을 글로 남겨라 — 쓰면 이해의 구멍이 보인다.

3단계: 한 분야를 깊이 파라. 비전, 언어, 생성, 강화학습, 시스템 — 이 책은 전 분야의 지도를 그렸지만, 전문가는 한 영토를 깊이 안다. 그 영토의 고전 논문을 읽고, 최신 논문을 재현하고, 커뮤니티에서 토론하라. 깊이 하나가 생기면 다른 영토로 옮기는 것은 훨씬 쉽다 — 원리는 공통이므로.

4단계: 가르쳐라. 이해의 최종 시험은 남에게 설명하는 것이다. 스터디를 열고, 글을 쓰고, 질문에 답하라. 설명하다 막히는 지점이 당신의 다음 공부 목록이다.

태도에 관하여

마지막으로 태도 세 가지를 남긴다.

겸손하되 주눅 들지 말라. 이 분야에는 당신보다 아는 사람이 언제나 있다. 그러나 이 책을 읽은 당신은 대부분의 사람보다 원리를 잘 안다. 최전선의 연구도 결국 이 책의 부품들이다 — 신비화하지 말고 분해하라.

측정하라. 이 책에서 가장 자주 반복한 말이다. 느낌은 데이터가 아니고, 소문은 성적이 아니다. 모델에 대해서든 자신의 실력에 대해서든, 재고 기록하고 비교하라.

책임을 기억하라. 당신이 만들 시스템은 사람의 대출을 심사하고, 병을 진단하고, 무엇을 볼지 추천하고, 스스로 행동한다(24장). 8장에서 본 "평균 뒤에 숨은 소수", 22장의 가치의 균형, 24장의 안전장치 — 이것들은 부록이 아니라 이 일의 본질이다. 능력을 키우는 만큼 판단력도 키워야 한다.

이 책의 첫 질문은 "기계가 배운다는 것은 무슨 뜻인가"였다. 이제 당신은 그 답을 알고, 그 답을 코드로 쓸 수 있고, 그 답의 한계를 안다. 남은 것은 계속 배우는 일뿐이다 — 기계처럼, 경험이 쌓일수록 나아지면서.

9부 복습 퀴즈로 마지막 점검을 하라. 그리고 처음으로 돌아가 이 책을 한 번 더 훑어 보라 — 두 번째 읽기에서 보이는 것이 진짜 당신의 것이다.