인공지능 공부 커리큘럼을 직접 짜보다
수학 → 파이썬 → 머신러닝 → 딥러닝 → 세부 분야. 후배들에게 공유하려고 정리한 공부 순서와 우선순위.
연구실 후배들에게 “AI 공부 어떻게 시작해요?”라는 질문을 자주 받아서, 내가 밟아온 길을 기준으로 커리큘럼을 정리했다. 핵심은 순서보다 우선순위다. 전부 다 하려고 하면 수학에서 지쳐 떨어진다.
1. 배경 지식은 최소한만, 대신 확실히
수학은 필수와 선택을 나눴다.
| 구분 | 필수 | 하면 좋음 |
|---|---|---|
| 선형대수 | 벡터·행렬 연산, 내적/외적, 주성분 분석 | 고유값·SVD 심화 |
| 미적분 | 도함수, 편미분, 다변수 함수 | 적분법 심화 |
| 확률 | 조건부 확률, 베이즈 정리, 확률 분포 | 추정·가설 검정 |
| 기타 | 경사하강법 | 정보 이론, 컨벡스 최적화, 그래프 이론 |
수학은 논문이나 구현 상황에서 필요할 때 찾아봐도 크게 무리는 없다. 다만 위 “필수” 열은 이해하고 넘어가야 이후 모델 학습 원리가 보인다.
프로그래밍은 파이썬 기초 문법 · 자료구조 · 함수/모듈까지. R과 SQL은 2순위.
2. 필수 시청: CS231n
CV/딥러닝의 교과서. 이해하지 못하더라도 일단 강의를 끝까지 1회독하고, 이후 정리하면서 대략적인 이해를 만드는 방식을 권한다.
3. 머신러닝 → 딥러닝 순서를 권하는 이유
최근에는 머신러닝을 거의 쓰지 않는다는 말도 있지만, 딥러닝과 최신 알고리즘이 왜 나왔는지 이해하려면 고전 머신러닝의 한계를 먼저 겪어보는 편이 빠르다.
- 지도학습: 분류/회귀, SVM, 결정 트리, KNN, 앙상블(배깅 · 부스팅 · 스태킹)
- 비지도학습: K-평균, 계층적 군집화, PCA, t-SNE
- 평가: 교차 검증, 과적합/일반화, 정확도 · 정밀도 · 재현율 · F1
여기서부터는 이론과 코드를 모두 다룰 수 있어야 한다.
4. 딥러닝과 고급 주제
퍼셉트론 → 역전파 → 활성화 함수/최적화/정규화 → CNN → RNN(LSTM · GRU)까지가 기본. 이후에는 관심 분야로 갈라진다.
- NLP: 임베딩, 어텐션, Transformer, BERT/GPT, RAG
- CV: 객체 탐지(R-CNN · YOLO), 시맨틱 분할, 생성/스타일 변환
- 생성 모델: 오토인코더, VAE, GAN
- 강화학습: MDP, 가치/정책 함수, Q-러닝, DQN
5. 라이브러리는 텐서플로+케라스 → 파이토치
로우레벨 감각은 텐서플로+케라스로 익히고, 모델 구현은 파이토치로 넘어가면 코드가 깔끔해진다. 익숙해지면 PyTorch Lightning까지.
6. 그다음은 “내 프로젝트”
커리큘럼을 끝내면 현재 연구 동향을 따라갈 준비는 된 셈이다. 이후엔 캐글 · 데이콘 · 허깅페이스에서 직접 모델을 응용하고 정확도를 개선하는 자신만의 프로젝트가 필요하다. 논문 읽기와 깃허브 · 커뮤니티 활동도 병행하면 좋다.
추천 서적 (기초부터 순서대로)
- 혼자 공부하는 머신러닝 + 딥러닝
- 파이썬 머신러닝 완벽 가이드
- 핸즈온 머신러닝
- 케라스 창시자에게 배우는 딥러닝
- 밑바닥부터 시작하는 딥러닝 시리즈
- 트랜스포머를 활용한 자연어 처리
- 컴퓨터 비전과 딥러닝
- 자연어 처리와 컴퓨터비전 심층학습
이 목록은 실제로 내가 Notion “AI Deep Dive”에 한 권씩 정리해 온 순서이기도 하다. 정리는 AI_and_Data_Deep_Dive 레포에 함께 올리고 있다.