3부 퀴즈. 신경망
0 / 12 문제 맞힘
선형 모델이 XOR를 풀 수 없는 이유와 신경망의 해법을 한 문장씩 말하라.
활성 함수가 없으면 100층 신경망은 무엇과 같은가? 이유는?
'마지막 층은 로지스틱 회귀, 나머지는 표현 변환'이라는 관점을 설명하라.
역전파가 수치 미분보다 압도적으로 빠른 이유는?
학습이 추론보다 메모리를 훨씬 많이 쓰는 이유와, zero_grad()가 필요한 이유를 역전파로 설명하라.
깊은 망에서 기울기가 소실·폭발하는 구조적 이유와, ReLU가 시그모이드보다 유리한 이유는?
깊은 망 학습의 대전략을 한 문장으로 말하고, 네 가지 무기를 나열하라.
잔차 연결 x + F(x)가 소실을 구조적으로 해결하는 원리는?
BatchNorm과 LayerNorm의 차이와 각각의 주 사용처는?
모멘텀과 적응적 학습률이 각각 고치는 순수 SGD의 고질은?
학습 시작 전 3종 건강검진을 말하라.
학습이 안 될 때 의심하는 순서와, 그 순서인 이유는?