강의 시리즈6장. 역전파전남대학교 의공학부(디지털헬스케어)

역전파로 파라미터 수백만 개도 학습한다 이 영상은 파라미터가 수백만 개인 신경망에서도 효율적으로 그래디언트를 계산하는 역전파 알고리즘을 다룹니다. 계산 그래프 위에서의 연쇄법칙 적용부터 2층 신경망 역전파 유도까지 네 줄의 공식이 어떻게 도출되는지 단계별로 설명합니다. 특히 시그모이드 함수와 교차 엔트로피를 결합했을 때 발생하는 기울기 소실 현상과 이를 검증하는 그래디언트 체크 방법까지 다룹니다. 역전파의 역사적 배경과 수학적 원리를 함께 파악할 수 있습니다. 역전파, 계산그래프, 연쇄법칙, 그래디언트, 기울기소실 📌 목차 0:00 오프닝 — 그래디언트는 누가 구해 주나 0:37 먼저 떠올리기 — 재료 세 가지 1:49 1974년 하버드, 워보스 2:24 1986년, 세 번째 발견 3:44 파라미터가 100만 개라면 4:16 핵심 정리 — 역전파가 푸는 문제 5:44 그래프 위의 순전파 6:18 역전파의 출발값 7:39 왜 국소만 알면 충분한가 9:06 2층 신경망의 순전파 10:04 여섯 노드로 펼치기 11:32 놀라운 약분 12:14 오차 신호가 말하는 것 13:47 외적이 나오는 자리 14:38 전치가 나오는 자리 16:08 기울기 소실의 정체 16:48 마지막 한 줄과 반복되는 패턴 18:18 숫자를 넣어 보자 (1) 20:35 실습 6-1: backward 네 줄 채우기 21:51 코드로 확인하기 23:44 그래디언트 체크 실행 24:38 실습 6-2: 버그 재현 26:37 연습문제 풀이 1 27:27 연습문제 풀이 2 29:56 연습문제 풀이 4 강좌: 인공신경망 입문 [2026-02] 차시: 6장. 역전파 제작: MathStudio (Manim + 한국어 음성 합성) IRElab (ire.jnu.ac.kr) 지능형 재활공학 연구실은 인공지능을 활용한 재활공학 기술을 개발하는 연구실입니다. 수학이 당신을 자유케 합니다. ^^.