[EP4] GPU와 AI 가속기
남소조
0:00 / 0:00
[EP4] GPU와 AI 가속기
11 просмотров · 3 дня назад
남소조
161 подписчик
11 просмотров · 3 дня назад
병렬 연산의 시대, 그리고 그림을 그리는 기계
0:00 GPU와 AI 가속기
0:33 그림 한 장의 계산량
1:11 CPU와 GPU의 설계 철학
1:55 스포츠카와 버스
2:35 SIMD: 한 명령, 여러 데이터
3:13 그래픽 칩에서 계산 엔진으로
3:45 SIMT와 워프
4:29 수천 개 코어와 지연 숨기기
5:10 신경망 = 행렬 곱셈
5:48 연산의 대부분은 행렬곱
6:22 텐서 코어: 행렬 단위 연산
7:08 숫자 형식: 비트 나누기
7:57 정밀도와 속도의 줄다리기
8:36 루프라인: 진짜 병목
9:20 HBM: 쌓아 올린 메모리
9:55 분리 메모리와 통합 메모리
10:37 확산 모델: 노이즈에서 그림으로
11:24 이미지 생성 파이프라인
12:01 실전: 맥 한 대로 그리기
12:36 FP16 vs BF16 실측
13:19 32GB에 두 모델 넣기
14:04 측정이 답이다
14:39 시리즈를 마치며
애니메이션 Manim · 내레이션 MOSS-TTS · 대본 Claude