week10 Word Embeddings

Lecture 10 Word Embeddings 인공지능과 자연어 처리 입문 10강입니다. 토큰 ID가 왜 의미를 담지 못하는지에서 출발해, 원-핫 벡터의 한계, 임베딩 행렬과 (B, T) → (B, T, E) 변환, Word2Vec의 CBOW와 Skip-gram, 코사인 유사도까지 차례로 살펴봅니다. • 이전 강의: 9강 NLP 기초 — 토큰화, 어휘 사전, 패딩 Lecture 10 of Introduction to AI and Natural Language Processing: one-hot encoding, dense word embeddings, the embedding matrix, CBOW and Skip-gram, and cosine similarity. 챕터 00:00 인트로 (Introduction) 00:18 단어 임베딩과 Word2Vec 개요 (Overview) 01:13 강의 전체에서 지금 위치 (Where We Are) 02:08 오늘의 계획 (Today's Plan) 03:04 학습 목표 (Learning Goals) 04:07 모델에 벡터가 필요한 이유 (Why Vectors?) 05:04 원-핫 인코딩 (One-Hot Encoding) 05:55 원-핫의 한계 (Why One-Hot Is Limited) 06:46 단어 임베딩이란? (What Is a Word Embedding?) 07:38 임베딩 행렬 (The Embedding Matrix) 08:29 토큰 ID에서 임베딩 시퀀스로 (Token IDs to Embedding Sequences) 09:22 학습 가능한 임베딩과 Word2Vec (Trainable Embedding and Word2Vec) 10:17 이웃 낱말에서 배운다 (Words Learn from Nearby Words) 11:09 문맥 윈도우 (The Context Window) 12:01 CBOW: 문맥 → 중심 단어 (CBOW) 12:57 Skip-gram: 중심 단어 → 문맥 (Skip-Gram) 13:53 Word2Vec이 배우는 것 (What Does Word2Vec Learn?) 14:53 코사인 유사도 (Cosine Similarity) 15:48 Colab에서 할 일 (What We Will Do in Colab) 16:47 핵심 정리 (Key Takeaways)