[한영자막] GPT-4 공동 저자가 밝히는 RLHF를 버리고 'Jev'를 만든 진짜 이유입니다

GPT-4, ChatGPT, InstructGPT(RLHF) 논문의 공동 저자이자 사후 훈련(Post-training)의 선구자인 지오구 알메이다(Diogo Almeida)가 AI Engineer World's Fair에서 발표한 강연입니다. 오늘날 모든 LLM의 기반이 된 RLHF가 왜 '진정한 자동화'의 발목을 잡고 있는지, 그리고 왜 Claude Code나 단순 어시스턴트가 AI의 최종 목적지가 될 수 없는지 냉철하게 짚어봅니다. 인간의 비위를 맞추는 '보조(Assistance)'를 넘어 진정한 '자율 자동화(Automation)'로 나아가기 위한 차세대 AI 패러다임과 TypeSafe의 비전을 확인해 보세요. 📌 주요 내용: • 보조(Assistance) vs 자동화(Automation): 왜 미제 수학 문제는 풀면서 단순 업무엔 사람이 필요할까? • 과대약속과 환각의 비밀: RLHF 보상 모델의 비대칭성이 낳은 필연적 부작용 • Claude Code의 한계: 인간의 피드백 루프에 갇힌 보조 도구의 시대 • 서튼의 쓴 교훈(Bitter Lesson) 재해석: 알고리즘보다 데이터, 데이터보다 올바른 태스크 • TypeSafe AI의 차세대 모델 'Jev': 진짜 유용한 스마트 소프트웨어를 만드는 제3의 길 ⏱ 타임라인: 00:00 - Claude Code 시대가 아닌 이유 01:27 - AI 업계의 양극단: 대성공인가, 거품인가? 03:01 - 두 진영의 괴리: 보조와 자율 자동화 04:18 - 모델이 인간의 비위를 맞추도록 학습된 이유 06:24 - RLHF의 실제 작동 원리와 맹점 07:18 - 인간의 선호 vs 객관적 진실 07:57 - 비즈니스에서 AI로 중요한 결정을 내리지 못하는 이유 08:34 - 보조의 시대 다음은 무엇인가? 09:22 - 보조는 자동화가 아닙니다: 더 똑똑한 소프트웨어의 필요성 14:18 - 사전 훈련(Pre-training)이 문제일까? 15:30 - RLVR과 서튼의 쓴 교훈, 그리고 제3의 최적화 📎 관련 링크: • 연사 X(트위터): https://x.com/CompleteSkeptic • 연사 LinkedIn:   / diogomda   • TypeSafe AI 웹사이트: https://typesafe.ai/ #AI #인공지능 #GPT4 #ChatGPT #ClaudeCode #RLHF #자동화 #머신러닝 #LLM #TypeSafe #AI엔지니어