A IA só adivinha a próxima palavra? Como ela é treinada, do zero

Ninguém programou as respostas do ChatGPT. Então, de onde elas vêm? Neste episódio, abrimos a caixa: como uma inteligência artificial funciona por dentro, como ela nasceu em 1958, como foi treinada lá no começo e como é treinada hoje. Sem fórmulas. Do Perceptron — uma máquina com 400 células de luz e botões girados por motores — aos modelos com mais de 1 trilhão de parâmetros que hoje treinam praticando sozinhos. ⏱️ CAPÍTULOS 0:00 Introdução 0:34 Regras ou exemplos: o que é aprendizado de máquina 1:19 1958: o neurônio artificial 2:27 O inverno da IA e a retropropagação 3:37 2012: dados + placas de vídeo = o big bang 4:50 Como o ChatGPT funciona: atenção e próxima palavra 6:09 Como se treina: pré-treino, ajuste fino e feedback humano 7:42 Como se treina hoje: praticando com recompensa 8:50 O que a IA é (e o que não é) 💬 Qual parte você não sabia? Conta nos comentários. ▶️ Episódio anterior: Superinteligência — o que os cientistas realmente dizem 📚 FONTES • F. Rosenblatt, "The Perceptron: a probabilistic model for information storage and organization in the brain", Psychological Review (1958) • Smithsonian National Museum of American History — Mark I Perceptron • The New York Times, "New Navy Device Learns By Doing" (8 jul. 1958) • M. Minsky & S. Papert, "Perceptrons" (1969) • Rumelhart, Hinton & Williams, "Learning representations by back-propagating errors", Nature (1986) • Deng et al., "ImageNet: A Large-Scale Hierarchical Image Database" (2009) · Russakovsky et al., IJCV (2015): https://image-net.org • Krizhevsky, Sutskever & Hinton, "ImageNet Classification with Deep Convolutional Neural Networks" (AlexNet, 2012) • A. Karpathy, "What I learned from competing against a ConvNet on ImageNet" (2014) • Vaswani et al., "Attention Is All You Need" (2017): https://arxiv.org/abs/1706.03762 • Brown et al., "Language Models are Few-Shot Learners" (GPT-3, 2020): https://arxiv.org/abs/2005.14165 • DeepSeek-AI, DeepSeek-V3 Technical Report (2024) · Moonshot AI, Kimi K2 (2025) • Meta, "Introducing Meta Llama 3" (2024): https://ai.meta.com/blog/meta-llama-3/ · "The Llama 3 Herd of Models": https://arxiv.org/abs/2407.21783 • Stanford HAI, AI Index 2024: https://hai.stanford.edu/ai-index/202... • Epoch AI, "How much does it cost to train frontier AI models?": https://epoch.ai/blog/how-much-does-i... • Ouyang et al., "Training language models to follow instructions with human feedback" (InstructGPT, 2022): https://arxiv.org/abs/2203.02155 • OpenAI, "Learning to reason with LLMs" (set/2024): https://openai.com/index/learning-to-... • DeepSeek-AI, "DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning" (2025): https://arxiv.org/abs/2501.12948 • OpenAI, "Why language models hallucinate" (2025): https://openai.com/index/why-language... • Anthropic, "Mapping the Mind of a Large Language Model" (2024) e "Tracing the thoughts of a large language model" (2025) Os números de "atenção" e as probabilidades da "próxima palavra" mostrados nos diagramas são ilustrativos. A conta dos 250 mil anos considera 15 trilhões de tokens ≈ 11 trilhões de palavras, lidas a 250 palavras por minuto, 8 horas por dia. ℹ️ Este vídeo usa ferramentas de inteligência artificial para narração, ilustrações e animações. Roteiro, pesquisa e checagem dos dados são feitos por pessoas. Citações em inglês reproduzidas literalmente, com tradução livre. 🔔 Inscreva-se no O Futuro, Agora — o futuro acontecendo agora. #inteligenciaartificial #IA #ChatGPT #comofunciona #redesneurais #tecnologia #futuro