Перейти к содержимому

O que acontece dentro do ChatGPT quando você aperta Enter

Tok Explica

0:00 / 0:00

O que acontece dentro do ChatGPT quando você aperta Enter

430 просмотров · 2 недели назад
Tok Explica
514 подписчиков
430 просмотров · 2 недели назад
Como funciona o ChatGPT por dentro? Você aperta Enter e, em um ou dois segundos, a resposta começa a aparecer. Não tem ninguém do outro lado, mas também não é um banco de respostas prontas. Neste vídeo você segue a sua frase lá dentro: tokens, o mapa dos significados, a atenção (o T do GPT), o sorteio da próxima palavra, como ele aprendeu a conversar e, no fim, quais truques de prompt funcionam e quais são lenda, com estudo, não com achismo. Criado e editado por Leo Vidal. O Tok, nosso robô animado, narra com voz sintética. Todas as fontes estão abaixo. ▶ Série Tok Explica, comece pelo vídeo 1:    • Entenda a IA em 10 passos: do básico ao av...   ⏱ Capítulos 0:00 O que acontece quando você aperta Enter 0:41 1. Tokens: a frase vira números 1:51 2. Embeddings: o mapa dos significados 2:49 3. Atenção: o T do GPT 4:43 4. A próxima palavra é um sorteio 6:14 5. Como ele aprendeu a conversar 7:36 6. Truques de prompt: o que é lenda (e o que envelheceu) 9:03 7. O que funciona de verdade 10:34 Resumo da viagem 11:40 A seguir: por que os robôs ainda não dobram roupa 📚 Fontes OpenAI. tiktoken. github.com/openai/tiktoken Medição do canal (tiktoken, corpus FLORES-200): o português gasta 1,22x os tokens do inglês no o200k_base. NLLB Team (2024). Scaling neural machine translation to 200 languages. Nature 630:841–846. doi.org/10.1038/s41586-024-07335-x Petrov, A. et al. (2023). Language Model Tokenizers Introduce Unfairness Between Languages. NeurIPS. arxiv.org/abs/2305.15425 Ahia, O. et al. (2023). Do All Languages Cost the Same? Tokenization in the Era of Commercial Language Models. EMNLP. doi.org/10.18653/v1/2023.emnlp-main.614 Mikolov, T., Yih, W. & Zweig, G. (2013). Linguistic Regularities in Continuous Space Word Representations. NAACL-HLT. aclanthology.org/N13-1090 Nissim, M., van Noord, R. & van der Goot, R. (2020). Fair Is Better than Sensational: Man Is to Doctor as Woman Is to Doctor. Computational Linguistics 46(2). doi.org/10.1162/coli_a_00379 Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. arxiv.org/abs/1706.03762 Brown, T. et al. (2020). Language Models are Few-Shot Learners (GPT-3). NeurIPS. arxiv.org/abs/2005.14165 OpenAI (2023). GPT-4 Technical Report. arxiv.org/abs/2303.08774 Lindsey, J. et al. (2025). On the Biology of a Large Language Model. Transformer Circuits. transformer-circuits.pub/2025/attribution-graphs/biology.html Anthropic (27/03/2025). Tracing the thoughts of a large language model (fonte do "vai 1" em 10:16). anthropic.com/research/tracing-thoughts-language-model Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. ICLR. arxiv.org/abs/1904.09751 Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback (InstructGPT). NeurIPS. arxiv.org/abs/2203.02155 OpenAI (2022). Aligning language models to follow instructions. openai.com/index/instruction-following · Introducing ChatGPT. openai.com/index/chatgpt Zhou, C. et al. (2023). LIMA: Less Is More for Alignment. NeurIPS. arxiv.org/abs/2305.11206 Meincke, L., Mollick, E., Mollick, L. & Shapiro, D. (2025). Prompting Science Reports, Wharton. 1: Prompt Engineering is Complicated and Contingent. arxiv.org/abs/2503.04818 · 2: The Decreasing Value of Chain of Thought in Prompting. arxiv.org/abs/2506.07142 · 3: I'll pay you or I'll kill you, but will you care? arxiv.org/abs/2508.00614 Basil, S. et al. (2025). Prompting Science Report 4: Playing Pretend: Expert Personas Don't Improve Factual Accuracy. arxiv.org/abs/2512.05858 Zheng, M. et al. (2024). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. Findings of EMNLP. doi.org/10.18653/v1/2024.findings-emnlp.888 Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. NeurIPS. arxiv.org/abs/2205.11916 OpenAI. Prompt engineering. developers.openai.com/api/docs/guides/prompt-engineering Anthropic. Prompting best practices. platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices Altman, S. (10 jun. 2025). The Gentle Singularity. blog.samaltman.com/the-gentle-singularity TechCrunch (21 jul. 2025). ChatGPT users send 2.5 billion prompts a day. techcrunch.com/2025/07/21/chatgpt-users-send-2-5-billion-prompts-a-day Chatterji, A. et al. (2025). How People Use ChatGPT. NBER Working Paper 34255. doi.org/10.3386/w34255 📖 Leituras e inspirações Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS. arxiv.org/abs/2201.11903 Mikolov, T. et al. (2013). Efficient Estimation of Word Representations in Vector Space. arxiv.org/abs/1301.3781 #chatgpt #inteligenciaartificial #engenhariadeprompt