O que acontece dentro do ChatGPT quando você aperta Enter
Tok Explica
0:00 / 0:00
O que acontece dentro do ChatGPT quando você aperta Enter
430 просмотров · 2 недели назад
Tok Explica
514 подписчиков
430 просмотров · 2 недели назад
Como funciona o ChatGPT por dentro? Você aperta Enter e, em um ou dois segundos, a resposta começa a aparecer. Não tem ninguém do outro lado, mas também não é um banco de respostas prontas. Neste vídeo você segue a sua frase lá dentro: tokens, o mapa dos significados, a atenção (o T do GPT), o sorteio da próxima palavra, como ele aprendeu a conversar e, no fim, quais truques de prompt funcionam e quais são lenda, com estudo, não com achismo.
Criado e editado por Leo Vidal. O Tok, nosso robô animado, narra com voz sintética. Todas as fontes estão abaixo.
▶ Série Tok Explica, comece pelo vídeo 1: • Entenda a IA em 10 passos: do básico ao av...
⏱ Capítulos
0:00 O que acontece quando você aperta Enter
0:41 1. Tokens: a frase vira números
1:51 2. Embeddings: o mapa dos significados
2:49 3. Atenção: o T do GPT
4:43 4. A próxima palavra é um sorteio
6:14 5. Como ele aprendeu a conversar
7:36 6. Truques de prompt: o que é lenda (e o que envelheceu)
9:03 7. O que funciona de verdade
10:34 Resumo da viagem
11:40 A seguir: por que os robôs ainda não dobram roupa
📚 Fontes
OpenAI. tiktoken. github.com/openai/tiktoken
Medição do canal (tiktoken, corpus FLORES-200): o português gasta 1,22x os tokens do inglês no o200k_base.
NLLB Team (2024). Scaling neural machine translation to 200 languages. Nature 630:841–846. doi.org/10.1038/s41586-024-07335-x
Petrov, A. et al. (2023). Language Model Tokenizers Introduce Unfairness Between Languages. NeurIPS. arxiv.org/abs/2305.15425
Ahia, O. et al. (2023). Do All Languages Cost the Same? Tokenization in the Era of Commercial Language Models. EMNLP. doi.org/10.18653/v1/2023.emnlp-main.614
Mikolov, T., Yih, W. & Zweig, G. (2013). Linguistic Regularities in Continuous Space Word Representations. NAACL-HLT. aclanthology.org/N13-1090
Nissim, M., van Noord, R. & van der Goot, R. (2020). Fair Is Better than Sensational: Man Is to Doctor as Woman Is to Doctor. Computational Linguistics 46(2). doi.org/10.1162/coli_a_00379
Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. arxiv.org/abs/1706.03762
Brown, T. et al. (2020). Language Models are Few-Shot Learners (GPT-3). NeurIPS. arxiv.org/abs/2005.14165
OpenAI (2023). GPT-4 Technical Report. arxiv.org/abs/2303.08774
Lindsey, J. et al. (2025). On the Biology of a Large Language Model. Transformer Circuits. transformer-circuits.pub/2025/attribution-graphs/biology.html
Anthropic (27/03/2025). Tracing the thoughts of a large language model (fonte do "vai 1" em 10:16). anthropic.com/research/tracing-thoughts-language-model
Holtzman, A. et al. (2020). The Curious Case of Neural Text Degeneration. ICLR. arxiv.org/abs/1904.09751
Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback (InstructGPT). NeurIPS. arxiv.org/abs/2203.02155
OpenAI (2022). Aligning language models to follow instructions. openai.com/index/instruction-following · Introducing ChatGPT. openai.com/index/chatgpt
Zhou, C. et al. (2023). LIMA: Less Is More for Alignment. NeurIPS. arxiv.org/abs/2305.11206
Meincke, L., Mollick, E., Mollick, L. & Shapiro, D. (2025). Prompting Science Reports, Wharton. 1: Prompt Engineering is Complicated and Contingent. arxiv.org/abs/2503.04818 · 2: The Decreasing Value of Chain of Thought in Prompting. arxiv.org/abs/2506.07142 · 3: I'll pay you or I'll kill you, but will you care? arxiv.org/abs/2508.00614
Basil, S. et al. (2025). Prompting Science Report 4: Playing Pretend: Expert Personas Don't Improve Factual Accuracy. arxiv.org/abs/2512.05858
Zheng, M. et al. (2024). When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models. Findings of EMNLP. doi.org/10.18653/v1/2024.findings-emnlp.888
Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. NeurIPS. arxiv.org/abs/2205.11916
OpenAI. Prompt engineering. developers.openai.com/api/docs/guides/prompt-engineering
Anthropic. Prompting best practices. platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices
Altman, S. (10 jun. 2025). The Gentle Singularity. blog.samaltman.com/the-gentle-singularity
TechCrunch (21 jul. 2025). ChatGPT users send 2.5 billion prompts a day. techcrunch.com/2025/07/21/chatgpt-users-send-2-5-billion-prompts-a-day
Chatterji, A. et al. (2025). How People Use ChatGPT. NBER Working Paper 34255. doi.org/10.3386/w34255
📖 Leituras e inspirações
Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS. arxiv.org/abs/2201.11903
Mikolov, T. et al. (2013). Efficient Estimation of Word Representations in Vector Space. arxiv.org/abs/1301.3781
#chatgpt #inteligenciaartificial #engenhariadeprompt