Uma tomografia no ChatGPT revelou isso… (como a IA pensa por dentro)

A chave para o avanço e controle das inteligências artificiais é compreender melhor como esses modelos funcionam. Com técnicas que lembrar tomografias pesquisadores do campo de interpretabilidade de IA mostram de maneira extremamente curiosa e didática um jeito de entender modelos como o ChatGPT. Estudos da década anterior geraram uma compreensão que os engenherios e cientistas da computação não compreendem como modelos de inteligência artificial funcionam. Um exemplo disso é de que somente 5% dos neurônios de uma rede neural tinham suas funções compreendidas, valores presentes em um estudo de 2021 pelo Distil (laboratório de interpretabilidade da OpenAI). Num artigo de outubro de 2026, Nick Cammarata revisita esse trabalho e mostra que é possível alcançar valores muito melhores com ajustes nas técnicas de interpretação de modelos. Neste vídeo eu explico, do zero, como funciona o "cérebro" de uma IA, navegando em como é feito o estudo de interpretabilidade de modelos de maneira mecanistica. Técnica que lembra uma tomografia e bebe de ciências naturais como a neurociência. O que essa tomografia revelou é que é possível compreender como o modelo funciona ao entender o treinamento dos neurônios. 📄 Artigo: https://already-clean.goodfire.com/ ⏱️ Capítulos 0:00 Uma tomografia num cérebro artificial 0:25 O artigo 0:45 Como funciona o cérebro de uma IA 2:11 Cachorro ou carro? A rede por dentro 3:23 Interpretabilidade mecanística 3:38 InceptionV1 e a imagem que maximiza um neurônio 4:58 O neurônio de carros e cachorros 5:47 A nova leitura: o neurônio do V 6:51 Só 5% fazia sentido 7:11 Por que ninguém sabe o que cada neurônio faz 8:18 De 5% para 99% 9:01 Modelos de linguagem como o ChatGPT 10:00 O neurônio da geologia 10:41 “iy”, DIY e Miyazaki: um neurônio que cresce como árvore 12:28 O experimento da abelha 14:13 Qwen: 90% dos neurônios explicados 14:42 Isso pode salvar a gente? 💬 Quer que eu aprofunde alguma dessas técnicas, ou falar de outro modelo? Deixa nos comentários. caio no caos — navegando no caos que é o mundo usando tecnologia e ciência como ferramentas. Eu sou o Caio, engenheiro de software. Imagens e trechos do artigo exibidos para comentário e análise, com crédito ao autor e à Goodfire. Trilha e efeitos sonoros originais. Legendas disponíveis em português, inglês e espanhol. #InteligenciaArtificial #ChatGPT #RedeNeural