Перейти к содержимому

Por que a infraestrutura de IA está indo pro Rust

IA em 6 minutos

0:00 / 0:00

Por que a infraestrutura de IA está indo pro Rust

42 703 просмотра · 2 дня назад
IA em 6 minutos
1,69 тыс. подписчиков
42 703 просмотра · 2 дня назад
O motor da IA está mudando. Entenda por que a infraestrutura de IA está migrando para o Rust e o impacto real na performance. A GitHub reescreveu o motor do Copilot em Rust, reduzindo drasticamente a latência. O Python continua sendo o volante da IA, mas o motor por baixo do capô mudou. Vamos analisar a transição dessa infraestrutura, comparando a segurança de memória e o desempenho do Rust em relação ao C++ e ao TypeScript. Este vídeo é para quem quer entender o que muda no seu dia a dia de coding. Analisamos desde a concorrência sem GIL até o uso de SIMD, mostrando como a integração via PyO3 permite combinar a facilidade do Python com a robustez do Rust, sem sacrificar a flexibilidade que a comunidade já conhece. Se o conteúdo trouxe clareza, deixa o like e se inscreve para não perder as próximas análises de arquitetura. Fontes: GitHub — Migrating the Copilot runtime to Rust: https://github.blog/ai-and-ml/migrating-th... LiteLLM — Rust AI gateway benchmarks: https://docs.litellm.ai/blog/rust-ai-gatew... Microsoft MSRC — 70% das CVEs são de memória: https://msrc.microsoft.com/blog/2019/07/a-... Chromium — Memory safety: https://www.chromium.org/Home/chromium-sec... Google — Rust in Android: https://blog.google/security/rust-in-andro... PEP 779 — free-threaded Python suportado: https://discuss.python.org/t/pep-779-crite... Pydantic V2: https://pydantic.dev/articles/pydantic-v2 Polars benchmarks: https://pola.rs/posts/benchmarks/ tiktoken: https://github.com/openai/tiktoken Capítulos: 0:00 É o fim do Python e do TypeScript? 0:23 Não foi só a GitHub: Codex CLI, LiteLLM, Hugging Face 0:56 O mergulho: Python é o volante, C++/CUDA o motor 1:19 Camada de pesquisa × camada de sistemas 1:56 O problema do C++: memória 2:39 Rust: o bug vira erro de compilação 3:20 Motivo 1: latência previsível (sem GC) 3:56 Motivo 2: GIL e a GPU parada 4:38 Motivo 3: layout de memória e SIMD 5:06 Motivo 4: Rust dentro do Python (PyO3/maturin) 5:28 Rust nas ferramentas que você já usa 6:00 Então, é o fim? Rust não substitui o Python #rust #python #typescript #IA