Перейти к содержимому

#289 LLMOps na prática: segurança, custo e evolução do MLOps

Entre Chaves - Seu podcast de desenvolvimento

0:00 / 0:00

#289 LLMOps na prática: segurança, custo e evolução do MLOps

16 просмотров · 2 нед. назад
Entre Chaves - Seu podcast de desenvolvimento
464 подписчика
16 просмотров · 2 нед. назад
Por que tantas empresas já rodam agentes de IA em produção e ainda tropeçam em segurança, dados e avaliação? Neste episódio, recebemos Francisco Malaguth, Arquiteto e Cientista de Dados, e Guilherme Flora, Cientista de Dados, ambos da dti digital. Eles explicam o que o LLMOps herda do MLOps e o que precisou ser repensado, como o treinamento deu lugar à seleção de modelos e por que o controle de acesso aos dados ficou muito mais fino. A conversa passa pelo trade-off entre liberdade e segurança que os grandes fornecedores enfrentam, pelo custo que leva empresas a economizar em guardrails e pela dificuldade de medir a qualidade de uma resposta aberta. Dê o play e assista agora! Assuntos abordados: • MLOps x LLMOps; • Seleção de modelos; • Fine Grained Access; • Incidentes com IA; • Guardrails; • Custo operacional; • Fundação de dados; • Evals de LLM; • Monitoramento contínuo. Links importantes: • Vagas disponíveis (https://dti.ag/vagas-dtidigital-tech) • Newsletter (https://dti.ag/news-entrechaves) • Dúvidas? Nos mande pelo Linkedin (https://dti.ag/linkedin-entrechaves-d...) Contato:  entrechaves@dtidigital.com.br (mailto:entrechaves@dtidigital.com.br) O Entre Chaves é uma iniciativa da dti digital (https://dti.ag/site-dti-ec) , uma empresa WPP   #inteligenciaartificial