#122 - AI på dansk jord: Fra Gefion til API - med Lars Maaløe fra Corti og Rasmus Bisgaard fra DCAI

Kan vi køre stærke, åbne AI-modeller på dansk jord uden at gå på kompromis med kvaliteten? Lars Maaløe fra Corti og Rasmus Bisgaard fra DCAI fortæller, hvad der skal til mellem en GPU og en AI-service, som udviklere faktisk kan bruge. Vi taler om Cortis erfaringer fra sundhedsvæsenet, Gefion og samarbejdet mellem de to virksomheder. Undervejs diskuterer vi, om man kan optimere for tidligt ved at vælge en lille model, og hvorfor flere agenter også stiller større krav til latency, drift og adgang til compute. I episoden: Hvorfor gode benchmarks ikke er nok, når speech-to-text møder en travl skadestue. Gæsternes vurdering af åbne modellers kvalitet og mulighederne for specialisering. Store versus små modeller: kapacitet, pris og brugeroplevelse. Hvorfor dansk infrastruktur også kræver API'er, dokumentation og support. Rasmus' eksempel med Vejle Kommune og skiftet fra direkte GPU-adgang til Cortis platform. Gæster: Lars Maaløe, medstifter og CTO i Corti. Rasmus Bisgaard, Chief Commercial Officer i DCAI. Kapitler: 00:00 Åbne modeller på dansk jord – mød Lars og Rasmus 01:04 Corti: Fra neurale netværk til hjælp ved 112-opkald 04:09 GPU'er, Theano og de tidlige deep learning-år 07:30 Rasmus' vej fra produktion til NVIDIA og DCAI 10:00 Gefion: Fra supercomputer til enterprise-infrastruktur 16:19 Cortis vej fra applikationer til AI-platform 22:50 Hvorfor domænekendskab stadig er afgørende 27:17 Speech-to-text skal fungere uden for testdatasættet 30:53 Er åbne modeller blevet gode nok? 36:13 Store eller små modeller – hvornår optimerer man? 41:18 Agenter øger behovet for tokens og lav latency 46:43 Corti og DCAI: Kontrol over modeller og infrastruktur 51:25 Ingen kan bygge hele AI-stakken alene 58:36 Vejle Kommune: Fra GPU-adgang til en brugbar service 01:00:23 Afrunding og hvor du kan komme i gang Links og kilder: Corti: https://www.corti.ai/ Corti Labs / Corti Models: https://cortilabs.com/ Cortis API-dokumentation: https://docs.corti.ai/get_started/wel... DCAI og Gefion: https://dcai.dk/ Cortis forskning og publikationer: https://www.corti.ai/research Corti og DCAI om samarbejdet: https://corti.ai/newsroom/dcai-and-co... Hvad holder jer tilbage fra at køre jeres AI på dansk infrastruktur? Verbos: AI og Softwareudvikling er podcasten fra maskinrummet med Kasper Junge og Jonas Høgh Kyhse-Andersen. Vi går teknisk til værks med AI-agenter og software engineering. YouTube:    / @verbospodcast   Apple Podcasts: https://podcasts.apple.com/dk/podcast... Spotify: https://open.spotify.com/show/0wNglFe...