Jev가 AI 틈새 기술? 구글이 바로 반응합니다… 빠른 응답에 돈을 내는 이유 | 세레브라스, Groq도 절대 안되는 기술이라 했죠

‘Google Gemini' 앰배서더 활동의 일환으로 제작지원을 받았습니다. 빠른 반응 속도로 개발자들의 관심을 모은 AI, Jev를 살펴봅니다. 문장을 길게 생성하는 대신 선택지의 확률을 돌려주는 모델입니다. 기존의 작은 언어모델로도 가능하다는 비판과 비교 조건의 문제를 짚었습니다. 토큰을 순서대로 생성하는 방식과 판단값을 반환하는 방식의 차이도 설명합니다. 반복되는 판단에서 응답 시간과 비용이 왜 중요한지 살펴봅니다. 세레브라스와 Groq의 사례를 통해 빠른 추론이 쓰이는 곳을 짚었습니다. 구글의 공개 모델 DiffusionGemma를 Jev처럼 활용한 개발자의 시도도 소개합니다. 화면 구성과 3D 공간 조합 등 초기 실험에서 새로운 서비스의 가능성을 찾아봅니다. 앱스토어가 개발자들에게 새로운 사업의 길을 열었듯, 빠른 AI 판단이 어떤 시장을 만들 수 있을지 생각해봤습니다. Written by 패치 Edited by 이진이 unrealtech2021@gmail.com