엔비디아 작은 AI Dory, 생각을 속으로 반복하면 더 똑똑해질까?

엔비디아가 10월 16일 공개한 작은 AI, Dory 1.0 4B. 모델을 키우는 대신, 안쪽 계산 단계(레이어)를 여러 번 다시 돌며 생각하는 방식이에요. 몇 번 돌지는 실행할 때 숫자 하나로 골라요. 정말 더 똑똑해지는지, 무엇을 잘하고 무엇을 못하는지, 한국어는 되는지 — 제 컴퓨터(RTX 5080)에서 직접 돌려 확인했어요. ■ 직접 돌려 본 것 반복 횟수(1 · 2 · 4)를 바꿔 같은 문제 풀기: 쉬운 수학 문제 · 어려운 수학 문제 코드 짜기: 미리 준비한 채점 문제로 확인 도구 쓰기: 날씨 도구로 두 도시 날씨 묻기 · 정해진 형식(JSON)으로만 답하기 긴 글 속에 숨긴 한 줄 찾기 · 메모리를 아끼는 설정 상식 질문 · 한국어(요리법 · 맞춤법 · 계산 · 요약 · 코드) 윈도우에서 느려지는 설정과 고치는 법 (문제마다 한두 번씩 돌린 결과라, 방향을 보는 정도로 봐 주세요.) 00:00 생각만 길어지는 작은 AI 00:39 오늘 볼 AI, 엔비디아 Dory 1.0 4B 00:59 같은 계산 단계를 다시 도는 구조 02:27 직접 확인할 세 가지 02:38 설치와 윈도우 속도 문제 03:45 시험 1 · 쉬운 문제와 어려운 문제 04:57 시험 2 · 코드 05:25 시험 3 · 도구 쓰기 05:56 시험 4 · 긴 글에서 찾기 06:32 시험 5 · 상식 07:09 시험 6 · 한국어 08:14 누구에게 맞을까 ■ 지금 상태 (2026-10-20 기준) Dory를 읽는 llama.cpp 지원 코드(PR #30306)는 아직 초안이라 정식으로 합쳐지지 않았고, Ollama · LM Studio에선 아직 열리지 않아요. 영상은 이 기준이에요. 영상에선 합쳐지기 전 코드를 받아 직접 프로그램으로 만들어 돌렸어요. ■ 출처 엔비디아 모델 카드(구조 · 권장 설정 · 벤치마크): https://huggingface.co/nvidia/NVIDIA-... 직접 돌린 파일(GGUF): https://huggingface.co/nvidia/NVIDIA-... llama.cpp 지원 코드(PR #30306): https://github.com/ggml-org/llama.cpp... 해외 반응(r/LocalLLaMA):   / 1x7w7dp   (영상 속 벤치마크 · 그래프 숫자는 엔비디아 자체 측정이에요.) Bable · 차곡차곡 말로 쌓으면, 탑이 된다. ※ 내레이션은 AI 합성 음성(Fish Audio)이고, 설명 그림 일부는 AI로 만들었어요. 시험 결과는 직접 돌린 기록과 공개 자료에 근거합니다. #Dory #엔비디아 #로컬AI