Перейти к содержимому

DRAM 128GB로도 부족했다: 192GB로 Poly Stara·Project Maya·Xolotl + GLM 5.3 Flash · Deepseek V4.1 Flash 1017

소울시커 Soul Seeker

0:00 / 0:00

DRAM 128GB로도 부족했다: 192GB로 Poly Stara·Project Maya·Xolotl + GLM 5.3 Flash · Deepseek V4.1 Flash 1017

13 801 просмотр · 1 день назад
소울시커 Soul Seeker
20 тыс. подписчиков
13 801 просмотр · 1 день назад
오늘은 192GB(48GB×4) DDR5 메모리, BIWIN Origin Code Vortex 리뷰로 192GB의 DRAM이 필요한 대형 AI를 돌려봤습니다. RTX 5090 단 한 장 + 192GB DRAM 환경에서 Strata 포크 3종(Poly Strata / Project Maya / Xolotl)으로 Qwen 3.8 Flash Next Q8, GLM 5.3 Flash(Maya L), Deepseek V4.1 Flash 1017 XQ v3를 직접 돌려봤습니다. VRAM의 한계를 DRAM으로 극복하는 새로운 패러다임, 고용량 메모리 고민 중이신 분들께 도움이 되었으면 좋겠습니다! ※ 본 영상은 코잇으로부터 제품을 금전적 대가 없이 대여받아 제작했습니다. ▶ 영상에서 다룬 내용 제품 스펙: 6000 CL26-35-35 (하이닉스 선별 칩), 양면(2R) 메모리 가격: 890만원(녹화시점 기준), 다른 고용량 메모리와 GB당 단가 비교 QVL에 대해 제대로 이해하기 풀뱅크 장착 시 클럭다운? XMP, EXPO 적용 메모리 쿨러 팬 소음 & 스마트 팬(F6) 속도 조절 방법 192GB DRAM에서 100만 컨텍스트로 돌려본 AI 모델 3종 실측 (메모리 사용량 / 디코딩 / 프리필) ▶ 실측 결과 요약 (RTX 5090 1장, 윈도우, 컨텍스트 100만, KV캐시 FP16) Qwen 3.8 Flash Next Q8 (Poly Strata): DRAM 약 159~162GB(-11GB) / 디코딩 약 51토큰 / 프리필 약 1,800 GLM 5.3 Flash Maya L (Project Maya): DRAM 약 154GB(-11GB) / 디코딩 약 19토큰 GLM 5.3 Flash Unsloth UD-Q4_K_XL (Project Maya): DRAM 약 164GB(-11GB) / 디코딩 약 12토큰 Deepseek V4.1 Flash 1017 XQ V3 (Xolotl): 로딩 시 192GB 가득 찼다 떨어짐 / 체감 10토큰 초반 / 프리필 약 300 ━━━━━━━━━━━━━━━ 이 채널이 더 알려졌으면 하시는 분들은 "구독" "좋아요" "Hype" 부탁드립니다. ━━━━━━━━━━━━━━━ ⏱️ 타임라인 (Timeline) ━━━━━━━━━━━━━━━ 00:00 오프닝 및 제품 소개 (BIWIN Origin Code Vortex DDR5 6000 CL26 192GB) 01:44 대여 제품 리뷰 및 가격·GB당 단가 분석 02:21 가장 큰 단점 및 GB당 단가 비교 04:28 Origin Code Vortex 스펙 분석 - 선별 칩과 양면 메모리 주의점 06:14 QVL이란? 메모리 제조사 QVL을 봐야 하는 이유 11:22 BIWIN QVL 직접 확인하는 방법 12:51 QVL에 없으면 못 쓰는 걸까? 15:37 QVL 미등재 메인보드(Z890 AORUS Xtreme AI TOP)에 장착해보기 16:10 풀뱅크 클럭 다운(인텔 4400 / AMD 3600)의 진짜 이유 17:34 QVL 미지원 보드에서 XMP 적용 → 6000 CL26-35-35 동작 확인 19:00 제품 구성 & 쿨러 살펴보기 20:07 메모리 쿨링 팬 소음과 팬 속도 조절 방법 22:30 리뷰 방향 전환 - '로컬 AI' 실사용 환경에 주목한 이유 23:54 128GB로는 부족하다! 192GB를 구성하게 된 계기 27:05 Strata 포크 3종 프로젝트 소개 (Poly Strata / Project Maya / Xolotl) 33:20 [Poly Strata] Qwen 3.8 Flash Next 8비트 구동 (컨텍스트 100만, KV 캐시 FP16) 36:59 DRAM 사용량 확인 & 지능 테스트 게임 만들기 40:49 Poly Strata 벤치 (디코딩 및 프리필 토큰 성능 측정) 43:05 [Project Maya] GLM 5.3 Flash (Maya L) 모델 구동 및 성능 45:24 다른 유저 벤치 비교 - VRAM이 클수록 빨라진다 47:57 GLM 5.3 Flash 결과물 테스트 50:33 GLM 벤치 - Maya L vs Unsloth 4비트 (디코딩 및 프리필 토큰 성능 측정) 52:16 [XOLOTL] Deepseek V4.1 Flash 1017 XQ v3 구동 테스트 54:38 Deepseek 벤치 (디코딩 및 프리필 토큰 성능 측정) 55:36 총평 - 192GB로 돌려본 AI 모델 3종 결론 58:44 마무리 및 중요포인트 ━━━━━━━━━━━━━━━ 💡 관련 영상 (재생목록 :    • AI & LLM   ) ━━━━━━━━━━━━━━━    • 홈 로컬 AI (LLM) 구축을 위한 사전 준비 | 메인보드 잘 선택 하기      • 비싼 그래픽카드로 게임만? 로컬 AI를 돌려보자 / gemma4, qwen3.6      • 로컬 AI 전력소비, 생각한 것 보다 적은데? 왜 그럴까? 실측결과 및 결과분석      • VRAM만 중요한줄 알았더니.. CPU가 OFFLOAD 방식 로컬 AI 성능...      • 이거하려고 NVIDIA 50 시리즈 모두 모았다... 로컬 AI성능 전수 테...      • 5090 가격의 ⅓인데 로컬 AI 성능은? R9700 (VRAM 32GB) ...      • RTX 5090, R9700 부터 혼종 듀얼 GPU까지, 그래픽카드 16종 ...      • GPU 성능을 최대로 활용하는 llama.cpp 완전 가이드 | 설치·KV캐...      • 좀 더 똑똑 해지는 로컬 AI 설정법!! 웹 검색 MCP 서버 연동 가이드 ...      • 말 한마디에 게임이 만들어지는 시대! 로컬 AI도 된다? 에이전트 기능 활용...      • 토큰비용 0원? 유료 구독 없이 로컬 AI로만 바이브 코딩 어디까지 가능할까...      • 로컬 AI 구축 최대의 적, 무한루프 결국 이렇게 해결했습니다 (Local ...      • 로컬 AI 환경에서 Hermes Agent 응답 속도 '강제 소생' 하는 최...      • AI 에이전트 + 통합개발환경(IDE) MCP Server 연동 / 툴콜링 ...      • 메타(META)의 30B 오픈웨이트 신모델 쓸만할까? 6시간동안 직접 돌려본...      • 엔비디아가 새로 출시한 로컬 LLM 모델 컨텍스트가 무려 100만? 성능은?...      • 고작 27B로 이정도나 된다고? 로컬 AI, 이 모델 빼고 다 지웠습니다 /...      • 성능은 좋은데 답변이 느리다? Qwen 3.8 27B 속도 개선 총정리      • 5090 가격의 ⅓ 인텔 GPU도 로컬AI 가능? B70 (VRAM 32GB...      • [Local AI News] 신규 맥스튜디오 출시, Qwen 3.8 Flas...      • 1629만원짜리 1.2TB/s 메모리 대역폭의 Mac Studio 구매 준비...      • 인텔 B70 GPU 3장 꽂아서 VULKAN으로 Qwen 3.8 FLASH ...      • RTX 5090 + 인텔 ARC B70 성능 다른 혼종 구성?! 2 GPU ...      • Qwen 3.8 27B Q6 CUDA 가능한 가성비 끝판왕 세팅으로 LLM ...      • Fable 5.1? GPT-6 Astra? 그거 말고 Muse Spark 1...      • AI로 크로스바(XBAR) 오버클럭 툴 직접 만들어 보자고 급발진 한 후 생긴일      • 5090 업자매입가 730만원? RTX PRO 5500 출시? M6 Mac ...      • RTX 5090 단 2장으로 이게 된다고? Qwen3.8 Flash Next...      • 저용량 VRAM GPU 사용 가능? 초경량 로컬 AI 모델 Bonsai 2 ...      • 대형 로컬 AI 모델 새로운 패러다임급 변화가 시작됐다. RTX 3060로도...      • AI하려면 PC 뭘 사야 하죠? 클라우드 vs 에이전트 vs 로컬LLM 총정리      • DRAM 128GB로도 부족했다: 192GB로 Poly Stara·Proje...   ━━━━━━━━━━━━━━━ #192GB #BIWIN #OriginCodeVortex #DDR5 #로컬LLM #로컬AI #Strata #PolyStrata #XOLOTL #Qwen #GLM #Deepseek #소울시커 ━━━━━━━━━━━━━━━ [멤버쉽 혜택 안내] 영상 공개 작업 완료 전 영상이 전체 공개일정보다 빠른 시간에 회원 전용으로 미리 업로드 될 수 있으며 멤버쉽 회원은 이러한 영상을 미리 시청하실 수 있습니다.    / @s0ul_seeker   [댓글 질문 가이드] 유튜브 채널 관리 프로그램의 댓글확인 인터페이스에 따라 "댓글이 달리지 않은 글"을 모아 볼 수 있는데 이 때 "대댓글"은 포함되지 않습니다. 중요한 내용은 "대댓글" 말고 "새 댓글"로 작성해 주셔야 빠른 확인이 가능합니다. 답변 받으신분들은 좋아요 한번씩..