오픈 모델 돌리려면 1000만원... 그냥 Runpod에서 빌려 씁니다 | RTX 5090 + Qwen 3.8

Runpod 가입하고 RTX 5090 빌려 보기 👉 https://fandf.co/4hfBCaa 이 영상은 Runpod의 유료 광고를 포함하고 있습니다. GPU 개비싸서 못 사겠더라고요. 오픈 모델 하나 돌려 보려 해도 RTX 5090이 900만 원 가까이, 본체까지 치면 천만 원은 드니까요. 그래서 AI 개발자용 GPU 클라우드인 Runpod에서 RTX 5090을 필요한 만큼만 빌려 Qwen 3.8 27B를 vLLM으로 띄우고, 제 맥북의 Codex에 연결해서 코딩까지 시켜 봤는데요. 모델은 빌린 5090에서 돌고, Codex는 맥북에서 그 모델을 두뇌로 쓰는 구조입니다. 테스트는 Community Cloud로 했는데, GPU와 디스크를 합쳐 시간당 약 0.7달러이고 분 단위로 과금돼서 거의 한 시간을 켜 두고도 천 원이 안 나왔거든요. 24시간 내내 돌리실 거면 사는 게 맞고, 가끔 쓰시거나 사기 전에 먼저 확인해 보고 싶으시면 빌려 쓰는 쪽이 훨씬 가볍습니다. 📌 영상에서 쓴 설정 전부 (Pod 시작 명령, Codex config.toml, 막힐 때 체크리스트) https://gist.github.com/devbrother202... 모델은 nvidia/Qwen3.8-27B-NVFP4입니다. 32GB인 RTX 5090에는 27B 모델을 원래 정밀도 그대로 올릴 수 없어서 4비트(NVFP4) 버전을 썼어요. 영상 앞부분 지표(34점)는 원래 정밀도 모델 기준이라 품질이 조금 낮을 수 있습니다. 회사·고객 데이터가 들어가는 작업이면 Secure Cloud를 고르세요. Community Cloud는 외부(제3자) 호스트의 GPU입니다. vLLM 이미지는 latest 대신 v0.29.0으로 고정하고, API 키는 직접 만든 값을 Runpod Secret에 넣어 쓰시는 게 안전합니다. Pod 쪽 키 변수는 VLLM_API_KEY, 내 컴퓨터에서 export하는 변수는 RUNPOD_VLLM_KEY입니다. (config.toml의 env_key와 같은 이름) Stop은 GPU 과금을 멈추고 설정을 남기지만, Pod는 한 서버에 묶여 있어서 그 GPU를 다른 사람이 쓰고 있으면 다시 못 켤 수 있어요. 볼륨이 없으면 컨테이너 디스크가 비워져 모델을 새로 받고, 볼륨을 붙였다면 정지 중에는 볼륨 요금이 실행 중의 2배로 나갑니다. 다 쓰셨으면 Terminate까지 해 주세요. ⏱ 타임스탬프 0:00 오픈 모델, 이제 개인 GPU로 1:40 RTX 5090 가격, 얼마나 올랐나 2:48 사지 않고 빌리기, Runpod 소개 3:44 살까, 빌릴까: 손익분기 계산 5:23 Pod 만들기 ① vLLM 템플릿 설정 7:52 Pod 만들기 ② GPU 고르기 (Secure vs Community) 9:43 배포하고 웹 터미널로 확인 11:51 Codex에 연결하기 13:59 Codex로 코딩 테스트, 추론 강도 바꾸기 15:12 실제 요금 확인, Stop과 Terminate 16:48 직접 써 본 소감 18:25 안정적으로 쓰는 팁 (버전 고정, API 키) 19:09 이럴 때 빌려 쓰세요 20:21 기존 클라우드 대비 요금, 마무리 🔗 영상에 나온 것들 Qwen 3.8 27B 지표 (Artificial Analysis Intelligence Index) https://artificialanalysis.ai/models/... Runpod GPU 요금 https://www.runpod.io/pricing RTX 5090 국내 가격 (다나와 검색) https://search.danawa.com/dsearch.php... Codex CLI https://github.com/openai/codex ※ 가격은 녹화 시점(2026-09-28 조회) 기준입니다. 시간당 1,300원대는 Runpod RTX 5090 Secure Cloud $0.99 × 환율 1,352원(매매기준율) ≈ 1,338원, 영상에서 쓴 Community Cloud는 $0.69 ≈ 933원, RTX 5090 국내 최저가는 다나와 기준 약 870만 원입니다. 영상 속 손익분기 계산도 같은 기준이고, Community 요금은 수요·공급에 따라 바뀌어요. 최신 요금은 https://www.runpod.io/pricing 에서 확인하세요. ※ 기존 클라우드 대비 요금 차이는 GPU와 시점에 따라 크게 달라요. 쓰시려는 GPU로 직접 비교해 보시는 걸 추천드립니다. Runpod is the AI Developer Cloud. Sign Up Today. https://fandf.co/4hfBCaa 5090 사기 전에, 빌려서 먼저 한번 돌려 보세요. #runpod #오픈모델 #GPU대여 #RTX5090 #Codex #Qwen #vLLM #AI코딩